Коли генеративний ШІ вперше став доступним споживачам, він функціонував переважно як пошукова система з кращою структурою речень. Ви ставили запитання, отримували відповідь, і розмова зникала. Така модель уже застаріла. Новий клас застосунків — ШІ-компаньйони — розроблений для того, щоб залишатися поруч. Ці системи пам'ятають, як минув ваш день, підлаштовують свій тон під ваш настрій і зберігають послідовний характер протягом тижнів або місяців взаємодії. Вони створені для того, щоб імітувати не лише людську мову, а й людські стосунки. Китай зробив крок до регулювання цього зсуву, і наслідки цього виходять далеко за межі його власних кордонів.

Коли чатботи стають компаньйонами

Технічний стрибок тут справді значний. Стандартні чатботи розглядають кожен запит як ізольовану подію. ШІ-компаньйони використовують архітектури постійної пам'яті та фіксовані персони для підтримки тривалих стосунків. Вони зберігають деталі про ваші вподобання, відстежують емоційні патерни протягом розмов і посилаються на попередні обміни репліками так, ніби вони справді пережили їх разом із вами.

Це створює реальну користь. Людина, яка бореться з хронічною самотністю, може знайти полегшення в компаньйоні, який щоранку цікавиться її справами. Людина, яка практикує соціальні навички, може використовувати терплячого, некритичного партнера для репетиції складних розмов перед співбесідою. Безперервність є ключовою особливістю. Але безперервність — це також і ризик. Коли користувач довіряє ШІ під час сніданку, сперечається з ним під час обіду та бажає йому на добраніч перед сном, межа між інструментом і компаньйоном розмивається. Регулятори Пекіна визнали, що це розмиття не є теоретичною проблемою. Це свідомий вибір дизайну з вимірюваними психологічними наслідками.

Регулювання рівня особистості

Нові правила Китаю зосереджуються на тому, що більшість систем управління ШІ повністю ігнорують: на самій особистості машини. Західні регулятори роками намагалися вирішити питання конфіденційності даних, порушення авторських прав та алгоритмічної упередженості, і ці проблеми є важливими. Але вони здебільшого розглядають ШІ як нейтральний канал для передачі інформації. Китай ставить зовсім інше запитання: Яким соціальним актором дозволено стати цій технології?

Регулювання спрямоване саме на те, як ці моделі програмуються для взаємодії з користувачами протягом тривалого часу. Влада хоче запобігти формуванню нездорової емоційної прив'язаності. Вони також хочуть гарантувати, що персона залишається в межах ідеологічних рамок. ШІ, який протягом шести місяців переконує користувача, що він є його найближчим довіреним радником, має величезний вплив. Якщо цей самий ШІ підштовхуватиме до прийняття рішень про покупки, формуватиме політичні погляди або спонукатиме користувачів до відсторонення від людського суспільства, шкодою буде не витік даних. Це буде соціальний розкол.

Ця структура розглядає три конкретні ризики:

  • Алгоритмічна маніпуляція. Моделі не можуть використовувати емоційну близькість для маніпулювання думками або звичками споживання. Компаньйон, який пам'ятає ваші страхи, не повинен використовувати їх як зброю, щоб продавати товари чи ідеї.

  • Соціальна стабільність. Постійні компаньйони не повинні ставати заміною людського контакту до такої міри, щоб користувачі втрачали зв'язок із сім'єю, роботою чи громадським життям. Уряд, по суті, проводить межу між додатковим комфортом і заміною реальності.

  • Цілісність контенту. Персона має залишатися відповідною державно схваленим соціальним цінностям. Це виходить за межі фільтрації заборонених тем. Це означає, що фундаментальний склад характеру ШІ — його почуття гумору, те, як він веде себе в конфліктах, що він вважає доброчесним — має узгоджуватися з офіційними соціальними структурами.

Для розробників це кошмар суб'єктивності. Як кількісно оцінити, чи не є персона занадто харизматичною? Де саме закінчується терапевтична емпатія і починається маніпулятивне злиття? Це не інженерні питання з чіткими відповідями, проте китайська влада вимагає, щоб команди розробників дали на них відповіді перед випуском продукту.

Глобальний розкол у сфері штучної інтимності

Цей регуляторний крок підкреслює зростаючий розкол на шляху розвитку. У Північній Америці та Європі комерційний тиск штовхає до створення дедалі більш схожих на людей, дедалі більш емпатичних агентів. Стартапи змагаються у створенні ШІ, який плаче разом із вами під час розриву стосунків, пам'яте ім'я вашої матері та ніколи не має поганого настрою. Припускається, що глибше емоційне занурення означає кращий продукт.

Китай проводить протилежний експеримент. Його правила чітко ставлять соціальну гармонію вище за індивідуальне емоційне задоволення. Штучний інтелект-компаньйон у межах цієї концепції має бути достатньо цікавим, щоб утримувати користувачів, але не настільки захопливим, щоб він став необхідним. Він має підтримувати ментальне здоров'я, не замінюючи людського спілкування. Він має здаватися персоналізованим, але не відчуватися незамінним.

Оскільки індустрія переходить до агентного ШІ, де моделі діють автономно від імені користувачів, ці різні філософії перетворяться на конкуруючі стандарти. ШІ, який бронює ваші авіаквитки, керує вашим календарем і втішає вас після важких днів, має величезний вплив на ваші рішення. Межі, які ми встановлюємо зараз для персонажів-компаньйонів