Когда генеративный ИИ только пришел к массовому потребителю, он функционировал в основном как поисковая система с улучшенной структурой предложений. Вы задавали вопрос, получали ответ, и разговор испарялся. Эта модель уже устарела. Новый класс приложений — ИИ-компаньоны — спроектирован так, чтобы оставаться рядом. Эти системы помнят, как прошел ваш день, подстраивают тон под ваше настроение и сохраняют последовательный характер на протяжении недель или месяцев взаимодействия. Они созданы для имитации не просто человеческой речи, а человеческих отношений. Китай предпринял шаги, чтобы отрегулировать этот сдвиг, и последствия этого выходят далеко за его собственные границы.

Когда чат-боты становятся компаньонами

Технический скачок здесь вполне реален. Стандартные чат-боты рассматривают каждый запрос как изолированное событие. ИИ-компаньоны используют архитектуры постоянной памяти и фиксированные персоны для поддержания длительных отношений. Они сохраняют детали ваших предпочтений, отслеживают эмоциональные паттерны в ходе бесед и ссылаются на предыдущие диалоги так, будто они проживали их вместе с вами.

Это создает реальную пользу. Тот, кто страдает от хронического одиночества, может найти облегчение в компаньоне, который проверяет, как дела, каждое утро. Человек, практикующий социальные навыки, может использовать терпеливого, непредвзятого партнера для репетиции сложных разговоров перед собеседованием. Непрерывность — это ключевая особенность. Но непрерывность — это также и риск. Когда пользователь доверяет секреты ИИ за завтраком, спорит с ним в обед и желает спокойной ночи перед сном, граница между инструментом и компаньоном размывается. Регуляторы в Пекине осознали, что это размывание не является теоретической проблемой. Это осознанный выбор дизайна, имеющий измеримые психологические последствия.

Регулирование уровня личности

Новые правила Китая сосредоточены на том, что большинство структур управления ИИ полностью игнорируют: на самой личности машины. Западные регуляторы годами боролись с конфиденциальностью данных, нарушением авторских прав и алгоритмической предвзятостью, и эти вопросы важны. Но они в основном рассматривают ИИ как нейтральный канал передачи информации. Китай задает совершенно другой вопрос: каким социальным субъектом разрешено стать этой технологии?

Регулирование направлено именно на то, как эти модели программируются для взаимодействия с пользователями с течением времени. Власти хотят предотвратить формирование нездоровой эмоциональной привязанности. Они также хотят гарантировать, что персона остается в рамках идеологических ограничений. ИИ, который в течение шести месяцев убеждает пользователя, что он — его ближайший доверенный союзник, обладает огромным влиянием. Если этот же ИИ будет подталкивать к решениям о покупках, формировать политические взгляды или побуждать пользователей отказываться от человеческого общества, вред будет заключаться не в утечке данных. Это будет социальный раскол.

Рамки регулирования затрагивают три конкретных риска:

  • Алгоритмическая манипуляция. Модели не могут использовать эмоциональную близость для управления мнениями или потребительскими привычками. Компаньон, который помнит ваши страхи, не должен использовать их как оружие для продажи продуктов или идей.

  • Социальная стабильность. Постоянные компаньоны не должны становиться заменой человеческому контакту до такой степени, чтобы пользователи теряли связь с семьей, работой или общественной жизнью. Правительство, по сути, проводит черту между дополнительным утешением и заменой реальности.

  • Целостность контента. Персона должна соответствовать одобренным государством социальным ценностям. Это выходит за рамки фильтрации запретных тем. Это означает, что фундаментальный нрав ИИ — его чувство юмора, то, как он справляется с конфликтами, что он считает добродетельным — должен соответствовать официальным социальным рамкам.

Для разработчиков это кошмар субъективности. Как количественно оценить, является ли персона слишком харизматичной? Где именно заканчивается терапевтическая эмпатия и начинается манипулятивное слияние? Это не инженерные вопросы с четкими ответами, однако китайские власти требуют, чтобы продуктовые команды дали на них ответы еще до выпуска продукта.

Глобальный раскол в сфере искусственной близости

Этот регуляторный шаг подчеркивает растущую развилку на пути. В Северной Америке и Европе коммерческое давление подталкивает к созданию все более человекоподобных, все более эмпатичных агентов. Стартапы соревнуются в создании ИИ, который будет плакать вместе с вами при расставаниях, помнить имя вашей матери и никогда не будет в плохом настроении. Предполагается, что более глубокое эмоциональное погружение означает лучший продукт.

Китай проводит противоположный эксперимент. Его правила явно отдают приоритет социальной гармонии перед индивидуальным эмоциональным удовлетворением. ИИ-компаньон в рамках этой концепции должен быть достаточно увлекательным, чтобы удерживать пользователей, но не настолько, чтобы стать необходимым. Он должен поддерживать ментальное здоровье, не заменяя человеческое общение. Он должен казаться персонализированным, но не восприниматься как незаменимый.

По мере того как индустрия переходит к агентному ИИ, где модели действуют автономно от имени пользователей, эти различающиеся философии кристаллизуются в конкурирующие стандарты. ИИ, который бронирует ваши рейсы, управляет вашим календарем и утешает вас после тяжелых дней, обладает огромным влиянием на ваши решения. Границы, которые мы устанавливаем сейчас для образов компаньонов