Самые популярные чат-боты Китая скоро станут чуть менее человечными. В течение следующей недели сотни миллионов пользователей обнаружат в своих приложениях, что персонализированные ИИ-компаньоны, которым они писали, которым доверяли и к которым, возможно, привязались, лишились своих индивидуальностей. ByteDance, Alibaba и Tencent спешат выполнить масштабное предписание регулятора, требующее отключения функций создания человекоподобных ИИ-персонажей. Сроки сжатые, масштаб колоссальный, а посыл Пекина предельно ясен: искусственный интеллект должен помогать людям, а не заменять их отношения друг с другом.

Скоординированное отступление

Все это нужно уместить в несколько дней. Doubao, чат-бот от ByteDance, который на данный момент является самым успешным в стране с более чем 300 миллионами активных пользователей в месяц, должен отключить функцию создания персонажей 15 июля. Пользователи, которые создавали или взаимодействовали с индивидуальными ИИ-персонажами, вскоре обнаружат, что эти возможности исчезли. Alibaba действует еще быстрее. Ее модель Qwen отключит человекоподобных агентов к 10 июля, а дополнительные функции агентов будут деактивированы к 15 июля. Tencent опередила обоих конкурентов, внедрив аналогичные изменения в свой чат-бот Yuanbao еще в июне.

Это не совпадение. Когда три технологических гиганта Китая синхронно откатывают функции своих продуктов в течение одного месяца, причиной почти наверняка является регулирование. И в данном случае источник указан прямо.

Чего требуют регуляторы

Директивы поступили от Управления киберпространства Китая в апреле. Новые правила стали одной из самых прямых попыток крупного государства установить контроль над эмоциональной границей между людьми и большими языковыми моделями. Согласно руководящим принципам, поставщики ИИ теперь обязаны вмешиваться, если обнаруживают аддиктивное поведение или то, что регуляторы классифицируют как «чрезмерное использование». Нормативная база прямо запрещает контент, который вызывает экстремальные эмоции у несовершеннолетних или способствует формированию психологической зависимости, достаточно сильной, чтобы «вытеснять» реальные человеческие отношения.

Также введено жесткое ограничение на данные. Разработчики больше не могут использовать глубоко личные, эмоциональные разговоры для дообучения своих LLM. Это положение наносит серьезный удар. В течение многих лет одним из скрытых двигателей совершенствования чат-ботов был цикл, в котором интимные пользовательские данные возвращались в процесс обучения моделей. Разрывая этот цикл, Пекин не просто меняет поведение этих приложений сегодня; он пытается предотвратить их превращение в нечто более соблазнительное завтра. Основной страх вполне понятен: по мере того как модели все лучше имитируют эмпатию, они рискуют стать заменой друзей, партнеров или терапевтов, вместо того чтобы оставаться инструментами для написания электронных писем или программного кода.

Глобальная картина

Китай не одинок в своих опасениях. Борьба за регулирование эмоционального ИИ становится глобальной проблемой, даже если страны подходят к ней с разных сторон. В Соединенных Штатах федеральное правительство не вводило всеобщего запрета на ИИ-персонажей, но штаты и суды начинают проводить черту. Закон Калифорнии SB 243 теперь обязывает провайдеров ИИ-компаньонов блокировать разговоры о самоубийстве и причинении себе вреда, признавая, что неадекватная реакция чат-бота на кризисную ситуацию может иметь летальные последствия. Тем временем крупные западные игроки, включая OpenAI и Character.AI, сталкиваются с судебными исками и растущим юридическим вниманием из-за обвинений в том, что их продукты способствуют формированию опасной эмоциональной зависимости. Судебные процессы позволяют предположить, что вскоре суды могут решить, несут ли компании ответственность, когда пользователи формируют нездоровую привязанность к алгоритмам.

Эти параллельные процессы выявляют напряженность, которую индустрия пыталась игнорировать. Эмоциональная вовлеченность выгодна для бизнеса. Пользователь, который относится к чат-боту как к другу, открывает приложение чаще, проводит в нем больше времени и передает больше данных. Но та же самая вовлеченность может перерасти в эксплуатацию, когда пользователем является одинокий подросток, скорбящий взрослый или любой человек, который просто ищет то, что приложение на самом деле не может предоставить: подлинную человеческую связь.

Что это значит для индустрии

For founders and developers, the era of unregulated, highly emotive AI agents is closing. The Chinese mandate signals a pivot toward utility-driven design. Future models will likely be judged less on how convincingly they simulate a best friend and more on how safely they perform concrete tasks. That shift carries implications for product roadmaps everywhere. Startups that have bet their growth on romantic or companion AI modes may need to restructure their core offerings. Even general-purpose chatbots will have to rethink how they handle sensitive topics.

Yet imposing these boundaries is harder than writing the rules. Users have clearly loved these features. Doubao’s 300 million active users did not accumulate by accident; the ability to shape a personalized, responsive companion was a major draw. Removing that capability risks pushing users toward smaller, less regulated platforms or underground apps that operate outside the compliance perimeter. Regulators may have solved one problem while creating an incentive for another.

There is also the practical question of enforcement. How does an algorithm reliably distinguish between healthy use and addictive use? Where is the line between a chatbot that is politely helpful and one that is emotionally manipulative? The April mandates put the burden on providers to figure that out, but the technology for measuring psychological dependency remains fuzzy. Companies will need to invest heavily in monitoring tools, human review teams, and probably more conservative safety filters that catch benign conversations along with harmful ones.

What happens next will likely set a precedent. If China’s crackdown successfully reduces reported cases of social isolation or emotional dependency without crushing its domestic AI industry, other governments may follow with their own versions of the CAC rules. If, instead, users flee to non-compliant alternatives or simply lose interest in sanitized bots, the policy may be remembered as a cautionary tale about overreach.

Either way, the line between tool and companion just got brighter. AI can still be friendly, but in China, it can no longer pretend to be someone it is not. For an industry that has spent years trying to make its machines indistinguishable from humans, that is a genuine reversal.

Key Takeaways

  • ByteDance’s Doubao, Alibaba’s Qwen, and Tencent’s Yuanbao are all disabling custom AI persona features by mid-July, affecting hundreds of millions of users.
  • China’s Cyberspace Administration issued the mandates in April to prevent AI addiction, protect minors, and stop models from replacing real human relationships.
  • The rules also ban using sensitive emotional conversation data to train LLMs, cutting off a key feedback loop for