محبوب‌ترین چت‌بات‌های چین قرار است کمی کمتر شبیه انسان به نظر برسند. طی هفته آینده، صدها میلیون کاربر اپلیکیشن‌های خود را باز خواهند کرد و متوجه خواهند شد همراهان هوش مصنوعی سفارشی که با آن‌ها پیام می‌دادند، راز می‌گفتند و شاید به آن‌ها وابسته شده بودند، شخصیت خود را از دست داده‌اند. شرکت‌های ByteDance، Alibaba و Tencent در رقابت هستند تا از یک دستور نظارتی گسترده که خواستار تعطیلی ویژگی‌های شخصیت‌پردازی هوش مصنوعیِ انسان‌گونه است، پیروی کنند. مهلت‌ها کوتاه، مقیاس تغییرات عظیم و پیام پکن واضح است: هوش مصنوعی باید به انسان‌ها کمک کند، نه اینکه جایگزین روابط آن‌ها با یکدیگر شود.

عقب‌نشینی هماهنگ

این حجم از تغییرات برای گنجاندن در چند روز بسیار زیاد است. Doubao، چت‌بات ByteDance که در حال حاضر با بیش از ۳۰۰ میلیون کاربر فعال ماهانه، موفق‌ترین چت‌بات کشور است، قرار است ویژگی شخصیت‌پردازی خود را در ۱۵ جولای از دسترس خارج کند. کاربرانی که شخصیت‌های هوش مصنوعی سفارشی ساخته یا با آن‌ها تعامل داشته‌اند، به‌زودی متوجه حذف این گزینه‌ها خواهند شد. Alibaba حتی سریع‌تر عمل می‌کند. مدل Qwen آن تا ۱۰ جولای عامل‌های (agents) انسان‌گونه را غیرفعال خواهد کرد و سایر ویژگی‌های عامل نیز قرار است تا ۱۵ جولای از کار بیفتند. Tencent از هر دو رقیب پیشی گرفته و در ماه ژوئن تغییرات مشابهی را در چت‌بات Yuanbao خود اعمال کرده است.

این یک تصادف نیست. وقتی سه غول فناوری چین بازگشت به عقب (rollbacks) محصولات خود را در یک ماه هماهنگ می‌کنند، علت تقریباً به طور قطع نظارتی است. و در این مورد، منبع آن صریح است.

آنچه نهادهای نظارتی مطالبه می‌کنند

این دستورالعمل‌ها در ماه آوریل از سوی اداره فضای سایبری چین صادر شد. قوانین جدید نشان‌دهنده یکی از مستقیم‌ترین تلاش‌های یک دولت بزرگ برای نظارت بر مرزهای عاطفی بین انسان‌ها و مدل‌های زبانی بزرگ است. طبق این دستورالعمل‌ها، ارائه‌دهندگان هوش مصنوعی اکنون از نظر قانونی موظف هستند در صورت تشخیص رفتارهای اعتیادآور یا آنچه نهادهای نظارتی «استفاده بیش از حد» می‌نامند، مداخله کنند. این چارچوب صراحتاً محتوایی را که باعث تحریک احساسات شدید در افراد زیر سن قانونی شود یا وابستگی‌های روانی چنان شدیدی ایجاد کند که روابط دنیای واقعی را «حاشیه ران» کند، ممنوع می‌کند.

همچنین محدودیت شدیدی بر داده‌ها اعمال شده است. توسعه‌دهندگان دیگر نمی‌توانند مکالمات بسیار شخصی و عاطفی را برای تنظیم دقیق (fine-tune) مدل‌های زبانی بزرگ خود استخراج کنند. این بند تأثیر عمیقی دارد. سال‌هاست که یکی از موتورهای خاموش بهبود چت‌بات‌ها، چرخه بازگشت داده‌های صمیمانه کاربران به فرآیند آموزش مدل بوده است. پکن با قطع این چرخه، نه تنها در حال تغییر نحوه رفتار این اپلیکیشن‌ها در امروز است، بلکه سعی دارد از وسوسه‌انگیزتر شدن آن‌ها در آینده جلوگیری کند. ترس اصلی کاملاً روشن است: با بهتر شدن مدل‌ها در تقلید از همدلی، خطر این وجود دارد که آن‌ها به جای ابزاری برای نوشتن ایمیل یا کدنویسی، به جایگزینی برای دوستان، شریک زندگی یا درمانگران تبدیل شوند.

تصویر جهانی

چین در نگرانی از این موضوع تنها نیست. تلاش برای تنظیم مقررات هوش مصنوعی عاطفی در حال تبدیل شدن به یک دغدغه جهانی است، حتی اگر کشورها از زوایای مختلف به آن نزدیک شوند. در ایالات متحده، دولت فدرال ممنوعیت کلی برای شخصیت‌های هوش مصنوعی صادر نکرده است، اما ایالت‌ها و دادگاه‌ها در حال تعیین مرزها هستند. قانون SB 243 کالیفرنیا اکنون ارائه‌دهندگان هوش مصنوعی همراه را ملزم می‌کند تا مکالمات مربوط به خودکشی و خودآزاری را مسدود کنند، چرا که تشخیص داده‌اند پاسخ نامناسب یک چت‌بات به یک بحران می‌تواند پیامدهای مرگباری داشته باشد. در همین حال، بازیگران بزرگ غربی از جمله OpenAI و Character.AI با شکایت‌ها و نظارت‌های قانونی فزاینده‌ای در مورد اتهاماتی مواجه هستند که محصولاتشان وابستگی عاطفی خطرناکی را تقویت می‌کنند. این شکایت‌ها نشان می‌دهند که دادگاه‌ها ممکن است به‌زودی تصمیم بگیرند که آیا شرکت‌ها در صورت ایجاد وابستگی‌های ناسالم کاربران به الگوریتم‌ها، مسئول شناخته می‌شوند یا خیر.

این تحولات موازی نشان‌دهنده تنشی است که صنعت سعی در نادیده گرفتن آن داشته است. تعامل عاطفی برای کسب‌وکار خوب است. کاربری که با یک چت‌بات مانند یک دوست رفتار می‌کند، بیشتر از اپلیکیشن استفاده می‌کند، زمان بیشتری در آن می‌ماند و داده‌های بیشتری به اشتراک می‌گذارد. اما همین تعامل می‌تواند زمانی به بهره‌کشی تبدیل شود که کاربر یک نوجوان تنها، یک بزرگسال داغدار، یا هر کسی باشد که صرفاً به دنبال چیزی است که اپلیکیشن واقعاً نمی‌تواند فراهم کند: ارتباط انسانی واقعی.

معنای این موضوع برای صنعت

For founders and developers, the era of unregulated, highly emotive AI agents is closing. The Chinese mandate signals a pivot toward utility-driven design. Future models will likely be judged less on how convincingly they simulate a best friend and more on how safely they perform concrete tasks. That shift carries implications for product roadmaps everywhere. Startups that have bet their growth on romantic or companion AI modes may need to restructure their core offerings. Even general-purpose chatbots will have to rethink how they handle sensitive topics.

Yet imposing these boundaries is harder than writing the rules. Users have clearly loved these features. Doubao’s 300 million active users did not accumulate by accident; the ability to shape a personalized, responsive companion was a major draw. Removing that capability risks pushing users toward smaller, less regulated platforms or underground apps that operate outside the compliance perimeter. Regulators may have solved one problem while creating an incentive for another.

There is also the practical question of enforcement. How does an algorithm reliably distinguish between healthy use and addictive use? Where is the line between a chatbot that is politely helpful and one that is emotionally manipulative? The April mandates put the burden on providers to figure that out, but the technology for measuring psychological dependency remains fuzzy. Companies will need to invest heavily in monitoring tools, human review teams, and probably more conservative safety filters that catch benign conversations along with harmful ones.

What happens next will likely set a precedent. If China’s crackdown successfully reduces reported cases of social isolation or emotional dependency without crushing its domestic AI industry, other governments may follow with their own versions of the CAC rules. If, instead, users flee to non-compliant alternatives or simply lose interest in sanitized bots, the policy may be remembered as a cautionary tale about overreach.

Either way, the line between tool and companion just got brighter. AI can still be friendly, but in China, it can no longer pretend to be someone it is not. For an industry that has spent years trying to make its machines indistinguishable from humans, that is a genuine reversal.

Key Takeaways

  • ByteDance’s Doubao, Alibaba’s Qwen, and Tencent’s Yuanbao are all disabling custom AI persona features by mid-July, affecting hundreds of millions of users.
  • China’s Cyberspace Administration issued the mandates in April to prevent AI addiction, protect minors, and stop models from replacing real human relationships.
  • The rules also ban using sensitive emotional conversation data to train LLMs, cutting off a key feedback loop for