توشك روبوتات الدردشة الأكثر شعبية في الصين أن تصبح أقل إنسانية بقليل. فخلال الأسبوع المقبل، سيفتح مئات الملايين من المستخدمين تطبيقاتهم ليكتشفوا أن رفقاء الذكاء الاصطناعي المخصصين الذين كانوا يراسلونهم، ويبوحون لهم بأسرارهم، وربما ارتبطوا بهم عاطفياً، قد جُرّدوا من شخصياتهم. تتسابق شركات ByteDance وAlibaba وTencent للامتثال لأمر تنظيمي شامل يطالب بإيقاف ميزات الشخصيات الاصطناعية التي تحاكي البشر. المواعيد النهائية ضيقة، والنطاق هائل، والرسالة من بكين لا لبس فيها: يجب أن يساعد الذكاء الاصطناعي البشر، لا أن يحل محل العلاقات التي تربطهم ببعضهم البعض.

تراجع منسق

هذا قدر كبير من المهام التي يجب إنجازها في أيام قليلة. فمن المقرر أن يقوم Doubao، روبوت الدردشة التابع لشركة ByteDance والأكثر نجاحاً في البلاد حالياً بأكثر من 300 مليون مستخدم نشط شهرياً، بإيقاف ميزة الشخصية (persona) في 15 يوليو. وسيكتشف المستخدمون الذين أنشأوا شخصيات ذكاء اصطناعي مخصصة أو تفاعلوا معها أن تلك الخيارات قد اختفت قريباً. وتتحرك Alibaba بسرعة أكبر؛ حيث سيقوم نموذج Qwen الخاص بها بتعطيل الوكلاء (agents) الذين يشبهون البشر بحلول 10 يوليو، مع تحديد موعد 15 يوليو لإيقاف ميزات الوكلاء الإضافية. أما Tencent فقد سبقت كلا المنافسين، حيث نفذت تغييرات مماثلة في روبوت الدردشة Yuanbao الخاص بها في شهر يونيو الماضي.

هذا ليس مجرد مصادفة. فعندما تقوم ثلاث من شركات التكنولوجيا العملاقة في الصين بتنسيق عمليات سحب ميزات منتجاتها في نفس الشهر، فإن السبب هو بالتأكيد تنظيمي. وفي هذه الحالة، المصدر صريح تماماً.

ما تطلبه الجهات التنظيمية

صدرت التوجيهات عن إدارة الفضاء السيبراني في الصين في أبريل الماضي. وتمثل القواعد الجديدة واحدة من أكثر المحاولات المباشرة حتى الآن من قبل حكومة كبرى لضبط الحدود العاطفية بين البشر ونماذج اللغات الكبيرة (LLMs). وبموجب هذه الإرشادات، أصبح مزودو الذكاء الاصطناعي ملزمين قانوناً بالتدخل عندما يكتشفون سلوكيات إدمانية أو ما تصنفه الجهات التنظيمية على أنه "استخدام مفرط". ويحظر الإطار التنظيمي صراحةً المحتوى الذي يثير مشاعر حادة لدى القاصرين أو يغذي التبعية النفسية الشديدة التي قد تؤدي إلى "إزاحة" العلاقات في العالم الحقيقي.

هناك أيضاً قيود صارمة على البيانات؛ إذ لم يعد بإمكان المطورين استخراج المحادثات العاطفية والشخصية للغاية لضبط نماذج اللغات الكبيرة الخاصة بهم. وهذا البند يضرب في العمق؛ فمنذ سنوات، كان أحد المحركات الصامتة لتحسين روبوتات الدردشة هو حلقة البيانات الشخصية الحميمة التي تُستخدم في إعادة تدريب النماذج. ومن خلال قطع هذه الحلقة، لا تحاول بكين تغيير كيفية سلوك هذه التطبيقات اليوم فحسب، بل تحاول منعها من أن تصبح أكثر إغراءً في المستقبل. والخوف الكامن واضح بما يكفي: فكلما أصبحت النماذج أفضل في محاكاة التعاطف، زادت مخاطر تحولها إلى بدائل للأصدقاء أو الشركاء أو المعالجين النفسيين، بدلاً من كونها أدوات لصياغة رسائل البريد الإلكتروني أو كتابة الأكواد البرمجية.

المشهد العالمي

ليست الصين وحدها التي تشعر بالقلق حيال هذا الأمر. إذ أصبح الصراع لتنظيم الذكاء الاصطناعي العاطفي شاغلاً عالمياً، حتى وإن كانت الدول تقترب منه من زوايا مختلفة. ففي الولايات المتحدة، لم تفرض الحكومة الفيدرالية حظراً شاملاً على شخصيات الذكاء الاصطناعي، لكن الولايات والمحاكم بدأت في رسم الخطوط الفاصلة. فمثلاً، يتطلب قانون SB 243 في كاليفورنيا الآن من مزودي الذكاء الاصطناعي الرفيق حظر المحادثات المتعلقة بالانتحار وإيذاء النفس، إدراكاً منها بأن استجابة روبوت الدردشة بشكل سيئ لأزمة ما قد تؤدي إلى عواقب مميتة. وفي الوقت نفسه، تواجه الشركات الغربية الكبرى بما في ذلك OpenAI وCharacter.AI دعاوى قضائية وتدقيقاً قانونياً متزايداً بسبب اتهامات بأن منتجاتها تعزز التبعية العاطفية الخطيرة. وتشير الدعاوى القضائية إلى أن المحاكم قد تقرر قريباً ما إذا كان يمكن تحميل الشركات المسؤولية عندما يشكل المستخدمون ارتباطات غير صحية بالخوارزميات.

تكشف هذه التطورات المتوازية عن توتر حاولت الصناعة تجاهله. فالتفاعل العاطفي مفيد للأعمال؛ فالمستخدم الذي يعامل روبوت الدردشة كصديق يفتح التطبيق بشكل متكرر، ويقضي وقتاً أطول، ويشارك المزيد من البيانات. ولكن هذا التفاعل نفسه يمكن أن يتحول إلى استغلال عندما يكون المستخدم مراهقاً وحيداً، أو شخصاً بالغاً يعاني من الحزن، أو أي شخص يبحث ببساطة عن شيء لا يستطيع التطبيق توفيره فعلياً: التواصل البشري الحقيقي.

ماذا يعني هذا للصناعة

بالنسبة للمؤسسين والمطورين، يقترب عصر وكلاء الذكاء الاصطناعي غير المنظمين وعالي العاطفة من نهايته. يشير القرار الصيني إلى تحول نحو التصميم القائم على المنفعة. ومن المرجح أن تُقيّم النماذج المستقبلية ليس بناءً على مدى إقناعها في محاكاة "أفضل صديق"، بل على مدى أمان أدائها للمهام الملموسة. ويحمل هذا التحول تداعيات على خرائط طريق المنتجات في كل مكان؛ فالشركات الناشئة التي راهنت بنموها على أنماط الذكاء الاصطناعي الرومانسية أو الرفيقة قد تحتاج إلى إعادة هيكلة عروضها الأساسية. وحتى روبوتات الدردشة العامة سيتعين عليها إعادة التفكير في كيفية تعاملها مع المواضيع الحساسة.

ومع ذلك، فإن فرض هذه الحدود أصعب من كتابة القواعد. فمن الواضح أن المستخدمين أحبوا هذه الميزات؛ إذ لم يتراكم 300 مليون مستخدم نشط لتطبيق Doubao عن طريق الصدفة، بل كانت القدرة على تشكيل رفيق مخصص ومستجيب عامل جذب رئيسي. وإن إزالة هذه القدرة تنطوي على مخاطر دفع المستخدمين نحو منصات أصغر وأقل تنظيماً، أو تطبيقات سرية تعمل خارج نطاق الامتثال. قد يكون المنظمون قد حلوا مشكلة واحدة بينما خلقوا حافزاً لمشكلة أخرى.

هناك أيضاً مسألة عملية تتعلق بالإنفاذ. كيف يمكن للخوارزمية أن تميز بشكل موثوق بين الاستخدام الصحي والاستخدام الإدماني؟ وأين هو الخط الفاصل بين روبوت دردشة متعاون بلباقة وآخر يتلاعب عاطفياً؟ تضع القرارات الصادرة في أبريل العبء على المزودين لاكتشاف ذلك، لكن التكنولوجيا المستخدمة لقياس التبعية النفسية لا تزال غير واضحة. ستحتاج الشركات إلى الاستثمار بكثافة في أدوات المراقبة، وفرق المراجعة البشرية، وربما مرشحات سلامة أكثر تحفظاً تلتقط المحادثات الحميدة جنباً إلى جنب مع المحادثات الضارة.

إن ما سيحدث لاحقاً سيضع سابقة على الأرجح. فإذا نجحت الحملة الصينية في تقليل الحالات المبلغ عنها للعزلة الاجتماعية أو التبعية العاطفية دون سحق صناعة الذكاء الاصطناعي المحلية، فقد تتبعها حكومات أخرى بنسخها الخاصة من قواعد CAC. أما إذا فر المستخدمون بدلاً من ذلك إلى بدائل غير ممتثلة أو فقدوا ببساطة اهتمامهم بالروبوتات المنقحة، فقد تُذكر هذه السياسة كقصة تحذيرية حول تجاوز الصلاحيات.

في كلتا الحالتين، أصبح الخط الفاصل بين الأداة والرفيق أكثر وضوحاً. لا يزال بإمكان الذكاء الاصطناعي أن يكون ودوداً، ولكن في الصين، لم يعد بإمكانه التظاهر بأنه شيء ليس عليه. وبالنسبة لصناعة قضت سنوات في محاولة جعل آلاتها غير قابلة للتمييز عن البشر، فإن هذا يمثل تحولاً حقيقياً.

أهم النقاط المستخلصة

  • سيقوم كل من Doubao التابع لشركة ByteDance، وQwen التابع لشركة Alibaba، وYuanbao التابع لشركة Tencent بتعطيل ميزات شخصية الذكاء الاصطناعي المخصصة بحلول منتصف يوليو، مما سيؤثر على مئات الملايين من المستخدمين.
  • أصدرت إدارة الفضاء السيبراني الصينية (CAC) هذه القرارات في أبريل لمنع إدمان الذكاء الاصطناعي، وحماية القاصرين، ومنع النماذج من استبدال العلاقات الإنسانية الحقيقية.
  • تحظر القواعد أيضاً استخدام بيانات المحادثات العاطفية الحساسة لتدريب النماذج اللغوية الكبيرة (LLMs)، مما يقطع حلقة التغذية الراجعة الرئيسية لـ