زمانی که هوش مصنوعی مولد برای اولین بار به دست مصرفکنندگان رسید، عمدتاً مانند یک موتور جستجو با ساختار جملهبندی بهتر عمل میکرد. شما سوالی میپرسیدید، پاسخی دریافت میکردید و گفتگو از بین میرفت. آن مدل دیگر منسوخ شده است. نسل جدیدی از اپلیکیشنها — همراهان هوش مصنوعی — برای ماندگار شدن طراحی شدهاند. این سیستمها به خاطر میسپارند که روز شما چگونه گذشت، لحن خود را با حال و هوای شما تنظیم میکنند و در طول هفتهها یا ماهها تعامل، شخصیتی ثابت را حفظ میکنند. آنها نه تنها برای تقلید از گفتار انسان، بلکه برای تقلید از روابط انسانی ساخته شدهاند. اکنون چین برای تنظیم این تغییر وارد عمل شده است و پیامدهای آن بسیار فراتر از مرزهای خود این کشور است.
وقتی چتباتها به همراه تبدیل میشوند
جهش فنی در اینجا واقعی است. چتباتهای استاندارد با هر دستور (prompt) به عنوان یک رویداد مجزا برخورد میکنند. همراهان هوش مصنوعی از معماریهای حافظه پایدار و شخصیتهای ثابت برای حفظ روابط مداوم استفاده میکنند. آنها جزئیات مربوط به ترجیحات شما را ذخیره میکنند، الگوهای عاطفی را در طول گفتگوها دنبال میکنند و به تبادلات قبلی به گونهای ارجاع میدهند که گویی واقعاً آنها را با شما تجربه کردهاند.
این امر کاربرد واقعی ایجاد میکند. کسی که با تنهایی مزمن دست و پنجه نرم میکند، ممکن است در همراهی که هر صبح به او سر میزند، تسکین پیدا کند. فردی که در حال تمرین مهارتهای اجتماعی است، میتواند از یک شریک صبور و بدون قضاوت برای تمرین گفتگوهای دشوار قبل از یک مصاحبه شغلی استفاده کند. تداوم، ویژگی اصلی این سیستمهاست؛ اما تداوم، ریسک نیز هست. وقتی کاربر هنگام صبحانه با یک هوش مصنوعی دردودل میکند، هنگام ناهار با آن بحث میکند و قبل از خواب به آن شببخیر میگوید، مرز بین ابزار و همراه از بین میرود. رگولاتورهای پکن تشخیص دادهاند که این از بین رفتن مرزها، یک نگرانی تئوریک نیست، بلکه یک انتخاب طراحی با پیامدهای روانشناختی قابل اندازهگیری است.
تنظیم مقررات لایه شخصیت
قوانین جدید چین بر چیزی تمرکز دارند که اکثر چارچوبهای حکمرانی هوش مصنوعی کاملاً نادیده میگیرند: شخصیت خودِ ماشین. رگولاتورهای غربی سالهاست که با حریم خصوصی دادهها، نقض حق چاپ و سوگیری الگوریتمی دست و پنجه نرم میکنند، و این مسائل مهم هستند. اما آنها عمدتاً با هوش مصنوعی به عنوان یک لوله خنثی برای انتقال اطلاعات برخورد میکنند. چین سوال کاملاً متفاوتی میپرسد: این فناوری اجازه دارد به چه نوع بازیگر اجتماعی تبدیل شود؟
مقررات بهطور خاص نحوه برنامهریزی این مدلها برای تعامل با کاربران در طول زمان را هدف قرار میدهند. مقامات میخواهند از شکلگیری وابستگیهای عاطفی ناسالم جلوگیری کنند. آنها همچنین میخواهند اطمینان حاصل کنند که شخصیت (persona) در چارچوبهای ایدئولوژیک باقی میماند. هوش مصنوعیای که شش ماه را صرف متقاعد کردن یک کاربر میکند که نزدیکترین محرم اسرار اوست، نفوذ عظیمی دارد. اگر همان هوش مصنوعی تصمیمات خرید را تحت تأثیر قرار دهد، دیدگاههای سیاسی را شکل دهد یا کاربران را به کنارهگیری از جامعه انسانی تشویق کند، آسیب ناشی از آن یک نقض داده نیست، بلکه یک گسست اجتماعی است.
این چارچوب به سه ریسک ملموس میپردازد:
دستکاری الگوریتمی. مدلها نمیتوانند از صمیمیت عاطفی برای جهتدهی به نظرات یا عادات مصرف استفاده کنند. همراهی که ترسهای شما را به خاطر میسپارد، نباید از آنها برای فروش محصولات یا ایدهها به عنوان سلاح استفاده کند.
ثبات اجتماعی. همراهان پایدار نباید تا حدی جایگزین تماسهای انسانی شوند که کاربران از خانواده، کار یا زندگی مدنی جدا شوند. دولت در واقع در حال ترسیم خطی بین تسکین مکمل و واقعیت جایگزین است.
یکپارچگی محتوا. شخصیت باید با ارزشهای اجتماعی مورد تأیید دولت همسو باقی بماند. این فراتر از فیلتر کردن موضوعات ممنوعه است. این بدان معناست که منش بنیادی هوش مصنوعی — حس شوخطبعی، نحوه برخورد با تضادها، و آنچه فضیلت میداند — باید با چارچوبهای اجتماعی رسمی همسو باشد.
برای توسعهدهندگان، این یک کابوس از ذهنیتگرایی (subjectivity) است. چگونه میتوانید تعیین کنید که آیا یک شخصیت بیش از حد کاریزماتیک است یا خیر؟ مرز دقیق پایان همدلی درمانی و شروع درهمتنیدگیِ دستکاریشده کجاست؟ اینها سوالات مهندسی با پاسخهای روشن نیستند، با این حال مقامات چینی از تیمهای محصول میخواهند که قبل از عرضه محصول، به آنها پاسخ دهند.
شکاف جهانی در صمیمیت مصنوعی
این حرکت مقرراتی، نشاندهنده یک دوراهی رو به رشد است. در آمریکای شمالی و اروپا، فشارهای تجاری به سمت عوامل (agents) هرچه انسانگونهتر و همدلتر سوق داده میشود. استارتاپها برای ساخت هوش مصنوعیای رقابت میکنند که در زمان جدایی با شما گریه کند، نام مادرتان را به خاطر بسپارد و هرگز روز بدی نداشته باشد. فرض بر این است که غوطهوری عاطفی عمیقتر، به معنای محصول بهتر است.
چین در حال انجام آزمایشی برعکس است. قوانین آن صراحتاً هماهنگی اجتماعی را بر ارضای عاطفی فردی مقدم میشمارند. یک همراه هوش مصنوعی در این چارچوب باید به اندازهای جذاب باشد که کاربران را حفظ کند، اما نه آنقدر که به امری ضروری و جداییناپذیر تبدیل شود. این همراه باید بدون جایگزین کردن ارتباطات انسانی، از سلامت روان حمایت کند. باید حس شخصی بودن را منتقل کند، اما نه حس جایگزینناپذیر بودن را.
با چرخش صنعت به سمت هوش مصنوعی عاملمحور (agentic AI)، که در آن مدلها به طور خودگردان از طرف کاربران عمل میکنند، این فلسفههای متفاوت به استانداردهای رقیب تبدیل خواهند شد. هوش مصنوعیای که پروازهای شما را رزرو میکند، تقویمتان را مدیریت میکند و پس از روزهای سخت به شما تسلی میدهد، نفوذ بسیار زیادی بر تصمیمات شما خواهد داشت. مرزهایی که اکنون برای شخصیتهای همراه تعیین میکنیم...