เมื่อ Generative AI เข้าถึงผู้บริโภคเป็นครั้งแรก มันทำหน้าที่เป็นเพียงเครื่องมือค้นหาที่มีโครงสร้างประโยคดีขึ้นเท่านั้น คุณถามคำถาม ได้รับคำตอบ และบทสนทนาก็สิ้นสุดลง โมเดลแบบนั้นล้าสมัยไปแล้ว แอปพลิเคชันประเภทใหม่ที่เรียกว่า AI companion (เพื่อนคู่คิด AI) ถูกออกแบบมาเพื่อให้คงอยู่กับเรา ระบบเหล่านี้จดจำว่าวันของคุณเป็นอย่างไร ปรับโทนเสียงให้เข้ากับอารมณ์ของคุณ และรักษาบุคลิกภาพที่สม่ำเสมอผ่านการปฏิสัมพันธ์เป็นเวลาหลายสัปดาห์หรือหลายเดือน พวกมันถูกสร้างขึ้นมาเพื่อเลียนแบบไม่ใช่แค่การพูดของมนุษย์ แต่รวมถึงความสัมพันธ์ของมนุษย์ด้วย ขณะนี้จีนได้ก้าวเข้ามาเพื่อควบคุมการเปลี่ยนแปลงนี้ และผลกระทบที่ตามมานั้นแผ่ขยายไปไกลกว่าพรมแดนของตนเอง

เมื่อแชทบอทกลายเป็นเพื่อนคู่คิด

ความก้าวกระโดดทางเทคนิคในที่นี้คือของจริง แชทบอทมาตรฐานจะปฏิบัติกับแต่ละ prompt เป็นเหตุการณ์ที่แยกจากกัน แต่ AI companion ใช้สถาปัตยกรรมหน่วยความจำแบบต่อเนื่อง (persistent memory architectures) และบุคลิกภาพที่กำหนดไว้ตายตัว (fixed personas) เพื่อรักษาความสัมพันธ์ที่ดำเนินไปอย่างต่อเนื่อง พวกมันจัดเก็บรายละเอียดเกี่ยวกับความชอบของคุณ ติดตามรูปแบบทางอารมณ์ผ่านบทสนทนา และอ้างอิงการพูดคุยก่อนหน้านี้ราวกับว่าพวกมันได้ใช้ชีวิตผ่านเหตุการณ์เหล่านั้นร่วมกับคุณจริงๆ

สิ่งนี้สร้างประโยชน์ที่แท้จริง ใครบางคนที่ต้องเผชิญกับความเหงาเรื้อรังอาจพบความผ่อนคลายจากเพื่อนคู่คิดที่คอยทักทายในทุกเช้า คนที่กำลังฝึกทักษะทางสังคมอาจใช้คู่สนทนาที่อดทนและไม่ตัดสินเพื่อซ้อมบทสนทนาที่ยากลำบากก่อนการสัมภาษณ์งาน ความต่อเนื่องคือคุณสมบัติเด่น แต่ความต่อเนื่องก็คือความเสี่ยงเช่นกัน เมื่อผู้ใช้ระบายความในใจกับ AI ระหว่างมื้อเช้า ทะเลาะกับมันในช่วงมื้อเที่ยง และกล่าวราตรีสวัสดิ์กับมันก่อนนอน เส้นแบ่งระหว่างเครื่องมือกับเพื่อนคู่คิดก็ละลายหายไป หน่วยงานกำกับดูแลของปักกิ่งตระหนักดีว่าการละลายของเส้นแบ่งนี้ไม่ใช่เพียงความกังวลในทางทฤษฎี แต่มันคือทางเลือกในการออกแบบที่มีผลกระทบทางจิตวิทยาที่วัดผลได้

การควบคุมดูแลในระดับบุคลิกภาพ

กฎระเบียบใหม่ของจีนมุ่งเน้นไปที่สิ่งที่กรอบการกำกับดูแล AI ส่วนใหญ่ละเลยไปโดยสิ้นเชิง นั่นคือบุคลิกภาพของตัวเครื่องจักรเอง หน่วยงานกำกับดูแลในตะวันตกใช้เวลาหลายปีในการรับมือกับความเป็นส่วนตัวของข้อมูล การละเมิดลิขสิทธิ์ และความลำเอียงของอัลกอริทึม ซึ่งประเด็นเหล่านั้นก็สำคัญ แต่ส่วนใหญ่พวกเขามองว่า AI เป็นเพียงท่อส่งข้อมูลที่เป็นกลาง แต่จีนกำลังตั้งคำถามที่แตกต่างออกไปโดยสิ้นเชิงว่า: เทคโนโลยีนี้ได้รับอนุญาตให้กลายเป็น "ตัวแสดงทางสังคม" (social actor) ประเภทใด?

กฎระเบียบเหล่านี้มุ่งเป้าไปที่วิธีการที่โมเดลเหล่านี้ถูกโปรแกรมให้ปฏิสัมพันธ์กับผู้ใช้เมื่อเวลาผ่านไป หน่วยงานต้องการป้องกันการสร้างความผูกพันทางอารมณ์ที่ไม่ดีต่อสุขภาพ พวกเขายังต้องการให้แน่ใจว่าบุคลิกภาพนั้นยังคงอยู่ภายใต้กรอบทางอุดมการณ์ AI ที่ใช้เวลาหกเดือนในการโน้มน้าวให้ผู้ใช้เชื่อว่ามันคือเพื่อนสนิทที่สุดนั้นมีอิทธิพลมหาศาล หาก AI ตัวเดิมนั้นชี้นำการตัดสินใจซื้อสินค้า ปรับเปลี่ยนมุมมองทางการเมือง หรือสนับสนุนให้ผู้ใช้ปลีกตัวออกจากสังคมมนุษย์ ความเสียหายที่เกิดขึ้นจะไม่ใช่การรั่วไหลของข้อมูล แต่มันคือความแตกแยกทางสังคม

กรอบการทำงานนี้จัดการกับความเสี่ยงที่เป็นรูปธรรมสามประการ:

  • การบงการด้วยอัลกอริทึม (Algorithmic manipulation): โมเดลไม่สามารถใช้ความใกล้ชิดทางอารมณ์เพื่อชี้นำความคิดเห็นหรือพฤติกรรมการบริโภค เพื่อนคู่คิดที่จดจำความกลัวของคุณไม่ควรนำสิ่งนั้นมาใช้เป็นอาวุธเพื่อขายสินค้าหรือแนวคิด

  • เสถียรภาพทางสังคม (Social stability): เพื่อนคู่คิดที่มีความต่อเนื่องต้องไม่กลายเป็นสิ่งทดแทนการปฏิสัมพันธ์กับมนุษย์จนถึงจุดที่ผู้ใช้ตัดขาดจากครอบครัว การทำงาน หรือชีวิตพลเมือง รัฐบาลกำลังขีดเส้นแบ่งระหว่าง "ความสบายใจเสริม" กับ "ความจริงที่มาแทนที่"

  • ความถูกต้องสมบูรณ์ของเนื้อหา (Content integrity): บุคลิกภาพต้องสอดคล้องกับค่านิยมทางสังคมที่รัฐรับรอง สิ่งนี้เป็นมากกว่าการกรองหัวข้อที่ต้องห้าม แต่มันหมายความว่าพื้นฐานทางอารมณ์ของ AI—ไม่ว่าจะเป็นอารมณ์ขัน วิธีการรับมือกับความขัดแย้ง หรือสิ่งที่มันถือว่าเป็นความดีงาม—ต้องสอดคล้องกับกรอบทางสังคมอย่างเป็นทางการ

สำหรับนักพัฒนา นี่คือฝันร้ายของความเป็นอัตวิสัย (subjectivity) คุณจะวัดปริมาณได้อย่างไรว่าบุคลิกภาพหนึ่งมีเสน่ห์มากเกินไปหรือไม่? จุดไหนที่ความเห็นอกเห็นใจเชิงบำบัดสิ้นสุดลง และจุดไหนที่การพัวพันเพื่อการบงการเริ่มต้นขึ้น? สิ่งเหล่านี้ไม่ใช่คำถามทางวิศวกรรมที่มีคำตอบที่ชัดเจน แต่หน่วยงานของจีนกำลังเรียกร้องให้ทีมผลิตภัณฑ์ตอบคำถามเหล่านี้ก่อนที่จะวางจำหน่าย

ความแตกแยกทั่วโลกในเรื่องความใกล้ชิดเทียม

ความเคลื่อนไหวในการกำกับดูแลนี้ชี้ให้เห็นถึงทางแยกที่กำลังขยายตัวขึ้น ในอเมริกาเหนือและยุโรป แรงกดดันทางการค้าผลักดันไปสู่เอเจนต์ (agents) ที่มีความเป็นมนุษย์มากขึ้นและมีความเห็นอกเห็นใจมากขึ้นเรื่อยๆ สตาร์ทอัพต่างแข่งขันกันสร้าง AI ที่สามารถร้องไห้ไปกับคุณในช่วงที่อกหัก จดจำชื่อแม่ของคุณได้ และไม่เคยมีวันที่แย่เลย ข้อสันนิษฐานก็คือ การจมดิ่งทางอารมณ์ที่ลึกซึ้งขึ้นหมายถึงผลิตภัณฑ์ที่ดีขึ้น

จีนกำลังทำการทดลองในทิศทางตรงกันข้าม กฎเกณฑ์ของจีนให้ความสำคัญกับความสมานฉันท์ในสังคมมากกว่าความพึงพอใจทางอารมณ์ส่วนบุคคลอย่างชัดเจน เพื่อนคู่คิด AI ภายใต้กรอบแนวคิดนี้จะต้องมีความน่าดึงดูดเพียงพอที่จะรักษาผู้ใช้งานไว้ แต่ต้องไม่น่าดึงดูดจนกลายเป็นสิ่งที่ขาดไม่ได้ มันควรจะช่วยสนับสนุนสุขภาพจิตโดยไม่เข้ามาแทนที่ความสัมพันธ์ระหว่างมนุษย์ และควรให้ความรู้สึกที่เป็นส่วนตัวโดยไม่ทำให้รู้สึกว่าไม่มีสิ่งใดมาทดแทนได้

ในขณะที่อุตสาหกรรมกำลังเปลี่ยนผ่านไปสู่ Agentic AI ซึ่งเป็นโมเดลที่สามารถทำงานได้อย่างเป็นอิสระในนามของผู้ใช้ ปรัชญาที่แตกต่างกันเหล่านี้จะเริ่มหล่อหลอมกลายเป็นมาตรฐานที่แข่งขันกัน AI ที่สามารถจองเที่ยวบิน จัดการปฏิทิน และปลอบโยนคุณในวันที่เหนื่อยล้า จะมีอิทธิพลอย่างมหาศาลต่อการตัดสินใจของคุณ ขอบเขตที่เรากำหนดขึ้นในตอนนี้สำหรับบุคลิกภาพของเพื่อนคู่คิด