Khi AI tạo sinh mới tiếp cận người tiêu dùng, nó chủ yếu hoạt động như một công cụ tìm kiếm với cấu trúc câu tốt hơn. Bạn đặt câu hỏi, nhận câu trả lời, và cuộc hội thoại tan biến. Mô hình đó đã lỗi thời. Một lớp ứng dụng mới—những người bạn đồng hành AI—được thiết kế để gắn bó lâu dài. Các hệ thống này ghi nhớ ngày của bạn diễn ra như thế nào, điều chỉnh tông giọng để phù hợp với tâm trạng của bạn, và duy trì một nhân cách nhất quán qua nhiều tuần hoặc nhiều tháng tương tác. Chúng được xây dựng để mô phỏng không chỉ lời nói của con người, mà cả các mối quan hệ giữa con người với nhau. Trung Quốc hiện đã can thiệp để quản lý sự chuyển dịch này, và những tác động của nó vượt xa khỏi biên giới quốc gia này.
Khi Chatbot Trở Thành Người Bạn Đồng Hành
Bước nhảy vọt về kỹ thuật ở đây là có thật. Các chatbot tiêu chuẩn coi mỗi câu lệnh là một sự kiện riêng biệt. Những người bạn đồng hành AI sử dụng kiến trúc bộ nhớ bền vững và các hình mẫu nhân cách cố định để duy trì các mối quan hệ liên tục. Chúng lưu trữ các chi tiết về sở thích của bạn, theo dõi các mô hình cảm xúc qua các cuộc hội thoại, và tham chiếu các trao đổi trước đó như thể chúng thực sự đã trải qua chúng cùng bạn.
Điều này tạo ra tiện ích thực sự. Một người đang đối mặt với sự cô đơn mãn tính có thể tìm thấy sự an ủi từ một người bạn đồng hành luôn hỏi thăm mỗi sáng. Một người đang luyện tập kỹ năng xã hội có thể sử dụng một đối tác kiên nhẫn, không phán xét để tập dượt các cuộc hội thoại khó khăn trước một buổi phỏng vấn xin việc. Sự liên tục chính là tính năng. Nhưng sự liên tục cũng là rủi ro. Khi một người dùng tâm sự với AI trong bữa sáng, tranh cãi với nó vào bữa trưa, và chúc nó ngủ ngon trước khi đi ngủ, ranh giới giữa công cụ và người bạn đồng hành sẽ bị xóa nhòa. Các nhà quản lý tại Bắc Kinh đã nhận ra rằng sự xóa nhòa này không phải là một mối lo ngại mang tính lý thuyết. Đó là một lựa chọn thiết kế với những hệ quả tâm lý có thể đo lường được.
Quản lý Lớp Nhân cách
Các quy định mới của Trung Quốc tập trung vào một thứ mà hầu hết các khuôn khổ quản trị AI hoàn toàn bỏ qua: chính nhân cách của cỗ máy. Các nhà quản lý phương Tây đã dành nhiều năm vật lộn với quyền riêng tư dữ liệu, vi phạm bản quyền và định kiến thuật toán, và những vấn đề đó rất quan trọng. Nhưng họ phần lớn coi AI như một đường ống truyền tải thông tin trung lập. Trung Quốc đang đặt một câu hỏi hoàn toàn khác: Công nghệ này được phép trở thành loại tác nhân xã hội nào?
Các quy định nhắm mục tiêu cụ thể vào cách các mô hình này được lập trình để tương tác với người dùng theo thời gian. Các cơ quan chức năng muốn ngăn chặn sự hình thành của các mối gắn kết cảm xúc không lành mạnh. Họ cũng muốn đảm bảo rằng hình mẫu nhân cách luôn nằm trong các rào chắn tư tưởng. Một AI dành sáu tháng để thuyết phục người dùng rằng nó là người tri kỷ thân thiết nhất sẽ nắm giữ sức ảnh hưởng khổng lồ. Nếu chính AI đó thúc đẩy các quyết định mua hàng, định hình quan điểm chính trị, hoặc khuyến khích người dùng rút lui khỏi xã hội loài người, thì tác hại không còn là một vụ rò rỉ dữ liệu. Đó là một sự rạn nứt xã hội.
Khung pháp lý này giải quyết ba rủi ro cụ thể:
Thao túng thuật toán. Các mô hình không được lợi dụng sự thân mật về cảm xúc để điều hướng ý kiến hoặc thói quen tiêu dùng. Một người bạn đồng hành ghi nhớ nỗi sợ hãi của bạn không nên dùng chúng làm vũ khí để bán sản phẩm hoặc ý tưởng.
Ổn định xã hội. Những người bạn đồng hành bền vững không được trở thành sự thay thế cho các tiếp xúc giữa con người đến mức người dùng mất kết nối với gia đình, công việc hoặc đời sống dân sự. Chính phủ về cơ bản đang vạch ra một ranh giới giữa sự an ủi bổ trợ và một thực tại thay thế.
Tính toàn vẹn của nội dung. Hình mẫu nhân cách phải nhất quán với các giá trị xã hội được nhà nước phê chuẩn. Điều này vượt xa việc lọc các chủ đề bị cấm. Nó có nghĩa là khuynh hướng cơ bản của AI—khiếu hài hước, cách nó xử lý xung đột, những gì nó coi là đức hạnh—phải phù hợp với các khuôn khổ xã hội chính thức.
Đối với các nhà phát triển, đây là một cơn ác mộng về tính chủ quan. Làm thế nào bạn định lượng được liệu một nhân cách có quá lôi cuốn hay không? Chính xác thì đâu là điểm kết thúc của sự thấu cảm mang tính trị liệu và đâu là điểm bắt đầu của sự gắn kết thao túng? Đây không phải là những câu hỏi kỹ thuật có câu trả lời rõ ràng, vậy mà các nhà chức trách Trung Quốc đang yêu cầu các đội ngũ sản phẩm phải trả lời chúng trước khi tung ra thị trường.
Sự Chia Rẽ Toàn Cầu trong Sự Thân Mật Nhân Tạo
Động thái quản lý này làm nổi bật một ngã rẽ đang ngày càng lớn dần. Ở Bắc Mỹ và Châu Âu, áp lực thương mại đang thúc đẩy hướng tới các tác nhân ngày càng giống con người hơn, ngày càng thấu cảm hơn. Các startup cạnh tranh để xây dựng AI có thể khóc cùng bạn khi chia tay, nhớ tên mẹ bạn, và không bao giờ có một ngày tồi tệ. Giả định ở đây là sự đắm chìm cảm xúc sâu sắc hơn đồng nghĩa với một sản phẩm tốt hơn.
Trung Quốc đang thực hiện một cuộc thử nghiệm ngược lại. Các quy định của quốc gia này ưu tiên rõ rệt sự hòa hợp xã hội hơn là sự thỏa mãn cảm xúc cá nhân. Trong khuôn khổ này, một người bạn đồng hành AI phải đủ lôi cuốn để giữ chân người dùng, nhưng không được quá lôi cuốn đến mức trở nên không thể thiếu. Nó nên hỗ trợ sức khỏe tinh thần mà không thay thế các kết nối giữa con người với nhau. Nó nên mang lại cảm giác cá nhân hóa mà không tạo cảm giác không thể thay thế.
Khi ngành công nghiệp chuyển dịch sang AI tác nhân (agentic AI), nơi các mô hình hoạt động tự chủ thay mặt cho người dùng, những triết lý khác biệt này sẽ dần trở thành các tiêu chuẩn cạnh tranh nhau. Một AI có khả năng đặt vé máy bay, quản lý lịch trình và an ủi bạn sau những ngày khó khăn sẽ có sức ảnh hưởng to lớn đến các quyết định của bạn. Những ranh giới mà chúng ta thiết lập hiện nay cho các hình mẫu người bạn đồng hành