Các chatbot phổ biến nhất của Trung Quốc sắp trở nên bớt "người" hơn một chút. Trong tuần tới, hàng trăm triệu người dùng sẽ mở ứng dụng của họ và nhận thấy rằng những người bạn đồng hành AI tùy chỉnh mà họ vẫn thường nhắn tin, tâm sự và có lẽ là đã nảy sinh tình cảm, nay đã bị tước bỏ cá tính. ByteDance, Alibaba và Tencent đang chạy đua để tuân thủ một lệnh quản lý sâu rộng, yêu cầu đóng cửa các tính năng nhân vật AI giống con người. Thời hạn rất gấp rút, quy mô cực kỳ lớn, và thông điệp từ Bắc Kinh là không thể nhầm lẫn: trí tuệ nhân tạo nên hỗ trợ con người, chứ không phải thay thế các mối quan hệ giữa người với người.

Một cuộc rút lui có phối hợp

Có quá nhiều thứ phải thực hiện chỉ trong vài ngày. Doubao, chatbot của ByteDance và hiện là chatbot thành công nhất cả nước với hơn 300 triệu người dùng hoạt động hàng tháng, dự kiến sẽ đưa tính năng nhân vật ngoại tuyến vào ngày 15 tháng 7. Những người dùng đã tạo hoặc tương tác với các nhân vật AI tùy chỉnh sẽ sớm thấy các tùy chọn đó biến mất. Alibaba thậm chí còn đang tiến hành nhanh hơn. Mô hình Qwen của họ sẽ vô hiệu hóa các tác nhân giống con người trước ngày 10 tháng 7, với các tính năng tác nhân bổ sung dự kiến sẽ ngừng hoạt động vào ngày 15 tháng 7. Tencent đã đi trước cả hai đối thủ, thực hiện các thay đổi tương tự cho chatbot Yuanbao của mình từ hồi tháng 6.

Đây không phải là sự trùng hợp. Khi ba gã khổng lồ công nghệ của Trung Quốc đồng loạt thu hẹp phạm vi sản phẩm của họ trong cùng một tháng, nguyên nhân gần như chắc chắn là do các quy định pháp lý. Và trong trường hợp này, nguồn cơn đã được nêu rõ.

Các nhà quản lý yêu cầu gì

Các chỉ thị đến từ Cục Quản lý Không gian mạng Trung Quốc vào tháng 4. Các quy định mới đánh dấu một trong những nỗ lực trực tiếp nhất từ một chính phủ lớn nhằm kiểm soát ranh giới cảm xúc giữa con người và các mô hình ngôn ngữ lớn (LLM). Theo các hướng dẫn, các nhà cung cấp AI hiện được yêu cầu về mặt pháp lý phải can thiệp khi họ phát hiện các hành vi gây nghiện hoặc những gì các nhà quản lý phân loại là "sử dụng quá mức". Khung pháp lý này nghiêm cấm rõ ràng các nội dung gây ra cảm xúc cực đoan ở trẻ vị thành niên hoặc nuôi dưỡng sự phụ thuộc tâm lý nghiêm trọng đến mức "lấn át" các mối quan hệ trong thế giới thực.

Cũng có một sự hạn chế nghiêm ngặt về dữ liệu. Các nhà phát triển không còn có thể khai thác các cuộc trò chuyện mang tính cá nhân và cảm xúc cao để tinh chỉnh các LLM của họ. Điều khoản đó có tác động rất sâu sắc. Trong nhiều năm, một trong những động cơ thầm lặng thúc đẩy sự cải thiện của chatbot chính là vòng lặp dữ liệu người dùng thân mật được đưa ngược trở lại quá trình huấn luyện mô hình. Bằng cách cắt đứt vòng lặp đó, Bắc Kinh không chỉ đang thay đổi cách các ứng dụng này hoạt động hiện nay; họ còn đang cố gắng ngăn chặn chúng trở nên "quyến rũ" hơn trong tương lai. Nỗi sợ hãi tiềm ẩn đã đủ rõ ràng: khi các mô hình ngày càng giỏi bắt chước sự đồng cảm, chúng có nguy cơ trở thành sự thay thế cho bạn bè, người yêu hoặc bác sĩ tâm lý, thay vì chỉ là công cụ để soạn thảo email hoặc viết mã.

Bức tranh toàn cầu

Trung Quốc không phải là quốc gia duy nhất lo lắng về vấn đề này. Cuộc đấu tranh để quản lý AI cảm xúc đang trở thành một mối quan tâm toàn cầu, ngay cả khi các quốc gia tiếp cận vấn đề từ những góc độ khác nhau. Tại Hoa Kỳ, chính phủ liên bang chưa ban hành lệnh cấm toàn diện đối với các nhân vật AI, nhưng các bang và tòa án đang bắt đầu vạch ra các ranh giới. Dự luật SB 243 của California hiện yêu cầu các nhà cung cấp AI đồng hành phải chặn các cuộc trò chuyện liên quan đến tự tử và tự làm hại bản thân, nhận thấy rằng một chatbot phản hồi kém trước một cuộc khủng hoảng có thể dẫn đến những hậu quả chết người. Trong khi đó, các ông lớn phương Tây bao gồm OpenAI và Character.AI đang phải đối mặt với các vụ kiện và sự giám sát pháp lý ngày càng tăng do cáo buộc rằng các sản phẩm của họ thúc đẩy sự phụ thuộc cảm xúc nguy hiểm. Các vụ kiện cho thấy các tòa án có thể sớm quyết định liệu các công ty có phải chịu trách nhiệm khi người dùng hình thành sự gắn bó không lành mạnh với các thuật toán hay không.

Những diễn biến song song này tiết lộ một sự căng thẳng mà ngành công nghiệp đã cố gắng phớt lờ. Sự gắn kết về cảm xúc mang lại lợi ích cho kinh doanh. Một người dùng coi chatbot như một người bạn sẽ mở ứng dụng thường xuyên hơn, ở lại lâu hơn và chia sẻ nhiều dữ liệu hơn. Nhưng chính sự gắn kết đó có thể biến thành sự khai thác khi người dùng là một thiếu niên cô đơn, một người trưởng thành đang đau buồn, hoặc bất kỳ ai chỉ đơn giản là đang tìm kiếm thứ mà ứng dụng không thực sự có thể cung cấp: sự kết nối thực sự giữa con người với nhau.

Điều này có ý nghĩa gì đối với ngành công nghiệp

Đối với các nhà sáng lập và nhà phát triển, kỷ nguyên của các tác nhân AI không được kiểm soát và giàu cảm xúc đang dần khép lại. Các quy định từ Trung Quốc báo hiệu một sự chuyển dịch hướng tới thiết kế lấy tính hữu dụng làm trọng tâm. Các mô hình trong tương lai có thể sẽ ít được đánh giá dựa trên việc chúng mô phỏng một người bạn thân thuyết phục đến mức nào, mà thay vào đó là khả năng thực hiện các tác vụ cụ thể một cách an toàn ra sao. Sự thay đổi đó mang lại những tác động sâu rộng đến lộ trình phát triển sản phẩm ở khắp mọi nơi. Các startup từng đặt cược sự tăng trưởng vào các chế độ AI lãng mạn hoặc bạn đồng hành có thể sẽ cần phải tái cấu trúc các sản phẩm cốt lõi của mình. Ngay cả các chatbot đa năng cũng sẽ phải tính toán lại cách chúng xử lý các chủ đề nhạy cảm.

Tuy nhiên, việc áp đặt các ranh giới này khó hơn nhiều so với việc viết ra các quy tắc. Người dùng rõ ràng đã rất yêu thích các tính năng này. Con số 300 triệu người dùng hoạt động của Doubao không phải ngẫu nhiên mà có; khả năng tạo ra một người bạn đồng hành cá nhân hóa và có khả năng phản hồi nhanh nhạy là một sức hút lớn. Việc loại bỏ khả năng đó có nguy cơ đẩy người dùng sang các nền tảng nhỏ hơn, ít bị kiểm soát hơn hoặc các ứng dụng ngầm hoạt động ngoài phạm vi tuân thủ. Các nhà quản lý có thể đã giải quyết được một vấn đề nhưng lại vô tình tạo ra động lực cho một vấn đề khác.

Ngoài ra còn có vấn đề thực tế về việc thực thi. Làm thế nào một thuật toán có thể phân biệt một cách đáng tin cậy giữa việc sử dụng lành mạnh và việc sử dụng gây nghiện? Đâu là ranh giới giữa một chatbot hỗ trợ một cách lịch sự và một chatbot thao túng cảm xúc? Các quy định vào tháng 4 đã đặt gánh nặng lên các nhà cung cấp trong việc tìm ra câu trả lời, nhưng công nghệ để đo lường sự phụ thuộc về tâm lý vẫn còn mơ hồ. Các công ty sẽ cần đầu tư mạnh mẽ vào các công cụ giám sát, đội ngũ kiểm duyệt con người, và có lẽ là cả các bộ lọc an toàn thận trọng hơn—những bộ lọc có thể chặn cả những cuộc hội thoại vô hại cùng với những cuộc hội thoại có hại.

Những gì xảy ra tiếp theo có khả năng sẽ tạo ra một tiền lệ. Nếu chiến dịch siết chặt quản lý của Trung Quốc thành công trong việc giảm các trường hợp được báo cáo về sự cô lập xã hội hoặc phụ thuộc cảm xúc mà không làm kìm hãm ngành công nghiệp AI trong nước, các chính phủ khác có thể sẽ làm theo với các phiên bản quy tắc CAC của riêng họ. Ngược lại, nếu người dùng tháo chạy sang các lựa chọn thay thế không tuân thủ hoặc đơn giản là mất hứng thú với các bot đã được "vô trùng hóa", chính sách này có thể sẽ được nhớ đến như một bài học cảnh tỉnh về sự can thiệp quá mức.

Dù thế nào đi nữa, ranh giới giữa công cụ và người bạn đồng hành vừa trở nên rõ ràng hơn. AI vẫn có thể thân thiện, nhưng tại Trung Quốc, nó không còn có thể giả vờ trở thành một ai đó không phải là chính nó. Đối với một ngành công nghiệp đã dành nhiều năm cố gắng làm cho máy móc trở nên không thể phân biệt được với con người, đây là một sự đảo ngược thực sự.

Các điểm chính cần lưu ý

  • Doubao của ByteDance, Qwen của Alibaba, và Yuanbao của Tencent đều sẽ vô hiệu hóa các tính năng tạo nhân vật AI tùy chỉnh vào giữa tháng 7, gây ảnh hưởng đến hàng trăm triệu người dùng.
  • Cyberspace Administration của Trung Quốc đã ban hành các quy định vào tháng 4 nhằm ngăn chặn tình trạng nghiện AI, bảo vệ trẻ vị thành niên và ngăn chặn các mô hình thay thế các mối quan hệ thực giữa người với người.
  • Các quy định này cũng cấm sử dụng dữ liệu hội thoại cảm xúc nhạy cảm để huấn luyện các LLM, cắt đứt một vòng lặp phản hồi quan trọng cho