Los chatbots más populares de China están a punto de sentirse un poco menos humanos. Durante la próxima semana, cientos de millones de usuarios abrirán sus aplicaciones para descubrir que los compañeros de IA personalizados con los que han estado chateando, confiando y, quizás, encariñándose, han sido despojados de su personalidad. ByteDance, Alibaba y Tencent compiten por cumplir con una amplia orden regulatoria que exige la desactivación de las funciones de personalidad de IA con rasgos humanos. Los plazos son ajustados, la escala es masiva y el mensaje de Pekín es inequívoco: la inteligencia artificial debe asistir a las personas, no reemplazar las relaciones que tienen entre sí.

Un retroceso coordinado

Eso es mucho para comprimir en pocos días. Doubao, el chatbot de ByteDance y actualmente el más exitoso del país con más de 300 millones de usuarios activos mensuales, tiene programado desactivar su función de personalidad el 15 de julio. Los usuarios que hayan creado o interactuado con personajes de IA personalizados pronto verán que esas opciones han desaparecido. Alibaba se está moviendo aún más rápido. Su modelo Qwen desactivará los agentes con rasgos humanos para el 10 de julio, y otras funciones de agentes dejarán de funcionar para el 15 de julio. Tencent se adelantó a ambos competidores, implementando cambios similares en su chatbot Yuanbao en junio.

Esto no es una coincidencia. Cuando tres de los gigantes tecnológicos de China sincronizan la retirada de sus productos dentro del mismo mes, la causa es casi con seguridad regulatoria. Y en este caso, la fuente es explícita.

Lo que exigen los reguladores

Las directrices provinieron de la Administración del Ciberespacio de China en abril. Las nuevas reglas marcan uno de los intentos más directos hasta la fecha de un gobierno importante por vigilar la frontera emocional entre los humanos y los modelos de lenguaje de gran tamaño (LLM). Bajo estas directrices, los proveedores de IA ahora están legalmente obligados a intervenir cuando detecten comportamientos adictivos o lo que los reguladores clasifican como "uso excesivo". El marco prohíbe explícitamente el contenido que desencadene emociones extremas en menores o que fomente dependencias psicológicas lo suficientemente graves como para "desplazar" las relaciones del mundo real.

También existe una restricción severa sobre los datos. Los desarrolladores ya no pueden extraer conversaciones altamente personales y emocionales para ajustar sus LLM. Esa disposición cala hondo. Durante años, uno de los motores silenciosos de la mejora de los chatbots ha sido el ciclo de datos íntimos de los usuarios que retroalimentan el entrenamiento de los modelos. Al cortar ese ciclo, Pekín no solo está cambiando cómo se comportan estas aplicaciones hoy; está intentando evitar que se vuelvan más seductoras mañana. El temor subyacente es bastante claro: a medida que los modelos mejoran su capacidad para imitar la empatía, corren el riesgo de convertirse en sustitutos de amigos, parejas o terapeutas, en lugar de herramientas para redactar correos electrónicos o escribir código.

El panorama global

China no es la única que se preocupa por esto. La lucha por regular la IA emocional se está convirtiendo en una preocupación global, incluso si los países la abordan desde diferentes ángulos. En los Estados Unidos, el gobierno federal no ha emitido una prohibición general sobre las personalidades de IA, pero los estados y los tribunales están empezando a marcar límites. La ley SB 243 de California ahora exige que los proveedores de IA de compañía bloqueen conversaciones sobre el suicidio y las autolesiones, reconociendo que un chatbot que responda de forma inadecuada ante una crisis podría tener consecuencias letales. Mientras tanto, los principales actores occidentales, incluidos OpenAI y Character.AI, se enfrentan a demandas y a un creciente escrutinio legal debido a acusaciones de que sus productos fomentan una dependencia emocional peligrosa. Las demandas sugieren que los tribunales pronto podrían decidir si las empresas pueden ser consideradas responsables cuando los usuarios forman vínculos poco saludables con los algoritmos.

Estos desarrollos paralelos revelan una tensión que la industria ha intentado ignorar. El compromiso emocional es bueno para los negocios. Un usuario que trata a un chatbot como a un amigo abre la aplicación con más frecuencia, permanece más tiempo y comparte más datos. Pero ese mismo compromiso puede derivar en explotación cuando el usuario es un adolescente solitario, un adulto en duelo o cualquier persona que simplemente busca algo que la aplicación no puede proporcionar realmente: una conexión humana genuina.

Lo que esto significa para la industria

Para fundadores y desarrolladores, la era de los agentes de IA no regulados y altamente emotivos está llegando a su fin. El mandato chino señala un giro hacia un diseño orientado a la utilidad. Es probable que los futuros modelos sean juzgados menos por qué tan convincentemente simulan ser un mejor amigo y más por qué tan de forma segura realizan tareas concretas. Ese cambio conlleva implicaciones para las hojas de ruta de productos en todas partes. Las startups que han apostado su crecimiento a modos de IA románticos o de compañía podrían necesitar reestructurar sus ofertas principales. Incluso los chatbots de propósito general tendrán que replantearse cómo manejan temas sensibles.

Sin embargo, imponer estos límites es más difícil que escribir las reglas. Está claro que a los usuarios les han encantado estas funciones. Los 300 millones de usuarios activos de Doubao no se acumularon por accidente; la capacidad de moldear un compañero personalizado y receptivo fue un gran atractivo. Eliminar esa capacidad conlleva el riesgo de empujar a los usuarios hacia plataformas más pequeñas y menos reguladas, o hacia aplicaciones clandestinas que operan fuera del perímetro de cumplimiento. Es posible que los reguladores hayan resuelto un problema mientras crean un incentivo para otro.

También existe la cuestión práctica de la aplicación de la ley. ¿Cómo puede un algoritmo distinguir de manera fiable entre un uso saludable y un uso adictivo? ¿Dónde está la línea entre un chatbot que es educadamente útil y uno que es emocionalmente manipulador? Los mandatos de abril trasladan la responsabilidad a los proveedores para que lo resuelvan, pero la tecnología para medir la dependencia psicológica sigue siendo difusa. Las empresas tendrán que invertir fuertemente en herramientas de monitoreo, equipos de revisión humana y, probablemente, en filtros de seguridad más conservadores que detecten conversaciones benignas junto con las dañinas.

Lo que suceda a continuación probablemente sentará un precedente. Si la medida restrictiva de China logra reducir los casos reportados de aislamiento social o dependencia emocional sin aplastar su industria nacional de IA, otros gobiernos podrían seguir su ejemplo con sus propias versiones de las reglas de la CAC. Si, por el contrario, los usuarios huyen hacia alternativas que no cumplen con la normativa o simplemente pierden el interés en los bots sanitizados, la política podría ser recordada como una moraleja sobre el exceso de regulación.

De cualquier manera, la línea entre herramienta y compañero se ha vuelto más clara. La IA aún puede ser amigable, pero en China ya no puede pretender ser alguien que no es. Para una industria que ha pasado años intentando que sus máquinas sean indistinguibles de los humanos, esto representa un giro genuino.

Conclusiones clave

  • Doubao de ByteDance, Qwen de Alibaba y Yuanbao de Tencent desactivarán las funciones de personalidad de IA personalizada a mediados de julio, afectando a cientos de millones de usuarios.
  • La Administración del Ciberespacio de China emitió los mandatos en abril para prevenir la adicción a la IA, proteger a los menores y evitar que los modelos reemplacen las relaciones humanas reales.
  • Las reglas también prohíben el uso de datos de conversaciones emocionales sensibles para entrenar LLMs, cortando un ciclo de retroalimentación clave para