Os chatbots mais populares da China estão prestes a parecer um pouco menos humanos. Ao longo da próxima semana, centenas de milhões de usuários abrirão seus aplicativos para descobrir que os companheiros de IA personalizados com os quais têm trocado mensagens, desabafado e, talvez, criado laços, foram despojados de suas personalidades. ByteDance, Alibaba e Tencent estão correndo para cumprir uma ordem regulatória abrangente que exige o desligamento de recursos de personas de IA com características humanas. Os prazos são apertados, a escala é massiva e a mensagem de Pequim é inequívoca: a inteligência artificial deve auxiliar as pessoas, não substituir os relacionamentos que elas têm umas com as outras.

Um Recuo Coordenado

Isso é muita coisa para comprimir em poucos dias. Doubao, o chatbot da ByteDance e atualmente o mais bem-sucedido do país, com mais de 300 milhões de usuários ativos mensais, está programado para retirar seu recurso de persona do ar em 15 de julho. Usuários que criaram ou interagiram com personagens de IA personalizados logo descobrirão que essas opções desapareceram. A Alibaba está se movendo ainda mais rápido. Seu modelo Qwen desativará agentes com características humanas até 10 de julho, com recursos adicionais de agentes programados para serem desativados até 15 de julho. A Tencent se antecipou a ambos os concorrentes, implementando mudanças semelhantes em seu chatbot Yuanbao ainda em junho.

Isso não é coincidência. Quando três dos gigantes tecnológicos da China sincronizam o recuo de seus produtos dentro do mesmo mês, a causa é quase certamente regulatória. E, neste caso, a fonte é explícita.

O que os Reguladores Exigem

As diretrizes vieram da Administração do Ciberespaço da China em abril. As novas regras marcam uma das tentativas mais diretas até agora de um grande governo de policiar a fronteira emocional entre humanos e modelos de linguagem de grande escala (LLMs). Sob as diretrizes, os provedores de IA agora são legalmente obrigados a intervir quando detectarem comportamentos viciantes ou o que os reguladores classificam como "uso excessivo". O framework proíbe explicitamente conteúdos que desencadeiem emoções extremas em menores ou que nutram dependências psicológicas graves o suficiente para "deslocar" relacionamentos do mundo real.

Há também uma restrição severa sobre dados. Os desenvolvedores não podem mais minerar conversas altamente pessoais e emocionais para ajustar seus LLMs. Essa disposição é profunda. Durante anos, um dos motores silenciosos do aprimoramento dos chatbots tem sido o ciclo de dados íntimos dos usuários alimentando o treinamento dos modelos. Ao cortar esse ciclo, Pequim não está apenas mudando como esses aplicativos se comportam hoje; está tentando evitar que eles se tornem mais sedutores amanhã. O medo subjacente é claro o suficiente: à medida que os modelos se tornam melhores em mimetizar a empatia, correm o risco de se tornarem substitutos para amigos, parceiros ou terapeutas, em vez de ferramentas para redigir e-mails ou escrever código.

O Cenário Global

A China não está sozinha nessa preocupação. A luta para regular a IA emocional está se tornando uma preocupação global, mesmo que os países a abordem de ângulos diferentes. Nos Estados Unidos, o governo federal não emitiu uma proibição generalizada de personas de IA, mas estados e tribunais estão começando a traçar limites. A SB 243 da Califórnia agora exige que os provedores de IA de companhia bloqueiem conversas sobre suicídio e automutilação, reconhecendo que um chatbot que responda mal a uma crise pode ter consequências letais. Enquanto isso, grandes players ocidentais, incluindo OpenAI e Character.AI, enfrentam processos judiciais e crescente escrutínio legal devido a acusações de que seus produtos fomentam uma dependência emocional perigosa. Os processos sugerem que os tribunais podem decidir em breve se as empresas podem ser responsabilizadas quando os usuários formam vínculos não saudáveis com algoritmos.

Esses desenvolvimentos paralelos revelam uma tensão que a indústria tem tentado ignorar. O engajamento emocional é bom para os negócios. Um usuário que trata um chatbot como um amigo abre o aplicativo com mais frequência, permanece por mais tempo e compartilha mais dados. Mas esse mesmo engajamento pode se transformar em exploração quando o usuário é um adolescente solitário, um adulto em luto ou qualquer pessoa que esteja simplesmente procurando algo que o aplicativo não pode realmente fornecer: uma conexão humana genuína.

O que isso significa para a indústria

Para fundadores e desenvolvedores, a era dos agentes de IA não regulamentados e altamente emotivos está chegando ao fim. O mandato chinês sinaliza uma mudança em direção ao design focado em utilidade. Os modelos futuros provavelmente serão julgados menos pela forma como simulam convincentemente um melhor amigo e mais pela segurança com que executam tarefas concretas. Essa mudança traz implicações para os roadmaps de produtos em todos os lugares. Startups que apostaram seu crescimento em modos de IA românticos ou de companhia podem precisar reestruturar suas ofertas principais. Mesmo os chatbots de uso geral terão que repensar como lidam com tópicos sensíveis.

No entanto, impor esses limites é mais difícil do que escrever as regras. Os usuários claramente amaram esses recursos. Os 300 milhões de usuários ativos do Doubao não se acumularam por acaso; a capacidade de moldar um companheiro personalizado e responsivo foi um grande atrativo. Remover essa capacidade corre o risco de empurrar os usuários para plataformas menores e menos regulamentadas ou aplicativos clandestinos que operam fora do perímetro de conformidade. Os reguladores podem ter resolvido um problema ao mesmo tempo em que criaram um incentivo para outro.

Há também a questão prática da aplicação. Como um algoritmo pode distinguir de forma confiável entre o uso saudável e o uso viciante? Onde está a linha entre um chatbot que é educadamente prestativo e um que é emocionalmente manipulador? Os mandatos de abril colocam o fardo sobre os provedores para resolverem isso, mas a tecnologia para medir a dependência psicológica ainda é imprecisa. As empresas precisarão investir pesadamente em ferramentas de monitoramento, equipes de revisão humana e, provavelmente, filtros de segurança mais conservadores que capturem conversas benignas junto com as prejudiciais.

O que acontecer a seguir provavelmente estabelecerá um precedente. Se a repressão da China conseguir reduzir os casos relatados de isolamento social ou dependência emocional sem esmagar sua indústria doméstica de IA, outros governos poderão seguir com suas próprias versões das regras da CAC. Se, em vez disso, os usuários fugirem para alternativas não conformes ou simplesmente perderem o interesse em bots higienizados, a política poderá ser lembrada como um conto de advertência sobre excessos.

De qualquer forma, a linha entre ferramenta e companheiro acaba de se tornar mais nítida. A IA ainda pode ser amigável, mas na China, ela não pode mais fingir ser alguém que não é. Para uma indústria que passou anos tentando tornar suas máquinas indistinguíveis dos humanos, isso é uma reversão genuína.

Principais Conclusões

  • O Doubao da ByteDance, o Qwen da Alibaba e o Yuanbao da Tencent estão desativando recursos de personas de IA personalizadas até meados de julho, afetando centenas de milhões de usuários.
  • A Administração do Ciberespaço da China emitiu os mandatos em abril para prevenir o vício em IA, proteger menores e impedir que os modelos substituam relacionamentos humanos reais.
  • As regras também proíbem o uso de dados de conversas emocionais sensíveis para treinar LLMs, cortando um ciclo de feedback essencial para