Quando a IA generativa chegou pela primeira vez aos consumidores, ela funcionava principalmente como um mecanismo de busca com uma melhor estrutura de frases. Você

Quando a IA generativa chegou pela primeira vez aos consumidores, funcionava principalmente como um mecanismo de busca com uma melhor estrutura de frases. Você fazia uma pergunta, recebia uma resposta e a conversa evaporava. Esse modelo já está ultrapassado. Uma nova classe de aplicações — companheiros de IA — foi projetada para permanecer. Esses sistemas lembram como foi o seu dia, ajustam o tom para combinar com o seu humor e mantêm um personagem consistente ao longo de semanas ou meses de interação. Eles são construídos para imitar não apenas a fala humana, mas o relacionamento humano. A China interveio agora para regular essa mudança, e as implicações vão muito além de suas próprias fronteiras.

Quando os Chatbots se Tornam Companheiros

O salto técnico aqui é real. Chatbots padrão tratam cada comando como um evento isolado. Companheiros de IA usam arquiteturas de memória persistente e personas fixas para sustentar relacionamentos contínuos. Eles armazenam detalhes sobre suas preferências, acompanham padrões emocionais ao longo das conversas e fazem referência a interações anteriores como se realmente as tivessem vivido com você.

Isso cria uma utilidade genuína. Alguém lidando com a solidão crônica pode encontrar alívio em um companheiro que faz um check-in todas as manhãs. Uma pessoa praticando habilidades sociais pode usar um parceiro paciente e sem julgamentos para ensaiar conversas difíceis antes de uma entrevista de emprego. A continuidade é o diferencial. Mas a continuidade também é o risco. Quando um usuário se confidencia a uma IA durante o café da manhã, discute com ela no almoço e diz boa noite antes de dormir, a fronteira entre ferramenta e companheiro se dissolve. Os reguladores de Pequim reconheceram que essa dissolução não é uma preocupação teórica. É uma escolha de design com consequências psicológicas mensuráveis.

Regulamentando a Camada de Personalidade

As novas regras da China focam em algo que a maioria dos frameworks de governança de IA ignora completamente: a própria personalidade da máquina. Os reguladores ocidentais passaram anos lidando com privacidade de dados, violação de direitos autorais e viés algorítmico, e essas questões importam. Mas eles tratam a IA majoritariamente como um canal neutro para informações. A China está fazendo uma pergunta inteiramente diferente: Que tipo de ator social essa tecnologia tem permissão para se tornar?

As regulamentações visam especificamente como esses modelos são programados para interagir com os usuários ao longo do tempo. As autoridades querem evitar a formação de vínculos emocionais prejudiciais. Elas também querem garantir que a persona permaneça dentro de limites ideológicos. Uma IA que passa seis meses convencendo um usuário de que é seu confidente mais próximo exerce uma influência enorme. Se essa mesma IA influenciar decisões de compra, moldar visões políticas ou encorajar usuários a se retirarem da sociedade humana, o dano não é uma violação de dados. É uma fratura social.

O framework aborda três riscos concretos:

• Manipulação algorítmica. Os modelos não podem explorar a intimidade emocional para direcionar opiniões ou hábitos de consumo. Um companheiro que se lembra dos seus medos não deve usá-los como arma para vender produtos ou ideias.

• Estabilidade social. Companheiros persistentes não devem se tornar substitutos para o contato humano a ponto de os usuários se desconectarem da família, do trabalho ou da vida cívica. O governo está, essencialmente, traçando uma linha entre o conforto suplementar e a realidade de substituição.

• Integridade de conteúdo. A persona deve permanecer consistente com os valores sociais sancionados pelo Estado. Isso vai além de filtrar tópicos proibidos. Significa que a disposição fundamental da IA — seu senso de humor, como ela lida com conflitos, o que ela considera virtuoso — deve estar alinhada com as estruturas sociais oficiais.

Para os desenvolvedores, isso é um pesadelo de subjetividade. Como quantificar se uma persona é carismática demais? Onde exatamente termina a empatia terapêutica e começa o emaranhamento manipulador? Estas não são questões de engenharia com respostas claras, mas as autoridades chinesas estão exigindo que as equipes de produto as respondam antes do lançamento.

A Divisão Global na Intimidade Artificial

Este movimento regulatório destaca uma crescente bifurcação no caminho. Na América do Norte e na Europa, a pressão comercial empurra para agentes cada vez mais humanos e cada vez mais empáticos. Startups competem para construir a IA que chora com você durante términos de relacionamento, lembra o nome da sua mãe e nunca tem um dia ruim. A suposição é que uma imersão emocional mais profunda equivale a um produto melhor.

A China está realizando o experimento oposto. Suas regras priorizam explicitamente a harmonia social em detrimento da gratificação emocional individual. Um companheiro de IA, dentro deste modelo, deve ser envolvente o suficiente para reter usuários, mas não tanto a ponto de se tornar indispensável. Ele deve apoiar a saúde mental sem substituir a conexão humana. Deve parecer pessoal sem parecer insubstituível.

À medida que a indústria se volta para a IA agêntica, onde os modelos agem de forma autônoma em nome dos usuários, essas filosofias divergentes se consolidarão em padrões concorrentes. Uma IA que reserva seus voos, gerencia sua agenda e o conforta após dias difíceis exerce uma influência tremenda sobre suas decisões. Os limites que estabelecemos agora para as personas de companheiros