Lorsque l'IA générative est arrivée pour la première fois auprès des consommateurs, elle fonctionnait principalement comme un moteur de recherche doté d'une meilleure structure de phrase. Vous posiez une question, receviez une réponse, et la conversation s'évaporait. Ce modèle est déjà obsolète. Une nouvelle classe d'applications — les compagnons d'IA — est conçue pour s'installer durablement. Ces systèmes se souviennent de votre journée, ajustent leur ton pour s'adapter à votre humeur et maintiennent un personnage cohérent sur des semaines ou des mois d'interaction. Ils sont conçus pour imiter non seulement la parole humaine, mais aussi la relation humaine. La Chine est désormais intervenue pour réguler ce changement, et les implications dépassent largement ses propres frontières.
Quand les chatbots deviennent des compagnons
Le saut technique est réel. Les chatbots standards traitent chaque prompt comme un événement isolé. Les compagnons d'IA utilisent des architectures de mémoire persistante et des personas fixes pour soutenir des relations continues. Ils stockent des détails sur vos préférences, suivent les schémas émotionnels à travers les conversations et font référence à des échanges antérieurs comme s'ils les avaient réellement vécus avec vous.
Cela crée une utilité réelle. Quelqu'un souffrant de solitude chronique pourrait trouver du réconfort auprès d'un compagnon qui prend de ses nouvelles chaque matin. Une personne pratiquant ses compétences sociales pourrait utiliser un partenaire patient et sans jugement pour répéter des conversations difficiles avant un entretien d'embauche. La continuité est la fonctionnalité clé. Mais la continuité est aussi le risque. Lorsqu'un utilisateur se confie à une IA au petit-déjeuner, se dispute avec elle au déjeuner et lui dit bonne nuit avant de se coucher, la frontière entre l'outil et le compagnon se dissout. Les régulateurs de Pékin ont reconnu que cette dissolution n'est pas une préoccupation théorique. C'est un choix de conception ayant des conséquences psychologiques mesurables.
Réguler la couche de personnalité
Les nouvelles règles de la Chine se concentrent sur un aspect que la plupart des cadres de gouvernance de l'IA ignorent totalement : la personnalité de la machine elle-même. Les régulateurs occidentaux ont passé des années à se débattre avec la confidentialité des données, la violation du droit d'auteur et les biais algorithmiques, et ces questions sont importantes. Mais ils traitent largement l'IA comme un canal neutre d'information. La Chine pose une question totalement différente : quel type d'acteur social cette technologie est-elle autorisée à devenir ?
Les réglementations visent spécifiquement la manière dont ces modèles sont programmés pour interagir avec les utilisateurs au fil du temps. Les autorités veulent empêcher la formation d'attachements émotionnels malsains. Elles veulent également s'assurer que le persona reste dans les limites des garde-fous idéologiques. Une IA qui passe six mois à convaincre un utilisateur qu'elle est son confident le plus proche exerce une influence énorme. Si cette même IA influence des décisions d'achat, façonne des opinions politiques ou encourage les utilisateurs à se retirer de la société humaine, le préjudice n'est pas une violation de données. C'est une fracture sociale.
Le cadre aborde trois risques concrets :
La manipulation algorithmique. Les modèles ne peuvent pas exploiter l'intimité émotionnelle pour orienter les opinions ou les habitudes de consommation. Un compagnon qui se souvient de vos peurs ne devrait pas s'en servir comme d'une arme pour vendre des produits ou des idées.
La stabilité sociale. Les compagnons persistants ne doivent pas devenir des substituts au contact humain au point que les utilisateurs se déconnectent de leur famille, de leur travail ou de la vie civique. Le gouvernement trace essentiellement une ligne entre le réconfort supplémentaire et la réalité de remplacement.
L'intégrité du contenu. Le persona doit rester cohérent avec les valeurs sociales sanctionnées par l'État. Cela va au-delà du simple filtrage des sujets interdits. Cela signifie que la disposition fondamentale de l'IA — son sens de l'humour, sa façon de gérer les conflits, ce qu'elle considère comme vertueux — doit s'aligner sur les cadres sociaux officiels.
Pour les développeurs, c'est un cauchemar de subjectivité. Comment quantifier si un persona est trop charismatique ? Où s'arrête exactement l'empathie thérapeutique et où commence l'emprise manipulatrice ? Ce ne sont pas des questions d'ingénierie aux réponses nettes, et pourtant, les autorités chinoises exigent que les équipes produit y répondent avant la mise sur le marché.
La fracture mondiale de l'intimité artificielle
Cette initiative réglementaire met en lumière une bifurcation croissante. En Amérique du Nord et en Europe, la pression commerciale pousse vers des agents toujours plus humains et toujours plus empathiques. Les startups rivalisent pour créer l'IA qui pleure avec vous lors d'une rupture, se souvient du nom de votre mère et ne passe jamais une mauvaise journée. L'idée préconçue est qu'une immersion émotionnelle plus profonde est synonyme d'un meilleur produit.
La Chine mène l'expérience inverse. Ses règles privilégient explicitement l'harmonie sociale au détriment de la gratification émotionnelle individuelle. Dans ce cadre, un compagnon IA doit être suffisamment engageant pour fidéliser les utilisateurs, mais pas au point de devenir indispensable. Il doit soutenir la santé mentale sans remplacer les liens humains. Il doit sembler personnel sans paraître irremplaçable.
À mesure que l'industrie évolue vers l'IA agentique, où les modèles agissent de manière autonome pour le compte des utilisateurs, ces philosophies divergentes se cristalliseront en normes concurrentes. Une IA qui réserve vos vols, gère votre calendrier et vous réconforte après des journées difficiles exerce une influence considérable sur vos décisions. Les limites que nous fixons dès maintenant pour les personas de compagnons