China’s most popular chatbots are about to feel a little less human. Over the next week, hundreds of millions of users w

Chinas populärste Chatbots werden sich bald ein wenig weniger menschlich anfühlen. In der nächsten Woche werden hunderte Millionen Nutzer ihre Apps öffnen und feststellen, dass die maßgeschneiderten KI-Begleiter, mit denen sie geschrieben, sich anvertraut und vielleicht sogar eine Bindung aufgebaut haben, ihrer Persönlichkeit beraubt wurden. ByteDance, Alibaba und Tencent eilen davon, eine umfassende regulatorische Anordnung umzusetzen, die die Abschaltung menschenähnlicher KI-Persona-Funktionen fordert. Die Fristen sind knapp, das Ausmaß ist gewaltig, und die Botschaft aus Peking ist unmissverständlich: Künstliche Intelligenz sollte Menschen unterstützen, nicht die Beziehungen ersetzen, die sie untereinander pflegen.

Ein koordinierter Rückzug

Das ist eine Menge, die in wenigen Tagen bewältigt werden muss. Doubao, der Chatbot von ByteDance und derzeit mit über 300 Millionen monatlich aktiven Nutzern der erfolgreichste des Landes, soll seine Persona-Funktion am 15. Juli offline nehmen. Nutzer, die maßgeschneiderte KI-Charaktere erstellt oder mit ihnen interagiert haben, werden feststellen, dass diese Optionen bald verschwunden sind. Alibaba ist noch schneller unterwegs. Sein Qwen-Modell wird menschenähnliche Agenten bis zum 10. Juli deaktivieren, wobei zusätzliche Agenten-Funktionen bis

Für Gründer und Entwickler geht die Ära der unregulierten, hochemotionalen KI-Agenten zu Ende. Das chinesische Mandat signalisiert eine Abkehr hin zu einem nutzenorientierten Design. Zukünftige Modelle werden wahrscheinlich weniger danach beurteilt werden, wie überzeugend sie einen besten Freund simulieren, sondern vielmehr danach, wie sicher sie konkrete Aufgaben ausführen. Dieser Wandel hat Auswirkungen auf Produkt-Roadmaps weltweit. Startups, die ihr Wachstum auf romantische oder als Begleiter konzipierte KI-Modi gesetzt haben, müssen ihre Kernangebote möglicherweise umstrukturieren. Selbst universell einsetzbare Chatbots werden neu überdenken müssen, wie sie mit sensiblen Themen umgehen.

Doch diese Grenzen aufzuerlegen ist schwieriger, als die Regeln zu schreiben. Die Nutzer haben diese Funktionen offensichtlich geliebt. Die 300 Millionen aktiven Nutzer von Doubao haben sich nicht zufällig angesammelt; die Fähigkeit, einen personalisierten, reaktionsfähigen Begleiter zu gestalten, war ein wesentlicher Anziehungspunkt. Das Entfernen dieser Funktion birgt das Risiko, Nutzer auf kleinere, weniger regulierte Plattformen oder Underground-Apps zu drängen, die außerhalb des Compliance-Rahmens agieren. Die Regulierungsbehörden haben möglicherweise ein Problem gelöst, während sie gleichzeitig einen Anreiz für ein anderes geschaffen haben.

Es stellt sich auch die praktische Frage der Durchsetzung. Wie unterscheidet ein Algorithmus zuverlässig zwischen gesundem Gebrauch und Suchtverhalten? Wo verläuft die Grenze zwischen einem Chatbot, der höflich hilfreich ist, und einem, der emotional manipulativ agiert? Die Mandate vom April legen die Verantwortung für die Klärung auf die Anbieter, doch die Technologie zur Messung psychologischer Abhängigkeit bleibt unklar. Unternehmen werden massiv in Monitoring-Tools, menschliche Review-Teams und wahrscheinlich in konservativere Sicherheitsfilter investieren müssen, die neben schädlichen auch harmlose Gespräche erfassen.

Was als Nächstes passiert, wird wahrscheinlich einen Präzedenzfall schaffen. Wenn Chinas Durchgreifen die gemeldeten Fälle von sozialer Isolation oder emotionaler Abhängigkeit erfolgreich reduziert, ohne die heimische KI-Industrie zu ersticken, könnten andere Regierungen mit eigenen Versionen der CAC-Regeln folgen. Wenn stattdessen die Nutzer zu nicht konformen Alternativen abwandern oder schlicht das Interesse an bereinigten Bots verlieren, könnte die politische Maßnahme als warnendes Beispiel für staatliche Übergriffigkeit in die Geschichte eingehen.

So oder so, die Grenze zwischen Werkzeug und Begleiter ist nun deutlicher gezogen. KI kann zwar weiterhin freundlich sein, aber in China kann sie nicht mehr vorgeben, jemand anderes zu sein. Für eine Branche, die jahrelang versucht hat, ihre Maschinen von Menschen ununterscheidbar zu machen, ist das eine echte Kehrtwende.

Wichtigste Erkenntnisse

• ByteDance’s Doubao, Alibabas Qwen und Tencents Yuanbao deaktivieren bis Mitte Juli alle Funktionen für benutzerdefinierte KI-Personas, was Hunderten von Millionen Nutzern Auswirkungen hat.
• Chinas Cyberspace Administration erließ die Mandate im April, um KI-Sucht zu verhindern, Minderjährige zu schützen und zu verhindern, dass Modelle echte menschliche Beziehungen ersetzen.
• Die Regeln verbieten zudem die Nutzung sensibler emotionaler Konversationsdaten zum Training von LLMs, wodurch eine entscheidende Feedbackschleife für