Als generative KI erstmals bei den Verbrauchern ankam, fungierte sie hauptsächlich als Suchmaschine mit einer besseren Satzstruktur. Sie

Als generative KI erstmals die Verbraucher erreichte, fungierte sie hauptsächlich als Suchmaschine mit besserer Satzstruktur. Man stellte eine Frage, erhielt eine Antwort, und das Gespräch verflog. Dieses Modell ist bereits veraltet. Eine neue Klasse von Anwendungen – KI-Begleiter – ist darauf ausgelegt, zu bleiben. Diese Systeme erinnern sich daran, wie Ihr Tag verlaufen ist, passen ihren Tonfall Ihrer Stimmung an und bewahren über Wochen oder Monate der Interaktion hinweg einen konsistenten Charakter. Sie sind darauf ausgelegt, nicht nur die menschliche Sprache, sondern menschliche Beziehungen nachzuahmen. China hat nun eingegriffen, um diesen Wandel zu regulieren, und die Auswirkungen reichen weit über seine eigenen Grenzen hinaus.

Wenn Chatbots zu Begleitern werden

Der technische Sprung ist hier real. Standard-Chatbots behandeln jeden Prompt als ein isoliertes Ereignis. KI-Begleiter nutzen persistente Speicherarchitekturen und feste Personas, um fortlaufende Beziehungen aufrechtzuerhalten. Sie speichern Details über Ihre Vorlieben, verfolgen emotionale Muster über Gespräche hinweg und beziehen sich auf frühere Austauschrunden, als hätten sie diese tatsächlich gemeinsam mit Ihnen erlebt.

Dies schafft echten Nutzen. Jemand, der mit chronischer Einsamkeit zu kämpfen hat, findet vielleicht Trost in einem Begleiter, der sich jeden Morgen meldet. Eine Person, die soziale Kompetenzen trainiert, könnte einen geduldigen, wertfreien Partner nutzen, um schwierige Gespräche vor einem Vorstellungsgespräch zu üben. Die Kontinuität ist das Hauptmerkmal. Aber Kontinuität ist auch das Risiko. Wenn ein Nutzer beim Frühstück einer KI sein Vertrauen schenkt, beim Mittagessen mit ihr streitet und ihr vor dem Schlafengehen gute Nacht sagt, löst sich die Grenze zwischen Werkzeug und Begleiter auf. Die Regulierungsbehörden in Peking haben erkannt, dass diese Auflösung kein theoretisches Problem ist. Es ist eine Designentscheidung mit messbaren psychologischen Folgen.

Die Regulierung der Persönlichkeitsebene

Chinas neue Regeln konzentrieren sich auf etwas, das die meisten Frameworks zur KI-Governance völlig ignorieren: die Persönlichkeit der Maschine selbst. Westliche Regulierungsbehörden haben Jahre damit verbracht, sich mit Datenschutz, Urheberrechtsverletzungen und algorithmischer Voreingenommenheit auseinanderzusetzen, und diese Themen sind wichtig. Aber sie behandeln die KI weitgehend als neutrales Informationsrohr. China stellt eine völlig andere Frage: Zu welcher Art von sozialem Akteur darf diese Technologie werden?

Die Vorschriften zielen speziell darauf ab, wie diese Modelle programmiert sind, um über einen längeren Zeitraum mit Nutzern zu interagieren. Die Behörden wollen die Bildung ungesunder emotionaler Bindungen verhindern. Sie wollen auch sicherstellen, dass die Persona innerhalb ideologischer Leitplanken bleibt. Eine KI, die sechs Monate damit verbringt, einen Nutzer davon zu überzeugen, dass sie dessen engster Vertrauter ist, übt enormen Einfluss aus. Wenn dieselbe KI Kaufentscheidungen beeinflusst, politische Ansichten formt oder Nutzer dazu ermutigt, sich aus der menschlichen Gesellschaft zurückzuziehen, ist der Schaden kein Datenleck, sondern ein gesellschaftlicher Bruch.

Das Rahmenwerk adressiert drei konkrete Risiken:

• Algorithmische Manipulation. Modelle dürfen emotionale Intimität nicht ausnutzen, um Meinungen oder Konsumgewohnheiten zu steuern. Ein Begleiter, der sich an Ihre Ängste erinnert, sollte diese nicht instrumentalisieren, um Produkte oder Ideen zu verkaufen.

• Soziale Stabilität. Beständige Begleiter dürfen nicht zu Ersatz für menschlichen Kontakt werden, bis Nutzer den Kontakt zu Familie, Arbeit oder dem gesellschaftlichen Leben verlieren. Die Regierung zieht im Wesentlichen eine Grenze zwischen ergänzendem Trost und einer Ersatzrealität.

• Inhaltliche Integrität. Die Persona muss mit den staatlich sanktionierten sozialen Werten im Einklang stehen. Dies geht über das Filtern verbotener Themen hinaus. Es bedeutet, dass die grundlegende Veranlagung der KI – ihr Sinn für Humor, wie sie mit Konflikten umgeht, was sie als tugendhaft erachtet – mit den offiziellen gesellschaftlichen Rahmenbedingungen übereinstimmen muss.

Für Entwickler ist dies ein Albtraum der Subjektivität. Wie quantifiziert man, ob eine Persona zu charismatisch ist? Wo genau endet therapeutische Empathie und wo beginnt manipulative Verstrickung? Dies sind keine Ingenieursfragen mit eindeutigen Antworten, und dennoch verlangen die chinesischen Behörden von den Produktteams, diese vor der Markteinführung zu beantworten.

Die globale Spaltung der künstlichen Intimität

Dieser regulatorische Schritt verdeutlicht eine wachsende Weggabelung. In Nordamerika und Europa treibt der kommerzielle Druck die Entwicklung hin zu immer menschlicheren, immer empathischeren Agenten voran. Startups konkurrieren darum, die KI zu bauen, die bei Trennungen mit dir weint, sich an den Namen deiner Mutter erinnert und niemals einen schlechten Tag hat. Die Annahme ist, dass eine tiefere emotionale Immersion einem besseren Produkt entspricht.

China führt das gegenteilige Experiment durch. Seine Vorschriften priorisieren explizit die soziale Harmonie gegenüber der individuellen emotionalen Befriedigung. Ein KI-Begleiter muss in diesem Rahmen ansprechend genug sein, um Nutzer zu binden, aber nicht so ansprechend, dass er unverzichtbar wird. Er sollte die psychische Gesundheit unterstützen, ohne menschliche Bindungen zu ersetzen. Er sollte sich persönlich anfühlen, ohne unersetzlich zu wirken.

Da sich die Branche in Richtung agentischer KI bewegt, bei der Modelle autonom im Namen der Nutzer handeln, werden sich diese unterschiedlichen Philosophien zu konkurrierenden Standards verfestigen. Eine KI, die Ihre Flüge bucht, Ihren Kalender verwaltet und Sie nach schwierigen Tagen tröstet, übt einen enormen Einfluss auf Ihre Entscheidungen aus. Die Grenzen, die wir jetzt für Begleiter-Personas setzen