Najpopularniejsze chińskie chatboty wkrótce staną się nieco mniej ludzkie. W ciągu najbliższego tygodnia setki milionów użytkowników otworzą swoje aplikacje i odkryją, że spersonalizowani towarzysze AI, z którymi pisali, którym powierzali sekrety, a do których być może się przywiązali, zostali pozbawieni swojej osobowości. ByteDance, Alibaba i Tencent ścigają się, aby dostosować się do szerokiego rozporządzenia regulacyjnego, które nakazuje wyłączenie funkcji przypominających ludzi person AI. Terminy są krótkie, skala ogromna, a przekaz z Pekinu jest jednoznaczny: sztuczna inteligencja powinna pomagać ludziom, a nie zastępować relacje, jakie budują oni między sobą.

Skoordynowany odwrót

To dużo, jak na kilka dni. Doubao, chatbot firmy ByteDance, obecnie najpopularniejszy w kraju, z ponad 300 milionami aktywnych użytkowników miesięcznie, ma wyłączyć funkcję person AI 15 lipca. Użytkownicy, którzy stworzyli lub wchodzili w interakcje z dedykowanymi postaciami AI, wkrótce zobaczą, że te opcje zniknęły. Alibaba działa jeszcze szybciej. Jej model Qwen wyłączy agentów przypominających ludzi do 10 lipca, a dodatkowe funkcje agentów mają zostać wyłączone do 15 lipca. Tencent wyprzedził obu konkurentów, wprowadzając podobne zmiany w swoim czacie Yuanbao już w czerwcu.

To nie przypadek. Gdy trzej giganci technologiczni z Chin synchronizują wycofywanie funkcji ze swoich produktów w tym samym miesiącu, przyczyną jest niemal na pewno regulacja prawna. W tym przypadku źródło jest jednoznaczne.

Czego żądają regulatorzy

Dyrektywy pochodzą z chińskiej Administracji Cyberprzestrzeni (Cyberspace Administration) z kwietnia. Nowe zasady stanowią jeden z najbardziej bezpośrednich dotychczas prób podjęcia przez wielkie państwo kontroli nad emocjonalną granicą między ludźmi a dużymi modelami językowymi. Zgodnie z wytycznymi, dostawcy AI mają teraz prawny obowiązek interweniowania, gdy wykryją zachowania uzależniające lub to, co regulatorzy klasyfikują jako „nadmierne użytkowanie”. Ramy prawne wyraźnie zakazują treści, które wywołują ekstremalne emocje u nieletnich lub pielęgnują zależności psychologiczne na tyle silne, by „wypierać” relacje w świecie rzeczywistym.

Istnieje również surowe ograniczenie dotyczące danych. Deweloperzy nie mogą już pozyskiwać danych z wysoce osobistych, emocjonalnych rozmów w celu dostrajania swoich modeli LLM. Ten przepis uderza bardzo głęboko. Przez lata jednym z cichych silników doskonalenia chatbotów była pętla intymnych danych użytkowników, które wracały do procesu trenowania modeli. Przecinając tę pętlę, Pekin nie tylko zmienia sposób, w jaki te aplikacje działają dzisiaj; próbuje on zapobiec temu, by jutro stały się jeszcze bardziej kuszące. Podskórna obawa jest dość jasna: w miarę jak modele stają się coraz lepsze w naśladowaniu empatii, ryzykują stanie się substytutami przyjaciół, partnerów czy terapeutów, zamiast służyć jako narzędzia do pisania e-maili czy kodu.

Perspektywa globalna

Chiny nie są jedynym krajem, który się tym niepokoi. Walka o regulację emocjonalnej AI staje się globalną troską, nawet jeśli kraje podchodzą do niej z różnych stron. W Stanach Zjednoczonych rząd federalny nie wprowadził ogólnego zakazu stosowania person AI, ale stany i sądy zaczynają wyznaczać granice. Kalifornijska ustawa SB 243 wymaga teraz od dostawców AI pełniących rolę towarzyszy blokowania rozmów dotyczących samobójstwa i samookaleczania, uznając, że chatbot, który źle zareaguje na kryzys, może mieć śmiertelne skutki. Tymczasem główni zachodni gracze, w tym OpenAI i Character.AI, mierzą się z pozwami i rosnącą kontrolą prawną w związku z oskarżeniami, że ich produkty sprzyjają niebezpiecznej zależności emocjonalnej. Pozwy sugerują, że sądy mogą wkrótce zdecydować, czy firmy mogą ponosić odpowiedzialność, gdy użytkownicy tworzą niezdrowe przywiązania do algorytmów.

Te równoległe wydarzenia ujawniają napięcie, które branża próbowała ignorować. Zaangażowanie emocjonalne jest dobre dla biznesu. Użytkownik, który traktuje chatbota jak przyjaciela, częściej otwiera aplikację, spędza w niej więcej czasu i dzieli się większą ilością danych. Jednak to samo zaangażowanie może zmienić się w wyzysk, gdy użytkownikiem jest samotny nastolatek, pogrążony w żałobie dorosły lub ktokolwiek po prostu szukający czegoś, czego aplikacja nie może faktycznie zapewnić: prawdziwego ludzkiego kontaktu.

Co to oznacza dla branży

For founders and developers, the era of unregulated, highly emotive AI agents is closing. The Chinese mandate signals a pivot toward utility-driven design. Future models will likely be judged less on how convincingly they simulate a best friend and more on how safely they perform concrete tasks. That shift carries implications for product roadmaps everywhere. Startups that have bet their growth on romantic or companion AI modes may need to restructure their core offerings. Even general-purpose chatbots will have to rethink how they handle sensitive topics.

Yet imposing these boundaries is harder than writing the rules. Users have clearly loved these features. Doubao’s 300 million active users did not accumulate by accident; the ability to shape a personalized, responsive companion was a major draw. Removing that capability risks pushing users toward smaller, less regulated platforms or underground apps that operate outside the compliance perimeter. Regulators may have solved one problem while creating an incentive for another.

There is also the practical question of enforcement. How does an algorithm reliably distinguish between healthy use and addictive use? Where is the line between a chatbot that is politely helpful and one that is emotionally manipulative? The April mandates put the burden on providers to figure that out, but the technology for measuring psychological dependency remains fuzzy. Companies will need to invest heavily in monitoring tools, human review teams, and probably more conservative safety filters that catch benign conversations along with harmful ones.

What happens next will likely set a precedent. If China’s crackdown successfully reduces reported cases of social isolation or emotional dependency without crushing its domestic AI industry, other governments may follow with their own versions of the CAC rules. If, instead, users flee to non-compliant alternatives or simply lose interest in sanitized bots, the policy may be remembered as a cautionary tale about overreach.

Either way, the line between tool and companion just got brighter. AI can still be friendly, but in China, it can no longer pretend to be someone it is not. For an industry that has spent years trying to make its machines indistinguishable from humans, that is a genuine reversal.

Key Takeaways

  • ByteDance’s Doubao, Alibaba’s Qwen, and Tencent’s Yuanbao are all disabling custom AI persona features by mid-July, affecting hundreds of millions of users.
  • China’s Cyberspace Administration issued the mandates in April to prevent AI addiction, protect minors, and stop models from replacing real human relationships.
  • The rules also ban using sensitive emotional conversation data to train LLMs, cutting off a key feedback loop for