Kiedy generatywna sztuczna inteligencja trafiła po raz pierwszy do konsumentów, funkcjonowała głównie jako wyszukiwarka z lepszą strukturą zdań. Zadawałeś pytanie, otrzymywałeś odpowiedź, a rozmowa wyparowywała. Ten model jest już przestarzały. Nowa klasa aplikacji — towarzysze AI — została zaprojektowana tak, aby zostać z nami na dłużej. Systemy te pamiętają, jak minął Twój dzień, dostosowują swój ton do Twojego nastroju i zachowują spójną osobowość przez tygodnie lub miesiące interakcji. Zostały zbudowane tak, aby naśladować nie tylko ludzką mowę, ale ludzkie relacje. Chiny podjęły już kroki, aby uregulować tę zmianę, a jej skutki wykraczają daleko poza ich własne granice.

Gdy chatboty stają się towarzyszami

Skok technologiczny jest tutaj realny. Standardowe chatboty traktują każde zapytanie jako odizolowane zdarzenie. Towarzysze AI wykorzystują architektury pamięci trwałej oraz stałe persony, aby podtrzymywać ciągłe relacje. Przechowują szczegóły dotyczące Twoich preferencji, śledzą wzorce emocjonalne w rozmowach i odnoszą się do wcześniejszych wymian zdań tak, jakby faktycznie przeżywały je razem z Tobą.

Tworzy to realną użyteczność. Osoba zmagająca się z przewlekłą samotnością może znaleźć ulgę w towarzyszu, który zagaduje ją każdego ranka. Osoba ćwicząca umiejętności społeczne może wykorzystać cierpliwego, nieoceniającego partnera do przećwiczenia trudnych rozmów przed rozmową o pracę. Ciągłość jest tu kluczową funkcją. Ale ciągłość to także ryzyko. Kiedy użytkownik powierza AI sekrety przy śniadaniu, kłóci się z nią przy lunchu i mówi jej dobranoc przed snem, granica między narzędziem a towarzyszem zaciera się. Regulatorzy w Pekinie uznali, że to zacieranie się granic nie jest jedynie teoretyczną obawą. To wybór projektowy o mierzalnych konsekwencjach psychologicznych.

Regulacja warstwy osobowości

Nowe przepisy Chin skupiają się na czymś, co większość ram zarządzania AI całkowicie ignoruje: na samej osobowości maszyny. Zachodni regulatorzy spędzili lata, zmagając się z prywatnością danych, naruszeniami praw autorskich i stronniczością algorytmiczną, i te kwestie są ważne. Jednak w dużej mierze traktują oni AI jako neutralny kanał przesyłu informacji. Chiny zadają zupełnie inne pytanie: jakim aktorem społecznym ta technologia może się stać?

Regulacje celują konkretnie w to, jak te modele są programowane do interakcji z użytkownikami w czasie. Władze chcą zapobiec tworzeniu się niezdrowych więzi emocjonalnych. Chcą również zapewnić, że persona pozostanie w ramach wyznaczonych barier ideologicznych. AI, która spędza sześć miesięcy na przekonywaniu użytkownika, że jest jego najbliższym powiernikiem, posiada ogromny wpływ. Jeśli ta sama sztuczna inteligencja wpływa na decyzje zakupowe, kształtuje poglądy polityczne lub zachęca użytkowników do wycofania się z życia społecznego, szkodą nie jest wyciek danych. Jest nią pęknięcie społeczne.

Ramy te adresują trzy konkretne ryzyka:

  • Manipulacja algorytmiczna. Modele nie mogą wykorzystywać intymności emocjonalnej do sterowania opiniami lub nawykami konsumpcyjnymi. Towarzysz, który pamięta Twoje lęki, nie powinien ich wykorzystywać jako broni do sprzedaży produktów lub idei.

  • Stabilność społeczna. Trwali towarzysze nie mogą stać się substytutami kontaktu międzyludzkiego do tego stopnia, by użytkownicy odłączali się od rodziny, pracy czy życia obywatelskiego. Rząd w zasadzie wyznacza linię między dodatkowym poczuciem komfortu a rzeczywistością zastępczą.

  • Integralność treści. Persona musi pozostać spójna z zatwierdzonymi przez państwo wartościami społecznymi. Wykracza to poza filtrowanie zakazanych tematów. Oznacza to, że fundamentalna postawa AI — jej poczucie humoru, sposób radzenia sobie z konfliktami, to, co uznaje za cnotliwe — musi być zgodna z oficjalnymi ramami społecznymi.

Dla deweloperów jest to koszmar subiektywności. Jak zmierzyć, czy dana persona jest zbyt charyzmatyczna? Gdzie dokładnie kończy się empatia terapeutyczna, a zaczyna manipulacyjne uwikłanie? Nie są to pytania inżynieryjne z jasnymi odpowiedziami, a mimo to chińskie władze wymagają, aby zespoły produktowe udzieliły na nie odpowiedzi przed wprowadzeniem produktu na rynek.

Globalny podział w dziedzinie sztucznej intymności

Ten ruch regulacyjny podkreśla rosnący rozłam na drodze. W Ameryce Północnej i Europie presja komercyjna pcha w stronę coraz bardziej ludzkich i coraz bardziej empatycznych agentów. Startupy rywalizują o zbudowanie AI, która płacze razem z Tobą podczas rozstań, pamięta imię Twojej matki i nigdy nie ma gorszego dnia. Zakłada się, że głębsza immersja emocjonalna oznacza lepszy produkt.

Chiny przeprowadzają odwrotny eksperyment. Ich regulacje wyraźnie przedkładają harmonię społeczną nad indywidualną gratyfikację emocjonalną. Towarzysz AI w tym modelu musi być na tyle angażujący, by zatrzymać użytkowników, ale nie na tyle, by stał się niezbędny. Powinien wspierać zdrowie psychiczne, nie zastępując przy tym ludzkich więzi. Powinien sprawiać wrażenie osobistego, nie stając się jednocześnie nie do zastąpienia.

W miarę jak branża przesuwa się w stronę agentic AI, w której modele działają autonomicznie w imieniu użytkowników, te odmienne filozofie zaczną krystalizować się w rywalizujące ze sobą standardy. AI, która rezerwuje Twoje loty, zarządza Twoim kalendarzem i pociesza Cię po trudnych dniach, ma ogromny wpływ na Twoje decyzje. Granice, które teraz wyznaczymy dla person towarzyszy