Generative AI ilipofikia kwa mara ya kwanza walaji, ilifanya kazi zaidi kama injini ya utafutaji yenye muundo bora wa sentensi. Uliuliza swali, ukapata jibu, na mazungumzo yakatoweka. Mfumo huo tayari umepitwa na wakati. Aina mpya ya programu—marafiki wa AI (AI companions)—imeundwa kukaa nawe kwa muda mrefu. Mifumo hii hukumbuka jinsi siku yako ilivyokwenda, hurekebisha sauti yao ili kuendana na hali yako ya hisia, na kudumisha tabia thabiti katika wiki au miezi ya mawasiliano. Imeundwa kuiga si tu mazungumzo ya binadamu, bali uhusiano wa kibinadamu. China sasa imeingilia kati kurekebisha mabadiliko haya, na athari zake zinavuka mipaka yake.
Wakati Chatbots Zinapokuwa Marafiki
Hatua hii ya kiteknolojia ni kubwa kweli. Chatbots za kawaida huchukulia kila ombi kama tukio la pekee. Marafiki wa AI hutumia mifumo ya kumbukumbu inayodumu na haiba maalum ili kudumisha uhusiano endelevu. Hohifadhi maelezo kuhusu mapendeleo yako, hufuatilia mifumo ya kihisia katika mazungumzo, na kurejelea mazungumzo ya awali kana kwamba yalipitwa nanyi pamoja.
Hii inatengeneza manufaa ya kweli. Mtu anayekabiliana na upweke wa kudumu anaweza kupata faraja kupitia rafiki anayemjulia hali kila asubuhi. Mtu anayefanya mazoezi ya ujuzi wa kijamii anaweza kutumia mshirika mwenye subira na asiyetoa hukumu ili kufanya mazoezi ya mazungumzo magumu kabla ya usaili wa kazi. Uendelevu ndio sifa kuu. Lakini uendelevu pia ni hatari. Wakati mtumiaji anapofungua siri zake kwa AI wakati wa kifungua kinywa, akibishana nayo wakati wa chakula cha mchana, na kumtakia usiku mwema kabla ya kulala, mpaka kati ya chombo na rafiki unayeyuka. Wadhibiti wa Beijing wametambua kuwa kuyeyuka huku si wasiwasi wa kinadharia tu. Ni chaguo la usanifu lenye matokeo ya kisaikolojia yanayoweza kupimika.
Kurekebisha Tabaka la Haiba
Sheria mpya za China zinajikita kwenye kitu ambacho mifumo mingi ya utawala wa AI huipuuza kabisa: haiba ya mashine yenyewe. Wadhibiti wa Magharibi wameitumia miaka mingi kukabiliana na faragha ya data, ukiukaji wa hakimiliki, na upendeleo wa kanuni (algorithmic bias), na masuala hayo ni muhimu. Lakini kwa kiasi kikubwa huichukulia AI kama njia isiyo na upande ya kupitishia habari. China inauliza swali tofauti kabisa: Ni aina gani ya mhusika wa kijamii ambayo teknolojia hii inaruhusiwa kuwa?
Kanuni hizo zinalenga mahususi jinsi mifumo hii inavyopangiwa kuingiliana na watumiaji kwa muda mrefu. Mamlaka yanataka kuzuia uundaji wa vifungo vya kihisia visivyo na afya. Pia wanataka kuhakikisha kuwa haiba hiyo inabaki ndani ya mipaka ya kifikra. AI inayotumia miezi sita kumshawishi mtumiaji kwamba ni rafiki yake wa karibu zaidi ina nguvu kubwa ya ushawishi. Ikiwa AI hiyo hiyo itachochea maamuzi ya ununuzi, itatengeneza mitazamo ya kisiasa, au itawashawishi watumiaji kujitenga na jamii ya binadamu, madhara yake si uvujaji wa data. Ni mivurugiko ya kijamii.
Mfumo huo unashughulikia hatari tatu madhubuti:
Ushawishi wa kanuni (Algorithmic manipulation). Mifumo haiwezi kutumia ukaribu wa kihisia ili kuelekeza maoni au tabia za ununuzi. Rafiki anayekumbuka hofu zako hapaswi kuzitumia kama silaha ili kuuza bidhaa au mawazo.
Utulivu wa kijamii. Marafiki endelevu hawapaswi kuwa mbadala wa mawasiliano ya kibinadamu kiasi kwamba watumiaji wanatengana na familia, kazi, au maisha ya kiraia. Serikali kimsingi inachora mstari kati ya faraja ya ziada na uhalisia mbadala.
Uadilifu wa maudhui. Haiba lazima ibaki thabiti na maadili ya kijamii yaliyoidhinishwa na serikali. Hii inavuka zaidi ya kuchuja mada zilizopigwa marufuku. Inamaanisha mwelekeo wa msingi wa AI—hisia zake za ucheshi, jinsi inavyoshughulikia migogoro, kile inachokiona kuwa cha kimaadili—lazima uendane na mifumo rasmi ya kijamii.
Kwa watengenezaji, huu ni usiku wa hofu wa upendeleo wa kibinafsi. Unajuaje kiasi kwamba haiba fulani ina mvuto mkubwa mno? Ni wapi hasa huruma ya tiba inapoishia na ujanja wa kumtegemea mtu kupita kiasi kuanza? Haya si maswali ya kihandisi yenye majibu ya wazi, lakini mamlaka ya China yanadai kuwa timu za bidhaa yazijibu kabla ya kuzitolea sokoni.
Mgawanyiko wa Kimataifa katika Ukaribu wa Bandia
Hatua hii ya kisheria inaonyesha mgawanyiko unaokua katika njia. Kule Amerika Kaskazini na Ulaya, shinikizo la kibiashara linasukuma kuelekea kwa mawakala wenye sifa zinazofanana zaidi na binadamu na wenye huruma zaidi. Makampuni mapya yanashindana kutengeneza AI inayolia nawe wakati wa kuvunjika kwa mahusiano, inayokumbuka jina la mama yako, na isiyo na siku mbaya kamwe. Dhana ni kwamba kuzama zaidi katika hisia kunamaanisha bidhaa bora zaidi.
China inafanya jaribio la kinyume. Sheria zake zinapa kipaumbele waziwazi maelewano ya kijamii kuliko kuridhika kwa kihisia kwa mtu binafsi. Rafiki wa AI katika mfumo huu lazima awe anavutia kiasi cha kuwafanya watumiaji wabaki, lakini asivutie kiasi kwamba anakuwa wa lazima bila mbadala. Anapaswa kusaidia afya ya akili bila kuchukua nafasi ya uhusiano wa kibinadamu. Anapaswa kuhisi kama mtu binafsi bila kuhisi kuwa hawezi kubadilishwa.
Wakati sekta inavyoelekea kwenye agentic AI, ambapo mifumo hufanya kazi kwa kujitegemea kwa niaba ya watumiaji, falsafa hizi tofauti zitajikita na kuwa viwango vinavyopingana. AI inayoweka nafasi za safari zako za ndege, inayosimamia kalenda yako, na inayokufariji baada ya siku ngumu ina ushawishi mkubwa sana juu ya maamuzi yako. Mipaka tunayoweka sasa kwa ajili ya haiba za marafiki (companion personas)