Kwa Nini Chatbots za AI Si Marafiki Zako, Kulingana na Meredith Whittaker wa Signal

Wakati Mifumo Mikubwa ya Lugha (LLMs) inavyozidi kuingizwa katika mifumo yetu ya kazi ya kila siku ya kidijitali, mpaka kati ya mwingiliano wa binadamu na majibu ya mashine unazidi kufifia. Rais wa Signal, Meredith Whittaker, anatoa onyo kali kwa watumiaji: usichukulie uundaji wa takwimu uliotandazwa kama urafiki wa kweli au akili inayojitambua.

Udanganyifu wa Utambuzi katika LLMs

Katika mahojiano ya hivi karibuni na Bloomberg, Meredith Whittaker alizungumzia tabia inayozidi kukua ya kuipa mifumo ya AI sifa za kibinadamu kama vile ChatGPT ya OpenAI na Claude ya Anthropic. Alisisitiza kuwa licha ya uwezo wao wa kuzungumza kwa ufasaha, mifumo hii haina fahamu wala uwezo wa kujiamulia. "Hawa si marafiki zako. Hawa si viumbe wenye fahamu. Hawa si wazungumzaji wenye utambuzi," Whittaker alisema, akiwakumbusha watumiaji kuwa chatbots kimsingi ni injini za kisasa zilizoundwa kutabiri token inayofuata katika mfuatano.

Wasiwasi wa Whittaker unavuka mipaka ya tafsiri za kifalsafa na kuingia katika athari za kiakili za AI kwa ubunifu wa binadamu. Ingawa anakiri kutumia zana za AI kwa kazi ndogo, kama vile kupanga muundo wa hati, anakataa kuzitumia kwa ufikiri wa kiwango cha juu. Anahoji kuwa kutegemea AI kwa ajili ya kutoa mawazo kuna hatari ya "kuzuia" mchakato wa fikra za binadamu, kwani mifumo hii hufanya kazi kwa "kuchukua wastani wa kile ambacho tayari kipo," jambo ambalo linaweza kukandamiza fikra asilia zisizotokana na mambo mengine.

Gharama ya Faragha ya AI ya "Agentic"

Mazungumzo yalichukua mkondo mkali zaidi wakati wa kujadili kuibuka kwa "AI Agents"—mifumo iliyoundwa kufanya kazi kwa kujitegemea kwa niaba ya mtumiaji. Whittaker alipinga hasa utabiri wa Mkurugenzi Mtendaji wa Microsoft AI, Mustafa Suleyman, ambaye alipendekeza kuwa zana kama Microsoft Copilot zinaweza hatimaye kusimamia kazi ngumu za kibinafsi, kama vile ununuzi wa likizo.

Whittaker alibainisha mabadiliko makubwa ya faragha yanayojitokeza katika uwezo huo wa "agentic". Ili AI isimamie ununuzi au ratiba ya mtumiaji, inahitaji ufikiaji wa ndani zaidi wa data nyeti sana, ikiwa ni pamoja na:

• Taarifa za kadi ya mkopo ya kibinafsi na historia ya utafutaji.
• Mawasiliano ya wakati halisi kupitia programu kama Signal.
• Kalenda za kibinafsi na anwani za nyumbani.

Kutokana na mtazamo wa usalama, Whittaker anaona kiwango hiki cha uunganishaji kama udhaifu mkubwa. Alibainisha kuwa kumruhusu AI kufuatilia mazungumzo ya vikundi vya familia au kutuma ujumbe kwa ndugu kwa niaba ya mtumiaji kungekuwa kama "mlango wa nyuma" (backdoor) katika maisha ya siri ya kidijitali ya mtumiaji.

Athari kwa Mfumo wa AI

Msimamo wa Whittaker unaangazia mvutano unaokua katika sekta ya teknolojia: mbio za kutafuta manufaa ya "agentic" dhidi ya haki ya msingi ya faragha na uhuru wa kiakili. Wakati watengenezaji wakielekea kwenye mifumo inayoweza kufanya kazi katika programu nyingi, sekta hii inakabiliwa na swali muhimu: je, tunaweza kupata msaada wa AI usio na kikwazo bila kuunda kituo cha pamoja cha uchunguzi kamili? Kwa watengenezaji na waanzilishi, hii inasisitiza ulazima wa kujenga miundo ya AI inayozingatia "faragha kwanza" ambayo inatoa kipaumbele kwa uchakataji wa ndani na mifumo ya data iliyotengwa badala ya uunganishaji unaopenya kila mahali na wenye ufikiaji wa kila kitu.

Mambo Muhimu ya Kuzingatia

• Epuka Anthropomorphism: Mifumo ya AI ni zana za takwimu, si viumbe wenye hisia, na kuichukulia kama "rafiki" kunaweza kusababisha kutoelewa kwa uwezo na hatari zake.
• Linda Uhuru wa Kiakili: Utegemezi uliopitiliza wa AI kwa ajili ya ubunifu na utatuzi wa matatizo unaweza kusababisha "urejeo wa wastani" (regression to the mean), ambapo ubunifu wa binadamu unafunikwa na data zilizopata wastani.
• Pengo la Faragha la Agentic: Msukumo wa wakala wa AI wenye uwezo wa kujitegemea unahitaji ufikiaji usio wa kawaida wa data binafsi, jambo linalounda milango ya nyuma ya usalama na udhaifu mkubwa wa faragha.