Serikali ya Marekani dhidi ya Anthropic: Dai Lisilowezekana la LLM Zisizoweza Kudukuliwa

Mgawanyiko unaozidi kukua umetokea kati ya serikali ya Marekani na Anthropic kufuatia kuachiliwa kwa modeli ya Fable 5, hali inayochochea mjadala kuhusu usalama wa AI na usimamizi wa kisheria. Wakati maafisa wanaituhumu maabara hiyo ya AI kwa kupuuza amri za serikali, mvutano wa kina wa kiufundi unaanza kujitokeza: dai la serikali la kuwa na modeli za kisasa "zisizoweza kudukuliwa".

Mgogoro Kuhusu Fable 5 na Maelekezo ya Mtandao

Mvutano huo unatokana na uamuzi wa Anthropic kuachilia modeli yake mpya, Fable 5, kabla ya kituo cha serikali kilichoteuliwa—kilichoelekezwa na amri ya hivi karibuni ya mtandao ya serikali ya Trump—kuanza kufanya kazi kikamilifu. Ingawa amri hiyo ilihitaji usimamizi wa hiari, maafisa wa serikali wanadai kuwa Anthropic ilipuuza nia ya maelekezo hayo, jambo linalopelekea tuhuma kuwa kampuni hiyo ni "mhusika mbaya."

Majadiliano ya sasa yanayohusisha Wizara ya Biashara, CIA, na mshauri wa sayansi Michael Kratsios yanaangazia pengo kubwa la mawasiliano. Maafisa wameonyesha wasiwasi kwamba Anthropic iliendelea licha ya kujua kuwa kuna hatari ya "jailbreak"—kidokezo kinachoripotiwa kutolewa na Amazon na washirika wengine wa sekta ya teknolojia. Hata hivyo, msuguano huo unaonekana kuwa unahusu muda wa kisheria kama ilivyo unahusu usalama wa kiufundi.

Ukweli wa Kiufundi: Je, LLM Zinaweza Kuwa Zisizoweza Kudukuliwa Kabisa?

Kiini cha ukosoaji wa serikali—kwamba Anthropic "ilichukua njia isiyo sahihi" kwa kupuuza uwezekano wa jailbreaks—kinapuuza ukweli wa msingi wa usanifu wa Large Language Model (LLM). Katika sekta ya AI, makubaliano ni kwamba usalama kamili kwa sasa hauwezekani. Hata OpenAI imekiri kwamba udhaifu kama vile prompt injection unaweza usitatuliwe kikamilifu kamwe.

Mkurugenzi Mtendaji wa Anthropic, Dario Amodei, amewahi kusema kuwa ingawa jailbreak katika nyanja nyeti kama vile biolojia au teknolojia inaweza kuwa suala la "maisha au kifo," sekta hiyo bado inahangaika na jinsi ya kupunguza hatari hizi. Kwa kudai kuwa modeli lazima ziwe zisizoweza kudukuliwa kabisa kabla ya kusafirishwa kimataifa, serikali ya Marekani inaweza kuwa inaweka mfano unaozuia uvumbuzi, kwani hakuna modeli ya kisasa (ikiwa ni pamoja na GPT-5.5 au Kimi 2.7) inayomiliki ngao kamili ya usalama.

Upinzani wa Sekta na Mdahalo wa Udhibiti wa Usafirishaji

Katika kukabiliana na mivutano inayoongezeka, zaidi ya wataalamu na viongozi wa usalama wa mtandao 100—pamoja na wataalamu wa tasnia kama Alex Stamos na Rachel Tobac—wamechapisha barua ya wazi kwa Waziri wa Biashara Lutnick na Mkurugenzi wa Kitaifa wa Usalama wa Mtandao Cairncross. Wanaitaka serikali kuondoa vizuizi vya mauzo ya nje kwa mifumo ya Fable na Mythos ya Anthropic.

Wataalamu hao wanahoji kuwa ingawa Fable ina uwezo mkubwa wa kubaini kasoro za programu, si hatari kwa kipekee ikilinganishwa na mifumo mingine kama Opus au Sonnet. Jambo la msingi ni kwamba, wanaonya kuwa vizuizi vikali vya mauzo ya nje kwa kweli vinawapunguzia uwezo walinzi wa Magharibi. Kwa kuzuia ufikiaji wa mifumo ya daraja la juu ya Marekani, serikali inaweza bila kukusudia kuwapa faida mifumo ya Kichina ya open-weight, ambayo inaripotiwa kuwa imebaki miezi michache tu nyuma ya mifumo mikuu ya Marekani.

Mambo Muhimu ya Kuzingatia