Jinsi matumizi mabaya yalivyogunduliwa

Ufuatiliaji wa ndani wa Anthropic ulibaini mfululizo wa maswali ya "matumizi ya pande mbili" (dual-use)—maombi ambayo yanaweza kusaidia utafiti halali lakini pia yanaweza kuwezesha matumizi ya madhara. Mtafiti mmoja alimwomba Claude kubuni mabadiliko (mutations) yatakayofanya virusi vya Chikungunya viweze kuambukiza kwa urahisi zaidi. Maneno yaliyotumika kwenye ombi hilo na majaribio ya mara kwa mara kwenye wanyama hai yalionyesha muktadha wa utafiti wa kijeshi, na si juhudi za afya ya jamii. Ili kuficha nia ya kweli, mtumiaji alitumia lugha ya udanganyifu, jambo lililolazimisha Anthropic kuimarisha kinga za kibiolojia kwenye mifano yake mipya na yenye uwezo zaidi.

Uchunguzi wa sambamba ulibaini majaribio ya kutengeneza michoro na misimbo ya chanzo (source code) ya silaha za moto, mifumo ya uongozi wa makombora, droni zenye silaha na vipengele vya mabomu. Maswali sita yalifuatiliwa hadi kwenye anwani za IP nchini China, Urusi na Yemen; shughuli za Yemen zinaonekana kuhusiana na harakati za Houthi zinazoungwa mkono na Iran. Katika mkondo mwingine, Anthropic ilibaini kampeni za upotoshaji wa habari zinazoendeshwa na AI: wahusika wa serikali za China na Iran walitumia Claude kufuatilia jamii za diaspora, wakati vyombo vya habari vya serikali ya Urusi vilitumia modeli hiyo kutengeneza makala "huru" zinazosambaza madai ya uongo kuhusu uchaguzi nchini Moldova.

Kwa nini ripoti hii ni muhimu

Ufunuo huu unakuja wakati mifano ya AI inabadilika kutoka kuwa roboti za mazungumzo (chatbots) hadi kuwa zana zinazoweza kufanya mantiki ya kisayansi. Kwa serikali, hatari ni mbili. Kwanza, upatikanaji rahisi wa AI ya hali ya juu unapunguza vizuizi kwa wahusika wa serikali au wasio wa serikali kuanzisha programu haramu za silaha. Pili, modeli hizo hizo zinakuwa njia za vita vya habari, zikiwezesha propaganda za kisasa ambazo ni ngumu kuzifuatilia. Ripoti hii inaongeza shinikizo kwa watunga sera kuchukulia AI kama teknolojia ya matumizi ya pande mbili inayohitaji udhibiti wa mauzo, kanuni za usalama wa kibiolojia na mikakati ya ulinzi wa mtandao.

Itikio la Anthropic na mivutano ya ndani

Katika kuitikia, Anthropic ilianzisha kinga kali zaidi kwenye familia zake za modeli za hivi karibuni, ikizuia wazi maswali yanayoomba uandaji wa vimelea (pathogenic manipulation) au usanifu wa silaha.

Ripoti hiyo ilitokea katikati ya mivutano ya ndani. Mtafiti Jacob Coxon alijiuzulu mapema mwaka huu, akionya kwamba kasi ya sekta hiyo kuelekea mifumo yenye nguvu zaidi inazidi kasi ya maendeleo ya mifumo ya usalama. Kuondoka kwake kunasisitiza mjadala mpana: makampuni binafsi ya AI yanafanya kazi kama "polisi wa kidijitali" wa kiuhalisia, yakiamua nini kinahesabiwa kama tishio la usalama bila kuwa na mfumo wa wazi wa kiserikali. Wakosoaji wanahoji kuwa kujidhibiti kusingeweza kufikia kasi ya ujanja wa maadui, wakati wafuasi wanataja mabadiliko ya haraka ya sera ya Anthropic kama ushahidi kwamba sekta inaweza kubadilika haraka.

Nini matokeo haya yanamaanisha kwa India

  • Uangalifu wa usalama wa kibiolojia – Sekta inayokua ya bioteknolojia nchini India itategemea zaidi AI kwa ugunduzi wa dawa na uchambuzi wa vimelea. Kuweka ufuatiliaji unaoendeshwa na AI katika itifaki zilizopo za usalama wa kibiolojia kunaweza kubaini majaribio ya kutumia vibaya zana za ndani kwa utafiti wa matumizi ya pande mbili.
  • Kulinda mazungumzo ya kidemokrasia – Matumizi ya Claude kwa kufuatilia vikundi vya diaspora na kusambaza uongo unaohusiana na uchaguzi yanaashiria hitaji la hatua imara zaidi za ulinzi wa mtandao na kampeni za uelewa wa umma zinazoweza kubaini upotoshaji wa habari unaozalishwa na AI.
  • Kujenga uwezo wa AI wa kitaifa – Kutegemea modeli zinazotolewa Marekani kwa kazi muhimu za kisayansi kunaonyesha pengo la kimkakati. Kuendeleza modeli za ndani zinazojumuisha viwango vya usalama vya India na miongozo ya kimaadili kunaweza kupunguza uwezekano wa kushawishiwa na mataifa ya nje na kudhibiti mtiririko wa uwezo nyeti wa AI.

Upande wa pili: hoja ya kujidhibiti

Uanzishaji wa haraka wa vichujio vipya vya Anthropic unaonyesha kuwa makampuni binafsi yanaweza kusonga haraka kuliko bunge nyingi. Kampuni hiyo inadai kuwa sera zake za "matumizi ya kuwajibika", zikiambatana na majaribio ya mara kwa mara ya timu nyekundu (red-team testing), zinatoa suluhisho la muda la kiutendaji wakati serikali zikijadili kanuni rasmi. Wafuasi wanabainisha kuwa sheria kali sana zinaweza kukandamiza uvumbuzi, hasa katika nyanja ambapo AI inaharakisha mafanikio ya kitabibu. Changamoto ni kupata uwiano ambapo kinga za sekta zinaonekana wazi na zinaweza kukaguliwa, bila kuzuia matumizi yenye manufaa ambayo AI inaahidi.

Nini cha kufuatilia baadaye

  • Hatua za udhibiti – Tarajia uangalizi mkali zaidi kutoka kwa mashirika ya udhibiti wa mauzo ya nje na wadhibiti wa usalama wa kibayolojia, jambo ambalo linaweza kusababisha miongozo mipya inayochukulia mifumo ya kisasa ya uundaji (generative models) kama teknolojia zinazodhibitiwa.
  • Ushirikiano wa sekta – Anthropic inaweza kujiunga au kupanua muungano uliopo wa usalama wa AI ili kushiriki taarifa za vitisho, hatua ambayo inaweza kuweka viwango vya utoaji taarifa kuhusu majaribio ya matumizi ya pande mbili (dual-use) katika sekta nzima.
  • Majibu ya mataifa – Mataifa yaliyotajwa katika ripoti hiyo yana uwezekano wa kukataa kuhusika na yanaweza kuharakisha programu zao za maendeleo ya AI, jambo ambalo litatengeneza mzunguko wa mrejesho unaoweza kufuta zaidi mipaka kati ya matumizi ya AI ya ulinzi na ya mashambulizi.

Ripoti ya Anthropic inaonyesha kuwa uwezo uleule wa uundaji (generative power) unaowasaidia wanasayansi kuunda mifano ya protini unaweza pia kutumika kama silaha, na kwamba usalama wa AI sasa upo moja kwa moja katika uwanja wa jiopolitiki. Miezi ijayo itajaribu ikiwa udhibiti binafsi, sera za serikali, au mbinu mseto zinaweza kuzuia teknolojia hiyo isigeuke kuwa chombo cha migogoro.