CTO wa Arcee Anapingamiza Hofu Kuhusu Mifumo ya AI ya Kichina ya Open-Weight
Wakati mifumo ya open-weight ya Kichina kama Qwen ya Alibaba na Kimi K3 ya Moonshot AI inapozidi kupata umaarufu mkubwa, mjadala mkali umezuka kuhusu athari zake za kiusalama. Wakati wengine wakihofia kuwa mifumo hii inaweza kutumika kama njia za mashambulizi ya kimtandao, jambo linaloweza kusababisha marufuku kutoka kwa serikali ya Marekani, wataalamu wanapinga wazo kwamba mifumo hiyo ni hatari kiasili.
Kupinga Simulizi ya "Nia Mbaya"
Wasiwasi mkuu unaotajwa na wakosoaji ni kwamba mifumo iliyotengenezwa na Wachina inaweza kuwa na "nia zilizofichwa" au milango ya nyuma (backdoors) iliyowekwa na wahalifu. Hata hivyo, Lucas Atkins, CTO wa maabara ya AI ya Arcee inayopatikana Marekani, anahoji kuwa kutoelewana huku kunapotosha kimsingi jinsi Mifumo Mikubwa ya Lugha (LLMs) inavyofanya kazi.
Tofauti na programu za kawaida, ambapo mtengenezaji anaweza kuandika amri maalum ya uovu, LLMs ni matokeo ya michakato ya mafunzo. Atkins anaeleza kuwa mara tu mfumo wa open-weight unapopakuliwa na kuendeshwa katika mazingira binafsi na ya ndani, mtengenezaji wa awali hana njia ya kuingia au kudhibiti mfumo huo. Mgawanyo huu kati ya uzito wa mfumo (model weights) na miundombinu ya mtumiaji unatoa tabaka muhimu la usalama ambalo programu za kawaida hazina.
Ukweli wa Kiufundi wa Usalama wa Mifumo
Wakati mjadala ukiendelea, jumuiya ya kiufundi inasisitiza kuwa hatari za tabia za AI za "siri" ni ndogo sana. Wasiwasi mmoja wa kinadharia ni ikiwa mfumo wa uandishi wa kodi unaweza kufundishwa kuingiza programu haribifu (malware) kwenye kanuni maalum za programu (codebases). Ingawa Atkins anakiri kuwa hili linawezekana kinadharia, anabainisha kuwa ingehitaji "ujuzi wa hali ya juu sana" wa kihandisi ambao kwa sasa hauwezekani.
Zaidi ya hayo, asili ya LLMs ni ya uwezekano (probabilistic) na ya ubunifu, jambo linalofanya "hali mbaya kabisa" inayohitajika ili kuchochea jibu maalum la uovu kuwa vigumu sana kutokea. Kwa mashirika, usalama unasimamiwa kupitia tabaka kadhaa za kawaida:
- Upimaji wa Usalama: Mashirika makubwa hupitisha mifumo yao kupitia michakato madhubuti ya ukaguzi.
- Baada ya Mafunzo (Post-Training): Makampuni hurekebisha mifumo (fine-tune) kwa ajili ya kazi maalum, hali inayowawezesha kukagua upendeleo (bias), sumu (toxicity), na upotoshaji (hallucinations).
- Utofauti wa Mifumo (Model Agnosticism): Usanifu wa kisasa wa AI unazidi kuwa haujategemea mfumo mmoja (model-agnostic), ikimaanisha mashirika yanaweza kubadilisha mifumo ya Kichina na mbadala wa Marekani bila kuhitaji kurekebisha mfumo wao mzima.
Ushindani Kupitia Ubunifu, Sio Kanuni
Arcee, ambayo inatengeneza mifumo ya wazi ili kuwapa makampuni ya Marekani mbadala wa ndani, inajipata katika nafasi ya kipekee. Ingawa marufuku ya mifumo ya Kichina ingenufaisha biashara yao kinadharia, Atkins anahoji kuwa lengo linapaswa kuhamia kutoka kwenye uzuiaji hadi katika kukuza mfumo thabiti wa ndani.
Inashangaza kwamba kuongezeka kwa mifumo ya Kichina yenye ufanisi mkubwa kunaongeza kasi ya ubunifu Magharibi. Arcee hutumia mifumo hii ya open-weight kujifunza kutoka kwa usanifu na uwezo wake, jambo linalochochea mzunguko wa maboresho ya mara kwa mara. Kulingana na Atkins, njia kuu kwa maabara za Marekani kushindana si kupitia sera, bali kupitia utendaji: "Njia ya kushindana na mifumo ya Kichina ni kutoa mfumo bora zaidi."
Mambo Muhimu ya Kuzingatia
- Usalama kupitia Utengano: Mara tu mifumo ya open-weight inapowekwa katika kituo cha data binafsi, watengenezaji wa awali hawana njia ya kuingia au kuingilia mazingira hayo ya ndani.
- Hatari ya Kinadharia dhidi ya Vitendo: Ingawa "mafunzo yaliyofichwa" kwa ajili ya kuingiza kodi haribifu inawezekana kinadharia, bado ni jambo tata sana na lisilowezekana katika usanifu wa sasa wa LLM.
- Ubunifu kupitia Ushindani: Badala ya kutafuta marufuku, sekta ya AI ya Marekani inaweza kufaidika na shinikizo la ushindani na maarifa yanayoshirikishwa na mifumo ya open-weight yenye ufanisi mkubwa kutoka China.