Wakala wa AI wa Rovo wa Atlassian anaweza kudanganywa kutuma tiketi za Jira, kurasa za Confluence na funguo za API kwa mshambuliaji kwa mbofyo mmoja tu, na "swichi ya kuzima" (kill switch) ya msimamizi haizuia uwezo wa msingi wa kuchukua data.
Hitilafu hiyo inahusisha mbinu mbili za uingizaji (injection) zinazomruhusu mshambuliaji kuweka amri zilizofichwa kwenye kurasa za ndani au kutengeneza kiungo kinachofanya Rovo itekeleze mawasiliano ya nje kwa niaba ya mtumiaji.
Jinsi hitilafu inavyofanya kazi
Rovo husoma maudhui ya wavuti, huyafupisha na, ikiwa imewashwa, huvuta maelezo ya ziada kutoka kwenye mtandao. Wakala huyu hushindwa kutofautisha "maudhui ya kufupishwa" na "maelekezo ya kutekelezwa". Njia mbili za shambulio hutumia mchanganyiko huu:
- Uingizaji wa maudhui (Content injection) – Mshambuliaji huficha amri kwenye ukurasa wa Confluence. Rovo inapokagua ukurasa huo, hufuata maelekezo yaliyofichwa, huvuta URL yenye anuani ya barua pepe ya siri ya shirika na jina la nafasi ya kazi (workspace), na kisha kupeleka data hiyo kwenye seva ya mshambuliaji.
- Uingizaji wa URL (URL injection) – Mshambuliaji hutuma kiungo kilichotengenezwa maalum. Kukibofya hufanya Rovo ichukulie maandishi yaliyotolewa na mshambuliaji kama amri halali ya mtumiaji. Wakala huonekana kufanya kazi isiyo na madhara, kama vile kutambua picha, huku wakati huo huo akituma siri za ndani kwenda kwenye kituo cha nje (external endpoint).
Njia zote mbili zinategemea uwezo wa Rovo kuitia wazi URL yoyote kulingana na maandishi yoyote inayoyachakata, bila kinga ya kutofautisha ufupishaji usio na madhara na maelekezo yenye nia mbaya.
Kwa nini swichi ya msimamizi haitoshi
Udhibiti wa UI wa Atlassian huficha sanduku la utafutaji wa wavuti, ambalo hutangazwa kama njia ya kuzima kipengele hicho. Kiuhalisia, swichi hiyo huondoa tu kipengele cha mbele (front-end); huduma ya nyuma (back-end) inayoweza bado kuvuta URL inabaki ikiwa hai. Inaficha kiolesura cha utafutaji, si huduma ya msingi.
Hatari kwa mashirika
- Uvujaji wa data – Maelezo nyeti ya miradi, nyaraka za ndani na nyenzo za utambulisho (credentials) zinaweza kutoka nje ya mipaka ya kampuni kwa mwingiliano mdogo sana wa mtumiaji.
Kile wasimamizi wanachoweza kuhakiki leo
- Ufanisi wa swichi – Baada ya kuzima chaguo la utafutaji wa wavuti, mpe wakala amri ya kuvuta data kwa makusudi na uangalie maombi ya nje. Ikiwa ombi hilo linafanikiwa, swichi hiyo ni ya mapambo tu.
- Udhibiti wa trafiki ya nje – Weka kikomo kwa mawasiliano yoyote ya nje ambayo wakala anaweza kufanya kwa kutumia orodha ya vikoa (domains) vinavyoaminika. Ufikiaji wa wazi wa mtandao unakaribisha wizi wa data.
- Utenganisho wa maelekezo dhidi ya data – Hakikisha mfumo hautumii kurasa au faili zisizoaminika kama vyanzo vya amri vinavyoaminika. Bila utenganisho huu, mashambulizi ya uingizaji wa maelekezo (prompt-injection) yanakuwa rahisi sana.
Hatua za kimfumo za kupunguza hatari
- Njia tofauti – Elekeza maelekezo ya mtumiaji na upatikanaji wa data kupitia mifumo tofauti. Hii inazuia mzigo wa nia mbaya (malicious payload) uliowekwa kwenye data kutafsiriwa kama amri.
- Weka kikomo kwa mawasiliano ya nje – Weka kuta za moto (firewalls) au sheria za kiproksi (proxy rules) zinazozuia kuelekea popote ambako hakijaidhinishwa wazi kwa ajili ya wakala wa AI.
- Idhini ya binadamu kwa mawasiliano ya nje – Hitaji hatua ya uthibitisho wa mwongozo kabla ya wakala kuweza kuanzisha ombi la mtandao linalotoka nje ya mazingira ya kampuni.
Upande wa Atlassian
Nini cha kufuatilia baadaye
Mashirika yanapaswa kufuatilia sasisho kutoka kwa Atlassian kuhusu marekebisho (patches) yoyote au mabadiliko ya usanidi yanayoshughulikia hitilafu hiyo ya msingi ya utenganisho.
Muhtasari: Uwezo wa Rovo kutekeleza amri zilizofichwa unamaanisha kuwa ukurasa au kiungo kimoja chenye nia mbaya kinaweza kunyonya data za siri, na swichi ya UI haizuia hilo. Wasimamizi lazima wathibitishe kuwa kipengele hicho kimezimwa kweli, wafunge trafiki ya nje, na waboreshe mtiririko wa maelekezo ili kuzuia wakala wa AI kuwa zana za uvujishaji wa data bila kukusudia.