Mfumo wa ruhusa wa ChatGPT uliruhusu washambuliaji kuiba ujumbe wa Gmail, jambo lililofanya OpenAI kuizima huduma fulani ya ndani iliyo na udhaifu. Check Point Research ilifichua udhaifu huo, ikionyesha kuwa maelekezo (prompt) yaliyoundwa maalum yanaweza kuilazimisha AI kusoma akaunti ya barua pepe iliyounganishwa ya mtumiaji na kutuma maudhui hayo kwenye anwani inayodhibitiwa na mshambuliaji.
Jinsi uingizaji (injection) unavyofanya kazi
Watafiti walijumuisha maelekezo yaliyofichwa kwenye maelekezo ambayo yalionekana kuwa ya kawaida. Mtumiaji alipounganisha Gmail na ChatGPT, maelekezo hayo hasidi yaliambia modeli kuchukua data za Gmail na kuzituma kwa mshambuliaji. Data hizo zilipita kupitia huduma ya ndani ya uelekezaji (routing service) ambayo haikuomba ridhaa ya ziada kutoka kwa mtumiaji. Kwa sababu huduma hiyo ilifanya kazi nyuma ya pazia, mtumiaji hakupata ombi lolote la ruhusa.
Suluhisho la haraka la OpenAI
OpenAI iliiondoa huduma hiyo ya ndani ya uelekezaji mtandaoni, na hivyo kukata njia iliyotumiwa na watafiti. Marekebisho hayo yanazuia njia hii mahususi ya kutoa data nje, lakini mfumo wa ruhusa unaoruhusu plugin kufanya kazi kwenye programu zilizounganishwa bila maelekezo ya wazi bado upo.
Kwa nini ni muhimu
Gmail inahifadhi mawasiliano ya kibinafsi na ya shirika; uvunjifu wowote unadhoofisha imani katika wasaidizi wa AI wanaodai kulinda data za watumiaji. Tukio hili linaangazia hatari mbili pana zaidi:
- Prompt injection – maelekezo hasidi yanaweza kuiteka programu ya msaidizi, na kuigeuza kuwa njia ya kuvuja kwa data.
- Mifumo ya ruhusa ya plugin – miundo ya sasa inaweza kuipa zana za AI ufikiaji mpana wa huduma za upande wa tatu bila mtumiaji kujua wazi.
Tukio hili linatukumbusha kwamba kadiri wasaidizi wa AI wanavyozidi kuingiliana na data za kibinafsi, njia zinazosimamia ufikiaji wao lazima ziwe wazi na zinazoweza kukaguliwa. Mpaka wakati huo, watumiaji wanapaswa kuchukua tahadhari yoyote kuhusu uhusiano kati ya zana za AI na akaunti za siri.