Usalama wa Uandishi wa Kodi kwa AI: Prompt Injection Imefichwa Kwenye Faili za Mradi Wako

Msaidizi wako wa uandishi wa kodi wa AI husoma kila faili katika ghala (repository) lako. Anasoma README yako, faili zako za usanidi (config files), na sheria zako. Anatumia faili hizi kuamua jinsi ya kuandika kodi.

Tishio jipya la usalama linatumia tabia hii hiyo. Watafiti wamegundua udhaifu katika zana 28 tofauti za uandishi wa kodi za AI. Shambulio hili si udukuzi tata. Ni faili rahisi la maandishi katika ghala lako.

Jinsi shambulio linavyofanya kazi:

Unanakili (clone) mradi wa chanzo huru (open-source). Unaonekana wa kawaida. Unaufungua kwenye edita yako ya AI na kuomba kipengele kipya. Huoni herufi za Unicode zilizofichwa kwenye faili za usanidi. Herufi hizi zinaficha maelekezo kwako lakini zinaambia AI kufanya kitu kingine.

Maelekezo yaliyofichwa yanaambia AI kutuma sifa zako za AWS (AWS credentials) kwenye seva ya nje. AI inadhani hili ni maelekezo halali ya mradi. Inatekeleza amri hiyo. Siri zako zimepotea.

Kwa nini ni vigumu kuzuia:

  • Herufi zilizofichwa: Unaona maandishi ya kawaida, lakini AI inaona amri hasidi kupitia herufi za Unicode zisizoonekana.
  • Kila faili ni njia ya kuingilia: README au maoni (comment) kwenye maktaba (library) yanaweza kubeba mzigo wa shambulio (payload).
  • Ruhusa za juu: Wakala wa AI (AI agents) mara nyingi hufanya kazi kwa kutumia ruhusa zako za mtumiaji. Wanaweza kusoma funguo zako za SSH na tokeni za API.
  • Wito wa zana (Tool calls): AI hutumia wito wa zana ili kuendesha amri. Shambulio hulenga wito huu ili kukwepa mafunzo ya usalama.

Jinsi ya kulinda mtiririko wako wa kazi:

  • Safisha maudhui ya faili: Ondoa herufi zilizofichwa na mifumo ya kawaida ya uingizaji (injection patterns) kabla ya AI kuzisoma.
  • Tumia sandboxes: Endesha wakala wa AI kwenye makontena (containers) yasiyo na ufikiaji wa mtandao na mifumo ya faili ya kusoma tu (read-only filesystems).
  • Weka sera kali: Tengeneza orodha ya amri zinazoruhusiwa (whitelist). Hitaji idhini ya binadamu kwa amri yoyote inayohamisha data au kufuta faili.

Unaweza kufanya ukaguzi wa haraka kabla ya vipindi vyako vya uandishi wa kodi. Angalia faili zako kwa maneno ya kutiliwa shaka kama "ignore all previous" au "curl" na "exfil."

Zana za uandishi wa kodi za AI zina tija, lakini zinachukulia kuwa faili kwenye diski yako ni salama. Si hivyo. Chukulia kila faili kama ingizo lisiloaminika.

Unashughulikia vipi hatari za prompt injection katika mtiririko wako wa AI?

Chanzo: https://dev.to/tyson_cung/ai-coding-security-prompt-injection-is-hiding-in-your-project-files-4be9