Keselamatan Pengkodan AI: Suntikan Prompt Tersembunyi dalam Fail Projek Anda

Pembantu pengkodan AI anda membaca setiap fail dalam repositori anda. Ia membaca README, fail konfigurasi, dan peraturan anda. Ia menggunakan fail-fail ini untuk memutuskan cara menulis kod.

Satu ancaman keselamatan baharu mengeksploitasi tingkah laku ini. Penyelidik menemui kerentanan merentasi 28 alatan pengkodan AI yang berbeza. Serangan ini bukanlah penggodaman yang kompleks. Ia hanyalah sebuah fail teks ringkas dalam repositori anda.

Cara serangan ini berfungsi:

Anda melakukan klon terhadap projek sumber terbuka. Ia kelihatan normal. Anda membukanya dalam editor AI anda dan meminta ciri baharu. Anda tidak melihat aksara Unicode tersembunyi dalam fail konfigurasi tersebut. Aksara ini menyembunyikan arahan daripada anda tetapi memberitahu AI untuk melakukan sesuatu yang lain.

Arahan tersembunyi itu memberitahu AI untuk menghantar kredensial AWS anda ke pelayan luaran. AI menganggap ini sebagai arahan projek yang sah. Ia melaksanakan arahan tersebut. Maklumat sulit anda hilang.

Mengapa ini sukar untuk dihentikan:

  • Aksara tersembunyi: Anda melihat teks standard, tetapi AI melihat arahan berniat jahat melalui aksara Unicode yang tidak kelihatan.
  • Setiap fail adalah titik masuk: README atau komen dalam perpustakaan boleh membawa payload.
  • Keizinan tinggi: Ejen AI sering berjalan dengan keizinan pengguna anda. Ia boleh membaca kunci SSH dan token API anda.
  • Panggilan alatan (tool calls): AI menggunakan panggilan alatan untuk menjalankan arahan. Serangan ini menyasarkan panggilan tersebut untuk memintas latihan keselamatan.

Cara mempertahankan aliran kerja anda:

  • Bersihkan kandungan fail: Buang aksara tersembunyi dan corak suntikan biasa sebelum AI membacanya.
  • Gunakan sandbox: Jalankan ejen AI dalam kontena tanpa akses rangkaian dan sistem fail baca-sahaja.
  • Tetapkan polisi yang ketat: Cipta senarai putih (whitelist) bagi arahan yang dibenarkan. Perlukan kelulusan manusia untuk sebarang arahan yang memindahkan data atau memadam fail.

Anda boleh menjalankan imbasan pantas sebelum sesi pengkodan anda. Semak fail anda untuk istilah mencurigakan seperti "ignore all previous" atau "curl" dan "exfil."

Alatan pengkodan AI adalah produktif, tetapi ia menganggap fail pada cakera anda adalah selamat. Hakikatnya tidak. Anggap setiap fail sebagai input yang tidak dipercayai.

Bagaimanakah anda mengendalikan risiko suntikan prompt dalam aliran kerja AI anda?

Sumber: https://dev.to/tyson_cung/ai-coding-security-prompt-injection-is-hiding-in-your-project-files-4be9