Keamanan Coding AI: Prompt Injection Bersembunyi di Dalam File Proyek Anda

Asisten coding AI Anda membaca setiap file di repositori Anda. Ia membaca README, file konfigurasi, dan aturan Anda. Ia menggunakan file-file ini untuk memutuskan bagaimana cara menulis kode.

Ancaman keamanan baru mengeksploitasi perilaku ini secara tepat. Para peneliti menemukan kerentanan di 28 alat coding AI yang berbeda. Serangan ini bukanlah peretasan yang kompleks. Ini hanyalah sebuah file teks sederhana di dalam repositori Anda.

Cara kerja serangan ini:

Anda melakukan clone pada sebuah proyek open-source. Proyek tersebut tampak normal. Anda membukanya di editor AI Anda dan meminta fitur baru. Anda tidak melihat karakter Unicode tersembunyi di dalam file konfigurasi. Karakter-karakter ini menyembunyikan instruksi dari Anda, tetapi memerintahkan AI untuk melakukan hal lain.

Instruksi tersembunyi tersebut memerintahkan AI untuk mengirimkan kredensial AWS Anda ke server eksternal. AI menganggap ini sebagai instruksi proyek yang sah. Ia mengeksekusi perintah tersebut. Rahasia Anda pun hilang.

Mengapa ini sulit dihentikan:

  • Karakter tersembunyi: Anda melihat teks standar, tetapi AI melihat perintah berbahaya melalui karakter Unicode yang tidak terlihat.
  • Setiap file adalah titik masuk: Sebuah README atau komentar dalam sebuah library dapat membawa payload.
  • Izin tinggi: Agen AI sering kali berjalan dengan izin pengguna Anda. Mereka dapat membaca kunci SSH dan token API Anda.
  • Tool calls: AI menggunakan tool calls untuk menjalankan perintah. Serangan ini menargetkan panggilan tersebut untuk melewati pelatihan keamanan.

Cara melindungi alur kerja Anda:

  • Sanitasi konten file: Hapus karakter tersembunyi dan pola injeksi umum sebelum AI membacanya.
  • Gunakan sandbox: Jalankan agen AI di dalam container tanpa akses jaringan dan dengan sistem file read-only.
  • Tetapkan kebijakan ketat: Buat daftar putih (whitelist) perintah yang diizinkan. Wajibkan persetujuan manusia untuk setiap perintah yang memindahkan data atau menghapus file.

Anda dapat melakukan pemindaian cepat sebelum sesi coding Anda. Periksa file Anda untuk istilah mencurigakan seperti "ignore all previous" atau "curl" dan "exfil."

Alat coding AI sangat produktif, tetapi mereka berasumsi bahwa file di disk Anda aman. Padahal tidak. Perlakukan setiap file sebagai input yang tidak tepercaya.

Bagaimana Anda menangani risiko prompt injection dalam alur kerja AI Anda?

Sumber: https://dev.to/tyson_cung/ai-coding-security-prompt-injection-is-hiding-in-your-project-files-4be9