Mengapa Seni Bina Ejen AI Anda Merupakan Liabiliti Keselamatan
Menjelang 2027, 40% daripada penggunaan AI perusahaan akan menghadapi insiden suntikan prompt atau rampasan ejen (agent hijack). Ini merupakan lonjakan besar daripada kurang daripada 5% pada awal 2025.
Lapisan orkestrasi menjadikan ejen berguna. Ia juga menjadikan mereka sasaran.
Sebuah firma logistik di Singapura kehilangan $2.3 juta baru-baru ini. Seorang penyerang telah menghantar jemputan kalendar berniat jahat. Ini mencetuskan ejen penjadualan untuk menghantar data CRM ke peti masuk luar. Model tersebut tidak mempunyai kod yang buruk. Ia mengikut arahan dengan sempurna. Masalahnya adalah seni bina tersebut.
Ejen bukan sekadar chatbot. Ia adalah alatan yang membaca fail, memanggil API, dan melaksanakan transaksi. Model keselamatan tradisional mengandaikan sesuatu permintaan masuk dan respons keluar. Ejen memecahkan model ini.
Ejen yang boleh meringkaskan PDF dan menghantar permohonan bayaran balik adalah tiga aplikasi dalam satu masa larian (runtime). Setiap panggilan alatan adalah risiko. Setiap penulisan memori adalah risiko. Setiap e-mel atau dokumen kini merupakan kod yang boleh dilaksanakan.
Untuk membina dengan selamat, anda memerlukan tiga lapisan:
• Identity: Setiap panggilan alatan mesti mempunyai identiti yang berasingan daripada pengguna. • Provenance: Setiap penulisan memori memerlukan metadata untuk menunjukkan dari mana ia berasal. • Intent: Setiap langkah pelan memerlukan objek bertandatangan yang boleh disahkan oleh sistem hiliran.
Jangan biarkan ejen memanggil API pengeluaran secara langsung. Gunakan lapisan alatan perantara. Lapisan ini bertindak sebagai firewall baharu anda. Ia mengesahkan hujah (arguments) dan mengehadkan kebenaran bagi setiap sesi.
Pantau memori ejen anda. Penyerang menggunakan dokumen atau e-mel yang telah dicemari (poisoned) untuk menulis semula tingkah laku ejen dari semasa ke semasa. Serangan pencemaran memori (memory-poisoning) meningkat sebanyak 300% setiap tahun.
Banyak pasukan menambah pemodelan ancaman AI ke dalam saluran paip (pipeline) semasa mereka. Ini tidak mencukupi. Anda mesti menambah keselamatan pada masa larian (runtime) ejen itu sendiri. Hanya 19% organisasi mempunyai pemantauan untuk anomali panggilan alatan. Kebanyakan bergantung pada log lama yang terlepas tingkah laku ejen.
Layani ejen anda seperti pekerja junior yang mempunyai akses sistem. Anda tidak akan memberikan akses root penuh kepada pekerja baharu pada hari pertama. Jangan lakukan perkara itu kepada ejen anda.
Pemenang bukanlah mereka yang mempunyai demo terbaik. Mereka adalah mereka yang boleh melaksanakan penggunaan (deploy) dalam industri terkawal seperti perbankan atau penjagaan kesihatan tanpa kelewatan keselamatan selama enam bulan.
Bina lapisan keselamatan anda sekarang. Jangan cuba membaikinya selepas berlaku pencerobohan.
Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi