Jake Williams, seorang peneliti keamanan, meluncurkan kerangka kerja CUSTODY minggu ini, memberikan cara bagi perusahaan untuk menetapkan izin runtime dan batasan eksplisit bagi agen AI yang beroperasi di dalam jaringan korporat. Alat ini penting karena, tidak seperti perangkat lunak tradisional, agen AI dapat mengambil data secara dinamis, memanggil layanan, dan memodifikasi model—semuanya tanpa kebijakan yang jelas dan dapat ditegakkan—meninggalkan celah yang telah mulai dieksploitasi oleh penyerang.

Mengapa agen AI membutuhkan pagar pembatas

Tumpukan (stack) AI perusahaan kini mencakup chatbot, mesin rekomendasi, pengambil keputusan otonom, dan puluhan agen latar belakang yang menarik data dari API internal atau layanan pihak ketiga. Paket keamanan yang ada berfokus pada firewall perimeter, perlindungan endpoint, dan segmentasi jaringan, tetapi mereka kekurangan metode standar untuk mengatakan “agen ini boleh membaca catatan pelanggan tetapi tidak boleh menulis ke database keuangan.” Absennya kontrol runtime semacam itu telah menyebabkan insiden di mana agen yang disusupi digunakan untuk mengeksfiltrasi data atau merusak bobot model (model weights).

Bagaimana CUSTODY mengisi celah tersebut

CUSTODY memperkenalkan bahasa berbasis aturan yang menjelaskan apa yang boleh dilakukan oleh agen AI setelah terhubung ke jaringan. Kebijakan dapat menentukan:

  • Akses sumber daya – database, penyimpanan file, atau API mana yang boleh dikueri oleh agen.
  • Batasan tindakan – apakah agen hanya dapat membaca, atau juga dapat menulis, menghapus, atau memicu tugas downstream.
  • Konteks eksekusi – batasan pada lingkungan komputasi, seperti kuota CPU atau isolasi kontainer.

Saat runtime, kerangka kerja ini mencegat panggilan agen dan memeriksanya terhadap kumpulan kebijakan, memblokir operasi apa pun yang berada di luar batasan yang ditentukan. Hal ini menghentikan agen yang dibajak agar tidak berkeliaran tanpa pengawasan di lingkungan perusahaan.

Menghubungkan CUSTODY ke dalam stack yang sudah ada

Kerangka kerja ini berjalan berdampingan dengan alat keamanan saat ini. Ia dapat terhubung ke platform orkestrasi populer, container runtimes, dan API gateway, tetapi langkah pastinya bervariasi tergantung pada platform agen yang mendasarinya. Organisasi harus memetakan inventaris AI mereka, menulis file kebijakan untuk setiap kelas agen, dan menguji lapisan penegakan sebelum penerapan penuh. Menskalakan kebijakan ini ke puluhan agen akan memerlukan upaya operasional khusus untuk menjaga agar aturan tetap mutakhir seiring berkembangnya model.

Peringatan dan tantangan

Kritikus mencatat bahwa CUSTODY tidak menghasilkan kebijakan secara otomatis; tim keamanan harus menyusunnya secara manual, yang bisa memakan banyak tenaga. Ada juga risiko overhead performa jika setiap panggilan diperiksa secara real-time, terutama untuk layanan inferensi dengan throughput tinggi. Terakhir, efektivitas kerangka kerja ini bergantung pada adopsi yang luas—jika platform AI vendor tidak dapat mengekspos hook yang diperlukan, kontrol CUSTODY mungkin dapat dilewati.

Apa yang perlu diperhatikan selanjutnya

  • Respons vendor – apakah penyedia platform AI utama akan menyematkan hook yang kompatibel dengan CUSTODY atau menawarkan mesin kebijakan runtime mereka sendiri.
  • Standardisasi – setiap pergerakan menuju spesifikasi industri untuk izin agen AI dapat menjadikan CUSTODY sebagai standar de-facto.
  • Umpan balik komunitas – pengguna awal akan mengungkap kompleksitas kebijakan dunia nyata dan dampak performa, yang akan membentuk versi di masa mendatang.

Perusahaan yang mengandalkan agen AI harus mengevaluasi CUSTODY sekarang, memetakan di mana posisinya dalam stack keamanan mereka, dan mulai melakukan uji coba kebijakan sebelum gelombang serangan berbasis AI berikutnya menghantam jaringan mereka.