Serangan AutoJack Mengeksploitasi Ejen AI

Penyelidik Microsoft menemui satu kelemahan keselamatan baharu yang dipanggil AutoJack.

Kelemahan ini menjejaskan versi pra-pelancaran AutoGen Studio.

Laman web berniat jahat boleh mengambil alih kawalan ejen AI. Ejen tersebut kemudiannya menjalankan kod pada komputer anda.

Serangan ini berfungsi seperti berikut:

  • Ejen AI melayari laman web yang berbahaya.
  • Laman web tersebut mengeksploitasi perkhidmatan WebSocket tempatan.
  • Sistem mempercayai ejen tersebut kerana ia berjalan pada localhost.
  • Kepercayaan ini membolehkan laman web tersebut memintas semakan keselamatan.

Masalah ini menjejaskan versi AutoGen Studio 0.4.3.dev1 dan 0.4.3.dev2.

Versi stabil 0.4.2.2 adalah selamat.

Jika anda menggunakan binaan pembangunan, kemas kini perisian anda sekarang. Gunakan versi terkini daripada GitHub untuk membaiki masalah ini.

Peristiwa ini menunjukkan masalah besar dalam keselamatan AI. Kita sering mempercayai apa sahaja yang berjalan pada localhost. Apabila ejen AI melayari web, kepercayaan ini menjadi berbahaya.

Pembangun mesti beralih daripada kepercayaan mudah. Anda memerlukan pengesahan yang kuat dan senarai arahan yang ketat untuk semua tindakan AI.

Sumber: https://dev.to/mark0_617b45cda9782a/autojack-attack-lets-one-web-page-hijack-ai-agent-for-host-code-execution-1lgf

Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi