𝗦𝗲𝗿𝗮𝗻𝗴𝗮𝗻 𝗔𝘂𝘁𝗼𝗝𝗮𝗰𝗸 𝗠𝗲𝗻𝗴𝗲𝗸𝘀𝗽𝗹𝗼𝗶𝘁𝗮𝘀𝗶 𝗔𝗴𝗲𝗻 𝗔𝗜

Peneliti Microsoft menemukan celah keamanan baru yang disebut AutoJack.

Celah ini memengaruhi versi pra-rilis AutoGen Studio.

Halaman web berbahaya dapat mengambil alih kendali agen AI. Agen tersebut kemudian menjalankan kode di komputer Anda.

Serangan ini bekerja seperti ini:

  • Sebuah agen AI mengunjungi situs web berbahaya.
  • Situs web tersebut mengeksploitasi layanan WebSocket lokal.
  • Sistem mempercayai agen tersebut karena berjalan di localhost.
  • Kepercayaan ini memungkinkan situs web untuk melewati pemeriksaan keamanan.

Masalah ini memengaruhi AutoGen Studio versi 0.4.3.dev1 dan 0.4.3.dev2.

Versi stabil 0.4.2.2 aman.

Jika Anda menggunakan build pengembangan, segera perbarui perangkat lunak Anda. Gunakan versi terbaru dari GitHub untuk memperbaikinya.

Peristiwa ini menunjukkan masalah besar dalam keamanan AI. Kita sering mempercayai apa pun yang berjalan di localhost. Saat agen AI menjelajahi web, kepercayaan ini menjadi berbahaya.

Pengembang harus beralih dari kepercayaan sederhana. Anda memerlukan autentikasi yang kuat dan daftar perintah yang ketat untuk semua tindakan AI.

Sumber: https://dev.to/mark0_617b45cda9782a/autojack-attack-lets-one-web-page-hijack-ai-agent-for-host-code-execution-1lgf

Komunitas belajar opsional: https://t.me/GyaanSetuAi