AS Paksa Anthropic untuk Menonaktifkan Model AI
Pemerintah AS memerintahkan Anthropic untuk menonaktifkan dua model AI canggih. Model-model ini adalah Fable 5 dan Mythos 5. Perintah tersebut berdampak pada seluruh pengguna di seluruh dunia.
Departemen Perdagangan mengeluarkan arahan kontrol ekspor pada 12 Juni 2026. Hal ini terjadi karena adanya celah keamanan yang sederhana. Sebuah perintah tiga kata "fix this code" memungkinkan terjadinya jailbreak.
Cara kerja celah tersebut:
- Peneliti menemukan bahwa Fable 5 membuat patch yang berfungsi untuk kode yang belum diperbaiki.
- Hal ini membantu pihak pertahanan memperbaiki celah keamanan.
- Namun, penyerang menggunakan metode yang sama untuk menemukan celah dalam basis kode secara otomatis.
Larangan ini sangat ketat. Aturan ekspor AS mengklasifikasikan pembagian teknologi ini kepada non-warga negara sebagai sebuah ekspor. Anthropic harus menonaktifkan model-model tersebut bagi semua orang demi mematuhi aturan tersebut.
Industri bereaksi dengan kekhawatiran. Lebih dari 100 pakar dari perusahaan seperti Google, Nvidia, dan Adobe menandatangani surat terbuka. Mereka berpendapat bahwa kontrol ini merugikan pihak pertahanan. Mereka percaya langkah ini memberikan keuntungan bagi lawan yang mengembangkan AI mereka sendiri.
Fakta kunci mengenai model-model tersebut: • Mythos 5 adalah model dasar yang dapat mengidentifikasi dan merangkai serangan siber. • Fable 5 adalah versi yang dirancang untuk penggunaan defensif dengan batasan keamanan (safety guardrails). • Mythos 5 sebelumnya telah lulus uji keamanan siber dari UK AI Security Institute.
Anthropic tidak setuju dengan keputusan tersebut. Mereka menyatakan bahwa risiko jailbreak sangat kecil. Mereka berpendapat bahwa menghentikan model karena celah yang sempit akan menghentikan semua penerapan AI baru.
Langkah ini juga berdampak pada sekutu AS. Negara-negara seperti Kanada dan Inggris bergantung pada model-model ini untuk melindungi infrastruktur kritis. Larangan tersebut juga menghentikan akses mereka.
Situasi ini menunjukkan ketegangan antara inovasi AI dan keamanan nasional. Hal ini menimbulkan pertanyaan apakah hukum saat ini dapat menangani alat yang bereaksi terhadap frasa sederhana yang terdiri dari tiga kata.
Sumber: https://dev.to/techmag/us-forces-anthropic-to-shut-down-fable-5-mythos-5-over-security-flaw-4dlm
Komunitas pembelajaran opsional: https://t.me/GyaanSetuAi