Pakar Keselamatan Siber Bantah Larangan AS terhadap Model Fable dan Mythos milik Anthropic

Sebuah gabungan yang terdiri daripada 76 veteran keselamatan siber terkemuka sedang membunyikan amaran terhadap perintah kawalan eksport kerajaan AS baru-baru ini yang menyasarkan model AI paling canggih milik Anthropic. Kumpulan tersebut berhujah bahawa dengan menyekat akses kepada alatan ini, kerajaan secara tidak sengaja telah melucutkan senjata pembela digital sementara pihak lawan terus maju.

Konflik: Keselamatan Negara lwn. Keupayaan Pertahanan

Ketegangan bermula apabila kerajaan AS mengeluarkan perintah kawalan eksport terhadap model Fable dan Mythos milik Anthropic, dengan alasan kebimbangan keselamatan negara yang tidak didedahkan. Sebagai mematuhi perintah tersebut, Anthropic telah menggantung akses ke seluruh dunia terhadap model-model ini.

Model Mythos pada asalnya direka dengan keupayaan tahap tinggi untuk penemuan kerentanan sehingga Anthropic pada mulanya mengehadkan akses kepada kumpulan terpilih yang terdiri daripada kira-kira 150 organisasi di 15 buah negara. Versi yang berhadapan dengan orang awam, Fable, bertujuan untuk menyertakan pagar keselamatan yang ketat bagi mengelakkan penyalahgunaan dalam bidang biologi, kimia, dan keselamatan siber. Walau bagaimanapun, campur tangan kerajaan telah secara berkesan menghentikan penggunaan alatan berkuasa ini bagi golongan yang ditugaskan untuk mengamankan internet.

Kontroversi "Jailbreak" dan Kertas Kerja Amazon

Anthropic mencadangkan bahawa perintah Rumah Putih itu mungkin berpunca daripada kebimbangan mengenai "jailbreaking"—kaedah yang digunakan untuk memintas pagar keselamatan. Kebimbangan ini dilaporkan berasal daripada kertas kerja penyelidikan tidak awam oleh penyelidik Amazon.

Kertas kerja tersebut mencadangkan bahawa pengguna boleh memintas sekatan keselamatan Fable untuk mengakses keupayaan tahap Mythos. Walau bagaimanapun, pakar keselamatan siber, termasuk Katie Moussouris (pengasas Luta Security), berhujah bahawa ini adalah salah faham asas terhadap kegunaan AI. Moussouris menegaskan bahawa "jailbreak" yang diterangkan itu hanyalah model tersebut menjalankan fungsi yang dimaksudkan: membaiki kod sumber terbuka yang mengandungi kerentanan yang diketahui.

Menurut Moussouris, meminta AI untuk membaiki pepijat, menjelaskan tampalan, dan menulis ujian bukanlah satu pelanggaran keselamatan; ia adalah "gelung cari, baiki, dan uji" yang mentakrifkan keselamatan pertahanan moden. Percubaan untuk menyekat tingkah laku ini akan melumpuhkan keupayaan model tersebut untuk melindungi perisian secara fundamental.

Penandatangan Berisiko Tinggi dan Implikasi Industri

Surat terbuka tersebut disokong oleh tokoh-tokoh besar dalam komuniti keselamatan, termasuk bekas ketua keselamatan Facebook Alex Stamos, pengasas Bugcrowd Casey Ellis, dan pakar kriptografi terkenal Jon Callas. Hujah mereka berpusat pada ketidakseimbangan kritikal: jika pihak pertahanan dinafikan akses kepada LLM yang canggih manakala pihak lawan menggunakan model tanpa sekatan, kedudukan keselamatan global akan menjadi lemah.

Pakar-pakar tersebut juga menyatakan bahawa kerentanan yang dilihat dalam Fable bukan hanya berlaku pada Anthropic. Surat itu mencadangkan bahawa "kerentanan" yang serupa boleh berlaku pada GPT-5.5 milik OpenAI, Claude Opus 4.8 dan Sonnet milik Anthropic sendiri, malah pada model antarabangsa seperti Kimi 2.7.

Kumpulan tersebut menyeru proses kawal selia yang demokratik dan berasaskan sains yang bergantung kepada penyelidikan telus, berbanding larangan bersifat reaktif dan meluas yang mungkin membawa lebih banyak keburukan daripada kebaikan.

Ringkasan Utama