Kerajaan AS lwn Anthropic: Tuntutan Mustahil untuk LLM yang Tidak Boleh Digodam

Perpecahan yang semakin membesar telah muncul antara kerajaan AS dan Anthropic susulan pelancaran model Fable 5, mencetuskan perdebatan mengenai keselamatan AI dan pengawasan kawal selia. Memandangkan pegawai menuduh makmal AI tersebut membelakangi perintah eksekutif, ketegangan teknikal yang lebih mendalam mula muncul: tuntutan kerajaan untuk model perintis yang "tidak boleh digodam".

Konflik Mengenai Fable 5 dan Arahan Siber

Ketegangan ini berpunca daripada keputusan Anthropic untuk melancarkan model terbaharunya, Fable 5, sebelum pusat penyelarasan kerajaan yang ditetapkan—yang dimandatkan oleh perintah eksekutif siber pentadbiran Trump baru-baru ini—beroperasi sepenuhnya. Walaupun perintah tersebut menyeru kepada pengawasan sukarela, pegawai kerajaan mendakwa Anthropic mengabaikan semangat arahan tersebut, yang membawa kepada tuduhan bahawa syarikat itu adalah "pelaku jahat".

Perbincangan semasa yang melibatkan Jabatan Perdagangan, CIA, dan penasihat sains Michael Kratsios menonjolkan jurang komunikasi yang besar. Pegawai telah menyatakan kebimbangan bahawa Anthropic meneruskan langkah tersebut walaupun mengetahui wujudnya risiko "jailbreak"—maklumat yang dilaporkan diberikan oleh Amazon dan rakan kongsi industri teknologi yang lain. Walau bagaimanapun, geseran ini nampaknya bukan sahaja mengenai keselamatan teknikal, tetapi juga mengenai masa kawal selia.

Realiti Teknikal: Bolehkah LLM Menjadi Tidak Boleh Digodam?

Inti pati kritikan kerajaan—bahawa Anthropic "mengambil jalan yang salah" dengan mengabaikan potensi jailbreak—mengabaikan realiti asas seni bina Model Bahasa Besar (LLM). Dalam industri AI, konsensus adalah bahawa keselamatan mutlak pada masa ini adalah satu kemustahilan. Malah OpenAI telah mengakui bahawa kerentanan seperti suntikan arahan (prompt injection) mungkin tidak akan dapat diselesaikan sepenuhnya.

CEO Anthropic, Dario Amodei, sebelum ini telah menyatakan bahawa walaupun jailbreak dalam bidang sensitif seperti biologi atau teknologi boleh membawa kesan "hidup atau mati", industri masih bergelut dengan cara untuk mengurangkan risiko ini. Dengan menuntut model pada dasarnya tidak boleh digodam sebelum penghantaran antarabangsa, kerajaan AS mungkin menetapkan preseden yang menyekat inovasi, memandangkan tiada model perintis (termasuk GPT-5.5 atau Kimi 2.7) yang memiliki perisai keselamatan yang sempurna.

Tindak Balas Industri dan Perdebatan Kawalan Eksport

Sebagai tindak balas kepada ketegangan yang semakin meningkat, lebih 100 pakar dan eksekutif keselamatan siber—termasuk veteran industri seperti Alex Stamos dan Rachel Tobac—telah mengeluarkan surat terbuka kepada Setiausaha Perdagangan Lutnick dan Pengarah Siber Kebangsaan Cairncross. Mereka menuntut agar kawalan eksport terhadap model Fable dan Mythos milik Anthropic ditarik balik.

Pakar-pakar tersebut berhujah bahawa walaupun Fable sangat berkemampuan untuk mengenal pasti kelemahan perisian, ia tidaklah lebih berbahaya secara unik berbanding model lain seperti Opus atau Sonnet. Secara kritikal, mereka memberi amaran bahawa kawalan eksport yang ketat sebenarnya menyukarkan pertahanan Barat. Dengan menyekat akses kepada model AS tahap tinggi, kerajaan mungkin secara tidak sengaja memberikan kelebihan kepada model open-weight China, yang dilaporkan hanya ketinggalan beberapa bulan sahaja di belakang model perintis Amerika yang terkemuka.

Ringkasan Utama