Bagaimana Kumpulan Pengganas Mengeksploitasi LLM untuk Persenjataan dan Perancangan

Pendemokrasian Model Bahasa Besar (LLM) yang pesat telah membawa manfaat yang amat besar kepada kemanusiaan, namun satu kajian baharu yang membimbangkan mendedahkan sisi gelap di sebalik lonjakan teknologi ini. Organisasi pengganas kini sedang aktif menyalahgunakan alat AI arus perdana sebagai senjata untuk meningkatkan keupayaan operasi mereka, daripada latihan taktikal sehinggalah kepada pembangunan bahan letupan.

Daripada 'Jailbreaking' kepada Unit AI Khas

Satu kajian baharu oleh penyelidik Antonia Jülich daripada Cambridge Programme on AI Science & Policy (CASP) telah mendedahkan tahap penggunaan AI yang canggih dalam kalangan kumpulan ekstremis. Melalui 57 temu bual dengan 27 bekas ahli, penyelidikan tersebut mendedahkan bahawa ISIS telah menawarkan latihan kejuruteraan prompt dan 'jailbreak' sejak tahun 2023. Ini bukan sekadar penggunaan biasa; pegawai perhubungan ISIS telah aktif melatih komander tentang cara untuk memintas penapis keselamatan model-model terkemuka industri.

Apa yang paling membimbangkan, Boko Haram telah beralih daripada penggunaan sporadik kepada integrasi yang tersusun secara institusi. Kedua-dua faksi utama kumpulan tersebut dilaporkan telah menubuhkan unit AI khas. Menurut Jülich, kumpulan-kumpulan ini mengutamakan latihan AI dengan keutamaan tinggi, dengan mengumpulkan "orang terbaik" mereka dalam sesi khas menggunakan projektor untuk menunjukkan cara memanipulasi alat-alat berkuasa ini.

Mengeksploitasi Chatbot Utama untuk Kelebihan Taktikal

Kajian tersebut menekankan bahawa tiada pemain utama AI yang kebal daripada penyalahgunaan ini. Faksi pengganas menggunakan pelbagai chatbot popular, termasuk ChatGPT, Claude, Gemini, Grok, Meta AI, dan DeepSeek. Alat-alat ini dimanfaatkan untuk beberapa fungsi kritikal—dan berbahaya:

  • Perancangan Serangan: Memudahkan logistik dan masa operasi pemberontak.
  • Pembangunan Senjata: Menggunakan LLM untuk mendapatkan maklumat tentang cara membina peranti letupan yang lebih kuat.
  • Keselamatan Operasi: Menggunakan AI untuk menyembunyikan aktiviti dan meningkatkan keselamatan komunikasi.
  • Latihan Taktikal: Dalam satu kes ekstrem, faksi ISWAP menggunakan AI untuk menganalisis dan meniru teknik lompatan motosikal daripada filem untuk melepasi parit pertempuran.

Kegagalan Kawal Selia Kendiri Secara Sukarela

Penemuan ini berfungsi sebagai pengesahan yang suram terhadap amaran berterusan daripada makmal AI seperti OpenAI dan Anthropic. Walaupun pembangun telah melaksanakan pagar keselamatan yang ketat, penyelidikan tersebut menunjukkan bahawa kawal selia kendiri secara sukarela gagal untuk menandingi kepantasan pelaku jahat.

Sifat LLM menjadikan keselamatan yang lengkap hampir mustahil; Anthropic baru-baru ini mengakui bahawa 'jailbreak' mungkin tidak akan dapat dihapuskan sepenuhnya. Walaupun chatbot arus perdana seperti ChatGPT terutamanya menjadikan pengetahuan sedia ada lebih mudah dicapai, ancaman eksistensial yang sebenar terletak pada potensi penyalahgunaan sistem AI khusus. Penyelidik memberi amaran bahawa walaupun penggunaan semasa kekal "konvensional", sempadan seterusnya melibatkan pengganas yang mencari bantuan AI untuk pembangunan senjata kimia dan biologi.

Mengapa Ini Penting untuk Ekosistem AI

Perkembangan ini menandakan peralihan dalam wacana keselamatan AI. Ia bukan lagi sekadar tentang mencegah "halusinasi" atau output yang berat sebelah; ia adalah tentang kesukaran asas dalam mencegah pendemokrasian pengetahuan yang membawa maut. Apabila model AI menjadi lebih berkemampuan dalam bidang khusus seperti sains hayat, jurang antara "maklumat yang boleh dicapai" dan "penyalahgunaan senjata yang boleh dilaksanakan" terus mengecil, yang memerlukan seni bina keselamatan yang jauh lebih teguh dan proaktif.

Ringkasan Utama

  • Penyalahgunaan Secara Institusi: Kumpulan seperti Boko Haram telah beralih daripada penggunaan biasa kepada mewujudkan "unit AI" khas untuk perancangan taktikal dan logistik.
  • Kerentanan Sejagat: Model-model utama termasuk ChatGPT, Claude, Gemini, dan DeepSeek sedang dipintas melalui kejuruteraan prompt yang canggih dan latihan 'jailbreak'.
  • Ancaman Pengkhususan: Walaupun penyalahgunaan semasa tertumpu pada perancangan dan bahan letupan, risiko jangka panjang yang utama ialah penggunaan AI khusus dalam sains hayat untuk peperangan kimia dan biologi.