Sejak beberapa tahun kebelakangan ini, industri keselamatan telah membincangkan kecerdasan buatan sebagai pengganda kekuatan bagi pihak pertahanan

Selama beberapa tahun kebelakangan ini, industri keselamatan telah membincangkan kecerdasan buatan (AI) sebagai pengganda kekuatan bagi pihak pertahanan. Ceritanya adalah begini: model pembelajaran mesin akan menyaring log, mengesan anomali yang terlepas daripada pandangan penganalisis manusia, dan mengendalikan kerja pengesanan ancaman yang membosankan. Cerita itu hanya benar separuh jalan. Separuh lagi, menurut penemuan terbaharu daripada Check Point Research, adalah bahawa penyerang telah melangkah jauh melampaui fasa eksperimen. Mereka sedang menggunakan AI untuk menjalankan serangan secara langsung sekarang. Teknologi ini bukan lagi sekadar alat untuk pembangun membina timbunan aplikasi (application stack) seterusnya. Ia telah menjadi senjata aktif di tangan penjenayah yang mengautomasikan penipuan pada skala yang belum pernah kita lihat sebelum ini.

Apabila Penyerang Menggunakan AI untuk Operasi Langsung

Laporan tersebut menonjolkan peralihan ketara dalam cara aktor ancaman mengatur kempen mereka. Daripada bergantung kepada kod statik dan kawalan-dan-perintah (command-and-control) manual, penyerang sedang membina rangka kerja perisian hasad yang kompleks seperti VoidLink. Rangka kerja jenis ini menunjukkan pendekatan modular di mana komponen boleh menyesuaikan diri, dikemas kini, dan berkomunikasi secara dinamik. Apabila AI memacu sistem ini, kempen perisian hasad menjadi jauh kurang boleh diramal. Muatan (payloads) boleh mengubah tingkah laku berdasarkan persekitaran yang dijangkiti, yang menjadikan pengesanan berasaskan tandatangan (signature-based detection) jauh lebih sukar dan memerlukan pemantauan tingkah laku yang hanya segelintir organisasi sahaja yang telah laksanakan sepenuhnya.

Apa yang lebih membimbangkan ialah eksploitasi langsung model AI komersial. Penyerang tidak terhad kepada alatan bawah tanah yang dibina dalam forum tersembunyi. Mereka menyalahgunakan model bahasa besar dan perkhidmatan AI yang sama yang digunakan oleh perniagaan sah setiap hari. Dengan melakukan jailbreaking pada sistem, memperhalusi kejuruteraan arahan (prompt engineering), atau sekadar mengautomasikan volum panggilan API yang tinggi, penjenayah memintas tetapan keselamatan dan menjana e-mel pancingan data (phishing), skrip berniat jahat, dan umpan kejuruteraan sosial pada kelajuan mesin. Ironinya sangat ketara: infrastruktur yang dibina untuk membantu orang menulis kod atau meringkaskan dokumen kini sedang dipintas untuk menceroboh organisasi yang membayarnya.

Empat Ancaman Beracuankan AI yang Perlu Difahami

Analisis Check Point menunjukkan empat kes penyalahgunaan khusus yang perlu dikenali secara terperinci oleh pasukan keselamatan. Setiap satu mengubah pengiraan tentang apa yang boleh dicapai oleh penyerang tanpa had skala manusia.

Serangan pancingan data automatik telah wujud dalam bentuk primitif selama berdekad-dekad, tetapi AI menghapuskan baki halangan yang ada. Penyerang boleh mengikis (scrape) media sosial dan laman web korporat untuk menjana e-mel yang sangat diperibadikan dalam masa beberapa saat, menyesuaikan nada, bahasa, dan konteks supaya kempen pukal terasa seperti mesej peribadi satu-ke-satu. Apabila setiap e-mel pancingan data bersasar (spear-phishing) kelihatan seperti dibuat secara manual, pengesanan tradisional berdasarkan tatabahasa yang lemah atau pengepala e-mel pukal akan gagal begitu sahaja.

Kit vishing ejen suara mewakili peningkatan yang melampaui deepfake rakaman. Kit ini menggunakan ejen suara interaktif yang mampu mengadakan perbualan masa nyata dengan mangsa. Bayangkan satu panggilan yang kedengaran tepat seperti meja bantuan IT anda, menjawab soalan anda secara semula jadi, dan meminta kod pengesahan pelbagai faktor anda dengan segera. Suara tersebut adalah sintetik, skrip dijana secara spontan, dan mangsa sedang bercakap dengan perisian yang tidak pernah merasa gugup, tidak pernah tersasul, dan tidak pernah menyimpang daripada matlamatnya.

Identiti maya palsu meluaskan tipu helah ini daripada panggilan tunggal kepada persona yang lengkap. Aktor ancaman boleh mencipta profil sintetik lengkap dengan foto yang dijana, sejarah pekerjaan yang direka, dan sambungan rangkaian buatan. Identiti ini bukan sekadar menghantar satu mesej; mereka mungkin menyertai rangkaian profesional, mengambil bahagian dalam perbincangan industri, dan membina kepercayaan selama berminggu-minggu atau berbulan-bulan sebelum menghantar muatan berniat jahat atau meminta kredential sensitif. Penipuan jangka panjang telah diindustrikan.

Serangan suntikan arahan tidak langsung menyasarkan seni bina aplikasi AI itu sendiri dan bukannya pengguna akhir secara langsung. Penyerang menyembunyikan arahan berniat jahat di dalam laman web, dokumen, atau e-mel yang kemudiannya diproses oleh ejen AI. Apabila alat pembantu korporat membaca data yang telah dicemari itu, ia akan melaksanakan arahan yang telah ditanam oleh penyerang, yang berpotensi membocorkan maklumat sulit atau mengambil tindakan tanpa kebenaran bagi pihak pengguna. Aplikasi tersebut kelihatan mengalami kerosakan, tetapi ia sebenarnya hanya mengikut arahan yang sepatutnya tidak pernah dilihatnya.

Barisan Dalaman: AI Tanpa Kebenaran dan Kebocoran Data

Ancaman luaran ini diburukkan lagi oleh krisis yang lebih senyap yang berlaku di dalam pejabat. Organisasi kini menghadapi risiko besar daripada penggunaan AI tanpa kebenaran, yang sering dipanggil shadow AI, di mana pekerja menampal kod proprietari, rekod pelanggan, atau rancangan strategik ke dalam bot sembang awam untuk mempercepatkan tugasan harian. Hasilnya ialah