กลุ่มก่อการร้ายกำลังใช้ประโยชน์จาก LLM เพื่อการสร้างอาวุธและการวางแผนอย่างไร

การแพร่หลายอย่างรวดเร็วของโมเดลภาษาขนาดใหญ่ (LLMs) ได้นำประโยชน์มหาศาลมาสู่มนุษยชาติ แต่ผลการศึกษาใหม่ที่น่าขนลุกกลับเผยให้เห็นด้านมืดของการก้าวกระโดดทางเทคโนโลยีนี้ องค์กรก่อการร้ายกำลังเปลี่ยนเครื่องมือ AI กระแสหลักให้กลายเป็นอาวุธอย่างจริงจัง เพื่อเพิ่มขีดความสามารถในการปฏิบัติการ ตั้งแต่การฝึกฝนทางยุทธวิธีไปจนถึงการพัฒนาวัตถุระเบิด

จากการ Jailbreak สู่หน่วยงาน AI เฉพาะทาง

ผลการศึกษาใหม่โดย Antonia Jülich นักวิจัยจาก Cambridge Programme on AI Science & Policy (CASP) ได้เปิดเผยถึงระดับการนำ AI ไปใช้ที่ซับซ้อนภายในกลุ่มหัวรุนแรง จากการสัมภาษณ์อดีตสมาชิก 27 คน รวม 57 ครั้ง งานวิจัยระบุว่า ISIS ได้มีการเสนอการฝึกอบรมด้าน prompt engineering และการ jailbreak มาตั้งแต่ปี 2023 นี่ไม่ใช่เพียงการใช้งานทั่วไป แต่ผู้ประสานงานของ ISIS ได้ฝึกสอนผู้บัญชาการอย่างจริงจังเกี่ยวกับวิธีการหลบเลี่ยงตัวกรองความปลอดภัย (safety filters) ของโมเดลชั้นนำในอุตสาหกรรม

ที่น่าตกใจที่สุดคือ Boko Haram ได้เปลี่ยนจากการใช้งานเป็นครั้งคราวไปสู่การบูรณาการเข้ากับองค์กรอย่างเป็นระบบ มีรายงานว่าทั้งสองกลุ่มย่อยหลักขององค์กรได้จัดตั้งหน่วยงาน AI เฉพาะทางขึ้นมา ตามความเห็นของ Jülich กลุ่มเหล่านี้ให้ความสำคัญกับการฝึกอบรม AI เป็นอันดับต้นๆ โดยมีการรวมตัวของ "บุคลากรระดับหัวกะทิ" ในเซสชันพิเศษที่มีการใช้เครื่องฉายโปรเจกเตอร์เพื่อสาธิตวิธีการควบคุมเครื่องมืออันทรงพลังเหล่านี้

การใช้ประโยชน์จากแชทบอทรายใหญ่เพื่อความได้เปรียบทางยุทธวิธี

ผลการศึกษายังชี้ให้เห็นว่าไม่มีผู้เล่นรายใหญ่ในวงการ AI รายใดที่จะรอดพ้นจากการนำไปใช้ในทางที่ผิดนี้ กลุ่มก่อการร้ายกำลังใช้แชทบอทยอดนิยมที่หลากหลาย รวมถึง ChatGPT, Claude, Gemini, Grok, Meta AI และ DeepSeek โดยเครื่องมือเหล่านี้ถูกนำมาใช้ในหน้าที่สำคัญหลายประการที่แฝงไปด้วยอันตราย:

• การวางแผนโจมตี: การจัดการด้านโลจิสติกส์และจังหวะเวลาของการปฏิบัติการก่อความไม่สงบให้มีประสิทธิภาพยิ่งขึ้น
• การพัฒนาอาวุธ: การใช้ LLM เพื่อหาข้อมูลเชิงลึกในการสร้างอุปกรณ์ระเบิดที่มีอานุภาพทำลายล้างสูงขึ้น
• ความปลอดภัยในการปฏิบัติการ: การใช้ AI เพื่ออำพรางกิจกรรมและเพิ่มความปลอดภัยในการสื่อสาร
• การฝึกฝนทางยุทธวิธี: ในกรณีที่รุนแรงที่สุด กลุ่ม ISWAP ได้ใช้ AI เพื่อวิเคราะห์และเลียนแบบเทคนิคการขับขี่รถจักรยานยนต์กระโดดจากภาพยนตร์ เพื่อใช้ในการข้ามสนามเพลาะในการรบ

ความล้มเหลวของการกำกับดูแลตนเองโดยสมัครใจ

ผลการวิจัยนี้เป็นเครื่องยืนยันที่น่าหดหู่ต่อคำเตือนที่มีมาอย่างยาวนานจากห้องปฏิบัติการ AI อย่าง OpenAI และ Anthropic แม้ว่าผู้พัฒนาจะมีการติดตั้งมาตรการป้องกันความปลอดภัย (safety guardrails) ที่เข้มงวด แต่การวิจัยชี้ให้เห็นว่าการกำกับดูแลตนเองโดยสมัครใจนั้นไม่สามารถก้าวทันกลุ่มผู้ไม่หวังดีได้

ธรรมชาติของ LLM ทำให้การรักษาความปลอดภัยอย่างสมบูรณ์แทบจะเป็นไปไม่ได้ โดยเมื่อเร็วๆ นี้ Anthropic ได้ยอมรับว่าการ jailbreak อาจไม่มีวันถูกกำจัดให้หมดสิ้นไปได้ แม้ว่าแชทบอทกระแสหลักอย่าง ChatGPT จะช่วยให้เข้าถึงความรู้ที่มีอยู่เดิมได้ง่ายขึ้นเป็นหลัก แต่ภัยคุกคามต่อการดำรงอยู่ (existential threat) ที่แท้จริงนั้นอยู่ที่การนำระบบ AI เฉพาะทางไปใช้ในทางที่ผิด นักวิจัยเตือนว่าแม้การใช้งานในปัจจุบันจะยังอยู่ในระดับ "ทั่วไป" แต่พรมแดนถัดไปคือการที่ผู้ก่อการร้ายพยายามขอความช่วยเหลือจาก AI เพื่อพัฒนาอาวุธเคมีและอาวุธชีวภาพ

ทำไมเรื่องนี้จึงสำคัญต่อระบบนิเวศ AI

พัฒนาการนี้ถือเป็นการเปลี่ยนผ่านในการสนทนาเรื่องความปลอดภัยของ AI ซึ่งไม่ใช่แค่เรื่องการป้องกัน "อาการประสาทหลอน" (hallucinations) หรือผลลัพธ์ที่มีอคติอีกต่อไป แต่เป็นเรื่องของความยากลำบากพื้นฐานในการป้องกันการแพร่กระจายของความรู้ที่เป็นอันตรายถึงชีวิต (democratization of lethal knowledge) เมื่อโมเดล AI มีความสามารถมากขึ้นในสาขาเฉพาะทาง เช่น ชีววิทยาศาสตร์ ช่องว่างระหว่าง "ข้อมูลที่เข้าถึงได้" กับ "การนำไปสร้างเป็นอาวุธที่ใช้งานได้จริง" ก็เริ่มแคบลงเรื่อยๆ ซึ่งทำให้จำเป็นต้องมีสถาปัตยกรรมความปลอดภัยที่แข็งแกร่งและเชิงรุกมากขึ้น

สรุปประเด็นสำคัญ

• การนำไปใช้ในทางที่ผิดอย่างเป็นระบบ: กลุ่มอย่าง Boko Haram ได้ก้าวข้ามการใช้งานทั่วไปไปสู่การสร้าง "หน่วยงาน AI" เฉพาะทางเพื่อการวางแผนทางยุทธวิธีและโลจิสติกส์
• ความเปราะบางที่เป็นสากล: โมเดลหลักๆ รวมถึง ChatGPT, Claude, Gemini และ DeepSeek กำลังถูกหลบเลี่ยงผ่านการทำ prompt engineering ที่ซับซ้อนและการฝึกฝนการ jailbreak
• ภัยคุกคามจากการใช้ AI เฉพาะทาง: แม้ว่าการนำไปใช้ในทางที่ผิดในปัจจุบันจะเน้นไปที่การวางแผนและวัตถุระเบิด แต่ความเสี่ยงหลักในระยะยาวคือการใช้ AI เฉพาะทางในด้านชีววิทยาศาสตร์เพื่อทำสงครามเคมีและชีวภาพ