For the last few years, the security industry has talked about artificial intelligence as a force multiplier for defende

ในช่วงไม่กี่ปีที่ผ่านมา อุตสาหกรรมความปลอดภัยได้พูดถึงปัญญาประดิษฐ์ (AI) ในฐานะตัวทวีคูณประสิทธิภาพ (force multiplier) สำหรับฝ่ายป้องกัน เรื่องราวเป็นไปในลักษณะนี้: โมเดล Machine Learning จะคัดกรองข้อมูล Log, ตรวจหาความผิดปกติที่นักวิเคราะห์ที่เป็นมนุษย์อาจมองข้าม และจัดการงานที่น่าเบื่อหน่ายในการตรวจจับภัยคุกคาม แต่เรื่องราวนั้นเป็นความจริงเพียงครึ่งเดียว อีกครึ่งหนึ่งตามการค้นพบล่าสุดจาก Check Point Research คือ ผู้โจมตีได้ก้าวข้ามผ่านขั้นตอนการทดลองไปไกลแล้ว พวกเขากำลังใช้ AI เพื่อดำเนินการโจมตีจริงในขณะนี้ เทคโนโลยีนี้ไม่ได้เป็นเพียงเครื่องมือสำหรับนักพัฒนาในการสร้างชุดแอปพลิเคชัน (application stack) รุ่นต่อไปเท่านั้น แต่มันได้กลายเป็นอาวุธเชิงรุกในมือของอาชญากรที่กำลังทำให้การหลอกลวงกลายเป็นระบบอัตโนมัติในระดับที่เราไม่เคยเห็นมาก่อน

เมื่อผู้โจมตีใช้ AI สำหรับการปฏิบัติการจริง

รายงานฉบับนี้เน้นย้ำถึงการเปลี่ยนแปลงครั้งสำคัญในวิธีที่ผู้ไม่หวังดีจัดระเบียบแคมเปญของพวกเขา แทนที่จะพึ่งพาโค้ดแบบคงที่ (static code) และการควบคุมคำสั่งแบบทำด้วยมือ (manual command-and-control) ผู้โจมตีกลับกำลังสร้างเฟรมเวิร์กมัลแวร์ที่ซับซ้อนอย่าง VoidLink เฟรมเวิร์กประเภทนี้ชี้ให้เห็นถึงแนวทางแบบโมดูลาร์ (modular approach) ที่ส่วนประกอบต่างๆ สามารถปรับตัว อัปเดต และสื่อสารกันได้อย่างไม่หยุดนิ่ง เมื่อ AI ขับเคลื่อนระบบเหล่านี้ แคมเปญมัลแวร์จะคาดเดาได้ยากขึ้นมาก ชุดคำสั่ง (payloads) สามารถเปลี่ยนพฤติกรรมตามสภาพแวดล้อมที่มันเข้าไปติดเชื้อ ซึ่งทำให้การตรวจจับตามลายเซ็น (signature-based detection) ทำได้ยากขึ้นมาก และต้องการการตรวจสอบพฤติกรรม (behavioral monitoring) ที่มีเพียงไม่กี่องค์กรเท่านั้นที่ติดตั้งใช้งานได้อย่างเต็มรูปแบบ

สิ่งที่น่ากังวลยิ่งกว่าคือการแสวงหาประโยชน์โดยตรงจากโมเดล AI เชิงพาณิชย์ ผู้โจมตีไม่ได้จำกัดอยู่แค่เครื่องมือใต้ดินที่สร้างขึ้นในฟอรัมลับเท่านั้น แต่พวกเขากำลังใช้ประโยชน์จาก Large Language Models และบริการ AI แบบเดียวกับที่ธุรกิจที่ถูกกฎหมายใช้กันอยู่ทุกวัน ด้วยการ jailbreak ระบบ, การปรับปรุง prompt engineering หรือเพียงแค่การสั่งการ API calls จำนวนมหาศาลแบบอัตโนมัติ อาชญากรสามารถข้ามผ่านการตั้งค่าความปลอดภัย และสร้างอีเมลฟิชชิง (phishing emails), สคริปต์อันตราย และกลอุบายทางวิศวกรรมสังคม (social engineering lures) ได้ด้วยความเร็วระดับเครื่องจักร ความย้อนแย้งนี้ช่างรุนแรง: โครงสร้างพื้นฐานที่สร้างขึ้นเพื่อช่วยให้ผู้คนเขียนโค้ดหรือสรุปเอกสาร กำลังถูกจารกรรมเพื่อเจาะเข้าสู่องค์กรที่เป็นผู้จ่ายเงินซื้อบริการเหล่านั้นเอง

4 ภัยคุกคามที่ขับเคลื่อนด้วย AI ที่ต้องทำความเข้าใจ

การวิเคราะห์ของ Check Point ชี้ให้เห็นถึงกรณีการใช้งานในทางที่ผิด 4 รูปแบบเฉพาะเจาะจงที่ทีมรักษาความปลอดภัยจำเป็นต้องทำความเข้าใจอย่างละเอียด แต่ละกรณีได้เปลี่ยนสมการของสิ่งที่ผู้โจมตีสามารถบรรลุได้โดยไม่ต้องมีข้อจำกัดด้านขีดความสามารถของมนุษย์

การโจมตีแบบฟิชชิงอัตโนมัติ (Automated phishing attacks) มีอยู่มานานหลายทศวรรษในรูปแบบพื้นฐาน แต่ AI ได้ขจัดอุปสรรคที่เหลืออยู่ทั้งหมดออกไป ผู้โจมตีสามารถดึงข้อมูล (scrape) จากโซเชียลมีเดียและเว็บไซต์องค์กรเพื่อสร้างอีเมลที่มีความเป็นส่วนตัวสูงได้ภายในไม่กี่วินาที โดยปรับโทนเสียง ภาษา และบริบท เพื่อให้แคมเปญที่ส่งจำนวนมากดูเหมือนเป็นการส่งข้อความแบบตัวต่อตัว เมื่ออีเมล spear-phishing ทุกฉบับดูเหมือนถูกเขียนขึ้นด้วยมือ การตรวจจับแบบดั้งเดิมที่อาศัยไวยากรณ์ที่ผิดพลาดหรือหัวข้ออีเมลที่ส่งแบบกลุ่มจึงล้มเหลว

ชุดเครื่องมือ vishing ผ่าน voice-agent (Voice-agent vishing kits) แสดงถึงการยกระดับที่ไปไกลกว่า deepfakes ที่เป็นเพียงเสียงบันทึก ชุดเครื่องมือเหล่านี้จะติดตั้ง voice agent แบบโต้ตอบที่สามารถสนทนากับเหยื่อได้แบบเรียลไทม์ ลองจินตนาการถึงสายเรียกเข้าที่ฟังดูเหมือนเจ้าหน้าที่ IT help desk ของคุณเป๊ะ ตอบคำถามของคุณได้อย่างเป็นธรรมชาติ และขอรหัสยืนยันตัวตนแบบหลายปัจจัย (multi-factor authentication code) ของคุณอย่างเร่งด่วน เสียงนั้นเป็นเสียงสังเคราะห์ สคริปต์ถูกสร้างขึ้นในขณะนั้น และเหยื่อกำลังคุยกับซอฟต์แวร์ที่ไม่เคยประหม่า ไม่เคยพูดติดอ่าง และไม่เคยออกนอกลู่นอกทางจากเป้าหมายที่วางไว้

การสร้างตัวตนเสมือนปลอม (Forged virtual identities) ขยายการหลอกลวงนี้จากการโทรเพียงครั้งเดียวไปสู่การสร้างตัวตนทั้งตัว ผู้ไม่หวังดีสามารถสร้างโปรไฟล์สังเคราะห์ที่มาพร้อมกับรูปภาพที่สร้างขึ้น ประวัติการทำงานที่กุขึ้น และเครือข่ายความสัมพันธ์ที่สร้างขึ้นมา ตัวตนเหล่านี้ไม่ได้แค่ส่งข้อความเพียงครั้งเดียว แต่อาจเข้าร่วมเครือข่ายวิชาชีพ มีส่วนร่วมในการสนทนาในอุตสาหกรรม และสร้างความไว้วางใจเป็นเวลาหลายสัปดาห์หรือหลายเดือนก่อนที่จะส่งมัลแวร์หรือขอข้อมูลประจำตัวที่สำคัญ การหลอกลวงระยะยาว (long con) ได้กลายเป็นอุตสาหกรรมไปแล้ว

การโจมตีแบบ indirect prompt injection attacks มุ่งเป้าไปที่สถาปัตยกรรมของแอปพลิเคชัน AI โดยตรง แทนที่จะมุ่งเป้าไปที่ผู้ใช้ปลายทาง ผู้โจมตีจะซ่อนคำสั่งอันตรายไว้ภายในหน้าเว็บ เอกสาร หรืออีเมลที่เอเจนต์ AI จะต้องประมวลผลในภายหลัง เมื่อเครื่องมือผู้ช่วยขององค์กรอ่านข้อมูลที่ถูกวางยา (poisoned data) นั้น มันจะดำเนินการตามคำสั่งที่ผู้โจมตีวางไว้ ซึ่งอาจทำให้ข้อมูลที่เป็นความลับรั่วไหลหรือดำเนินการที่ไม่ได้รับอนุญาตในนามของผู้ใช้ แอปพลิเคชันอาจดูเหมือนทำงานผิดปกติ แต่มันเพียงแค่ทำตามคำสั่งที่มันไม่ควรจะได้เห็นตั้งแต่แรก

แนวรบภายใน: การใช้ AI โดยไม่ได้รับอนุญาตและการรั่วไหลของข้อมูล

ภัยคุกคามจากภายนอกเหล่านี้ยังถูกซ้ำเติมด้วยวิกฤตที่เงียบเชียบกว่าซึ่งกำลังเกิดขึ้นภายในองค์กร ปัจจุบันองค์กรต่าง ๆ กำลังเผชิญกับความเสี่ยงร้ายแรงจากการใช้ AI โดยไม่ได้รับอนุญาต หรือที่มักเรียกกันว่า shadow AI ซึ่งพนักงานนำโค้ดที่เป็นความลับของบริษัท ข้อมูลลูกค้า หรือแผนกลยุทธ์ ไปใส่ในแชทบอทสาธารณะเพื่อเพิ่มความรวดเร็วในการทำงานประจำวัน ผลลัพธ์ที่ตามมาคือ