รายงานการใช้งานในทางที่ผิดของ Anthropic แสดงให้เห็นว่าผู้ไม่หวังดีได้เปลี่ยน Claude ให้กลายเป็นเครื่องมือผลิตจำนวนมากสำหรับสแปมเมอร์ นักกิจกรรม และผู้เขียนมัลแวร์ ในช่วงระหว่างเดือนธันวาคมถึงสิงหาคม กลุ่มคนกลุ่มหนึ่งได้ใช้โมเดลนี้เพื่อสร้างข้อความถึง 2 ล้านข้อความจากตัวตนปลอมในแอปหาคู่จำนวน 4,700 รายการ เลียนแบบน้ำเสียงของนักกิจกรรมเพื่อหลอกลวงผู้ติดต่อ และเขียนโค้ดสำหรับการสอดแนมและอาวุธ
ทำไมรายงานนี้จึงมีความสำคัญ
ข้อความที่สร้างโดย AI เคยเป็นเพียงเรื่องน่าสนใจสำหรับผู้ที่ชื่นชอบงานอดิเรกเท่านั้น แต่ข้อมูลใหม่พิสูจน์ให้เห็นว่าเทคโนโลยีนี้มีราคาถูกพอที่จะทำให้งานที่ต้องทำซ้ำๆ ซึ่งเคยเป็นข้อจำกัดในการใช้งานในทางที่ผิดขนาดใหญ่กลายเป็นระบบอัตโนมัติได้ การสร้างและรักษาตัวตนปลอมนับพัน หรือการเขียนโค้ดอันตรายใหม่หลังจากที่เครื่องมือรักษาความปลอดภัยตรวจพบ เคยต้องใช้ทีมงานจำนวนมาก แต่ Claude ช่วยลดอุปสรรคเหล่านั้นให้เหลือเพียงไม่กี่คลิก เปลี่ยนงานที่ต้องทำด้วยมืออย่างยากลำบากให้กลายเป็นกระบวนการที่ทำซ้ำได้
ขนาดของปัญหา
- Spam: ตัวตนปลอม 4,700 รายการ ส่งข้อความนำเสนอที่ปรับแต่งมาโดยเฉพาะถึง 2 ล้านข้อความ ซึ่งยากต่อการกรองออก
- Impersonation: มีการเลียนแบบสไตล์การเขียนของนักกิจกรรม ทำให้ผู้โจมตีสามารถส่งคำร้องขอที่ดูน่าเชื่อถือไปยังเครือข่ายของนักกิจกรรมคนนั้นได้
- Malware & surveillance: ผู้ใช้ส่งออกสคริปต์ที่สร้างโดย Claude เพื่อหลบเลี่ยงการตรวจจับ และนำกลับมาใช้ใหม่หลังจากถูกบล็อกในแต่ละครั้ง
การเปลี่ยนแปลงนี้คือการเปลี่ยนจากการส่งข้อความที่ไม่ดีแบบแยกส่วน ไปสู่การดำเนินงานขนาดใหญ่ที่เกิดขึ้นอย่างต่อเนื่อง
การตอบสนองของ Anthropic
Anthropic ได้บล็อกบัญชีที่กระทำความผิดและระงับกิจกรรมที่ตรวจพบ สิ่งนี้ช่วยหยุดการไหลเวียนในทันทีจากผู้ใช้เหล่านั้น แต่ไม่ได้ลบโค้ดหรือบอทที่ถูกปล่อยออกไปสู่สาธารณะแล้ว เมื่อเครื่องมือถูกบรรจุและแจกจ่ายออกไป การควบคุมของผู้ให้บริการก็จะสิ้นสุดลง
สิ่งที่รายงานนี้บอกเกี่ยวกับความปลอดภัยของ AI
รายงานฉบับนี้บีบให้ต้องมีการคิดทบทวนใหม่เกี่ยวกับวิธีจัดการกับคำขอที่ "อันตราย" รายการคำสั่ง (prompts) ที่ถูกสั่งห้ามแบบตายตัวนั้นใช้ไม่ได้ผลอีกต่อไป บันทึกภายในของ Anthropic เรียกร้องให้มี:
- การตรวจสอบรูปแบบการใช้งานอย่างต่อเนื่อง แทนที่จะเป็นการตรวจสอบเพียงครั้งคราว
- การควบคุมการเข้าถึงที่เข้มงวดขึ้น เพื่อจำกัดว่าใครสามารถรันโมเดลในระดับขนาดใหญ่ได้
- นักวิเคราะห์ที่เป็นมนุษย์ เพื่อตรวจจับกลุ่มของคำขอขนาดเล็กที่ดูเหมือนไม่มีพิษมีภัย แต่เมื่อรวมกันแล้วจะกลายเป็นภัยคุกคามที่ใหญ่ขึ้น
ความลำบากใจสำหรับผู้นำ
มาตรการป้องกันที่เข้มงวดเกินไปอาจขัดขวางการวิจัยที่ถูกกฎหมาย การสร้างต้นแบบที่รวดเร็ว และฟีเจอร์ที่ติดต่อกับลูกค้าซึ่งต้องพึ่งพาผลลัพธ์จาก AI ที่มีความยืดหยุ่น ในขณะที่นโยบายที่หละหลวมจะปล่อยให้การใช้งานในทางที่ผิดขยายตัวโดยไม่มีการควบคุม ซึ่งเสี่ยงต่อความเสียหายต่อแบรนด์ การตรวจสอบจากหน่วยงานกำกับดูแล และอันตรายในโลกแห่งความเป็นจริง ผู้มีอำนาจตัดสินใจต้องชั่งน้ำหนักระหว่างผลกำไรด้านผลิตภาพกับต้นทุนที่อาจเกิดจากการใช้งานในทางที่ผิด
มองไปข้างหน้า
หากแนวโน้มนี้ยังคงดำเนินต่อไป ความปลอดภัยของ AI จะเปลี่ยนจากการเป็นเรื่องที่พิจารณาในห้องปฏิบัติการ ไปสู่เรื่องของการปฏิบัติงานจริง บริษัทต่างๆ จะต้องมีทีมงานเฉพาะทางที่จัดการกับการใช้งานโมเดลในทางที่ผิดเหมือนกับเหตุการณ์ด้านความปลอดภัยอื่นๆ เช่น การตรวจสอบบันทึก (logs) การอัปเดตการควบคุม และการตอบสนองต่อการละเมิดในเวลาจริง รายงานการใช้งาน Claude ในทางที่ผิดเตือนว่า เครื่องมือที่ออกแบบมาเพื่อช่วยเหลือ เมื่อถูกนำไปใช้ในระดับขนาดใหญ่ อาจกลายเป็นอาวุธแบบเดียวกับที่พวกมันถูกสร้างมาเพื่อแทนที่