งานวิจัยของ Amazon นำไปสู่มาตรการจำกัดการเข้าถึง Anthropic โดยทำเนียบขาว

ความก้าวหน้าด้านความปลอดภัยทางไซเบอร์ล่าสุดโดยนักวิจัยของ Amazon ได้สร้างความสั่นสะเทือนไปทั่วอุตสาหกรรม AI ซึ่งนำไปสู่คำสั่งควบคุมการส่งออกที่สำคัญต่อ Anthropic การตัดสินใจจำกัดการเข้าถึงโมเดลที่ล้ำสมัยของ Anthropic ได้จุดชนวนให้เกิดการถกเถียงอย่างรุนแรงเกี่ยวกับความมั่นคงแห่งชาติ ช่องโหว่ของโมเดล และภูมิทัศน์ทางการเมืองของปัญญาประดิษฐ์

งานวิจัยของ Amazon ที่เป็นชนวนเหตุของการสั่งห้าม

ข้อพิพาทนี้มีศูนย์กลางอยู่ที่เอกสารทางเทคนิคที่จัดทำโดยทีมวิจัยด้านความปลอดภัยของ Amazon ตามรายงานจาก Wall Street Journal นักวิจัยของ Amazon ได้สาธิตให้เห็นว่าผ่านชุดคำสั่ง (prompts) เฉพาะเจาะจง โมเดล Fable 5 และ Mythos 5 ของ Anthropic สามารถถูกบงการให้ให้ข้อมูลที่สามารถเอื้อต่อการโจมตีทางไซเบอร์ได้

มีรายงานว่า Andy Jassy ซีอีโอของ Amazon ได้แบ่งปันการค้นพบนี้โดยตรงกับทำเนียบขาว ภายหลังการหารือเหล่านี้ รัฐบาลได้ออกคำสั่งควบคุมการส่งออกซึ่งส่งผลเป็นการปิดกั้นไม่ให้ชาวต่างชาติเข้าถึงโมเดลเฉพาะเหล่านี้ การเคลื่อนไหวนี้ได้สร้างวิกฤตภายในให้กับ Anthropic ในทันที เนื่องจากนักวิจัยจำนวนมากของบริษัทเองเป็นชาวต่างชาติ และในขณะนี้พวกเขาถูกสั่งห้ามไม่ให้ใช้เทคโนโลยีที่พวกเขาเป็นผู้มีส่วนร่วมในการสร้างขึ้นมาเอง

การถกเถียงเรื่อง "Jailbreak" และช่องโหว่ของโมเดล

Anthropic ได้ดำเนินการอย่างรวดเร็วเพื่อโต้แย้งการจัดประเภททางเทคนิคของเหตุการณ์นี้โดยรัฐบาล ในขณะที่ฝ่ายบริหารระบุว่าการเจาะระบบดังกล่าวคือ "jailbreak" แต่ Anthropic โต้แย้งว่าช่องโหว่ที่ตรวจพบนั้นไม่ได้เป็นลักษณะเฉพาะของสถาปัตยกรรมของพวกเขาเท่านั้น บริษัทอ้างว่าช่องโหว่ด้านความปลอดภัยแบบเดียวกันนี้จำนวนมากสามารถตรวจพบได้โดยใช้โมเดลอื่นที่โดดเด่นและเปิดให้ใช้งานต่อสาธารณะ เช่น GPT 5.5

ข้อพิพาททางเทคนิคนี้ได้รับการสนับสนุนจากผู้เชี่ยวชาญด้านความปลอดภัยที่เป็นอิสระ Katie Moussouris ผู้ก่อตั้งและซีอีโอของ LutaSecurity ได้กล่าวต่อสาธารณะว่าสิ่งที่ค้นพบในเอกสารของ Amazon ไม่ถือว่าเป็น "jailbreak" แบบดั้งเดิม การแยกแยะนี้มีความสำคัญอย่างยิ่งต่ออุตสาหกรรม เนื่องจากเป็นการตั้งคำถามว่ารัฐบาลกำลังมุ่งเป้าไปที่ข้อบกพร่องเฉพาะของโมเดล หรือกำลังบังคับใช้มาตรการควบคุมที่กว้างกว่า ซึ่งอาจเป็นการตอบโต้เชิงรับ

ความตึงเครียดทางการเมืองและภูมิทัศน์ของ AI

การสั่งห้ามนี้ไม่ได้เกิดขึ้นอย่างโดดเดี่ยว แต่มันเกิดขึ้นท่ามกลางความขัดแย้งที่ทวีความรุนแรงขึ้นระหว่าง Anthropic และรัฐบาลชุดปัจจุบัน Anthropic ยังคงรักษาจุดยืนทางจริยธรรมที่แน่วแน่ โดยปฏิเสธที่จะอนุญาตให้ใช้โมเดล AI ของตนเพื่อการสอดแนมพลเมืองสหรัฐฯ เป็นจำนวนมาก หรือเพื่อการพัฒนาอาวุธสังหารอัตโนมัติ

มีรายงานว่าแนวทางป้องกันทางจริยธรรมเหล่านี้ได้นำไปสู่ความขัดแย้งกับรัฐบาลของ Trump ซึ่งก่อนหน้านี้ได้สั่งการให้หน่วยงานรัฐบาลกลางยุติการใช้บริการ AI ของ Anthropic ผู้สังเกตการณ์ในอุตสาหกรรมบางราย รวมถึง Kate Koren อดีตเจ้าหน้าที่กระทรวงพาณิชย์ เสนอว่าจุดยืนปัจจุบันของทำเนียบขาวที่มีต่อ Anthropic อาจมีส่วนส่งผลต่อความรวดเร็วและความรุนแรงของข้อจำกัดด้านการส่งออกเมื่อเร็วๆ นี้ เมื่อโมเดล AI มีความสามารถมากขึ้น จุดตัดระหว่างการวิจัยความมั่นคงปลอดภัยทางไซเบอร์ จริยธรรมขององค์กร และการควบคุมทางภูมิรัฐศาสตร์ กำลังกลายเป็นแนวรบใหม่ของการกำกับดูแลเทคโนโลยี

สรุปประเด็นสำคัญ

• ชนวนเหตุด้านความปลอดภัย: งานวิจัยของ Amazon แสดงให้เห็นว่า Fable 5 และ Mythos 5 สามารถถูกสั่งการให้ช่วยในการโจมตีทางไซเบอร์ได้ ซึ่งนำไปสู่ข้อจำกัดด้านการส่งออกของรัฐบาลกลาง
• ผลกระทบข้างเคียง: การสั่งห้ามไม่ให้บุคคลสัญชาติอื่นเข้าถึงโมเดลของ Anthropic ได้กลายเป็นการปิดกั้นนักวิจัยที่เกิดในต่างประเทศของบริษัทเองจากการใช้เครื่องมือของพวกเขาโดยไม่ได้ตั้งใจ
• ความเห็นต่างทางเทคนิค: Anthropic และผู้เชี่ยวชาญด้านความปลอดภัยโต้แย้งว่าช่องโหว่นี้ไม่ใช่การ "jailbreak" ที่เกิดขึ้นเฉพาะตัว แต่เป็นปัญหาเชิงระบบที่มีอยู่ในโมเดลอื่นๆ เช่น GPT 5.5