Anthropic เผชิญคำสั่งห้ามส่งออกของสหรัฐฯ เกี่ยวกับโมเดล Fable 5 และ Mythos 5

Anthropic ถูกบีบให้ต้องระงับการเข้าถึงโมเดล AI ที่ทรงพลังที่สุดของตนอย่างกะทันหัน ได้แก่ Fable 5 และ Mythos 5 หลังจากมีคำสั่งควบคุมการส่งออกอย่างฉับพลันจากทำเนียบขาวของสหรัฐฯ ความเคลื่อนไหวที่ไม่เคยปรากฏมาก่อนนี้ตอกย้ำถึงความตึงเครียดที่เพิ่มสูงขึ้นระหว่างการพัฒนา AI ระดับแนวหน้า (frontier AI) ที่รวดเร็ว กับความจำเป็นเร่งด่วนด้านความมั่นคงแห่งชาติ

ตัวเร่งปฏิกิริยา: ความเสี่ยงด้านความปลอดภัยทางไซเบอร์และช่องโหว่ของโมเดล

สถานการณ์เผชิญหน้าเริ่มต้นขึ้นไม่นานหลังจาก Anthropic เปิดตัว Fable 5 และ Mythos 5 เมื่อวันที่ 9 มิถุนายน ในขณะที่ Fable 5 ถูกทำการตลาดว่าเป็นเวอร์ชันที่มีการยกระดับมาตรการป้องกันเพื่อการใช้งานทั่วไป แต่ Mythos 5 ถูกออกแบบมาโดยมีการยกเลิกข้อจำกัด (guardrails) บางประการเพื่อการใช้งานเฉพาะทาง อย่างไรก็ตาม มีรายงานระบุว่ามาตรการความปลอดภัยเหล่านี้อาจยังไม่เพียงพอ

ตามรายงานจาก The Wall Street Journal คำสั่งดังกล่าวมีชนวนเหตุมาจากงานวิจัยด้านความปลอดภัยทางไซเบอร์ของ Amazon ภายหลังการหารือระหว่าง Andy Jassy ซีอีโอของ Amazon และทำเนียบขาว มีการเปิดเผยว่านักวิจัยประสบความสำเร็จในการใช้คำสั่ง (prompts) เฉพาะเจาะจงเพื่อบังคับให้ Fable 5 ให้ข้อมูลที่อาจเอื้อต่อการโจมตีทางไซเบอร์ แม้ว่า Anthropic จะพยายามโต้แย้งว่า "โอกาสในการเจาะระบบ (jailbreak) ที่มีขอบเขตจำกัด" ไม่ควรเป็นเหตุให้ต้องเรียกคืนโมเดลที่ถูกใช้งานไปแล้วในระดับหลายร้อยล้านราย แต่การตอบโต้ของรัฐบาลนั้นเด็ดขาด

ความกังวลด้านความมั่นคงแห่งชาติและปัจจัยเรื่องจีน

คำสั่งของทำเนียบขาวไม่ได้เกี่ยวข้องเพียงแค่เรื่องช่องโหว่ของซอฟต์แวร์เท่านั้น แต่ยังรวมถึงเรื่องการสกัดกั้นทางภูมิรัฐศาสตร์ด้วย รายงานจาก Semafor บ่งชี้ว่าการตัดสินใจบังคับใช้ข้อจำกัดด้านการส่งออกนั้นถูกขับเคลื่อนด้วยความกังวลว่าโมเดลเหล่านี้อาจถูกเข้าถึงโดยหน่วยงานที่มีความเชื่อมโยงกับจีน

ความกังวลทางเทคนิคที่สำคัญเกี่ยวข้องกับ "model distillation" ซึ่งเป็นกระบวนการที่ AI "นักเรียน" (student AI) ที่มีความก้าวหน้าน้อยกว่า ถูกฝึกฝนด้วยผลลัพธ์ (outputs) จากโมเดลระดับแนวหน้าเพื่อเลียนแบบพฤติกรรมที่ซับซ้อน หากคู่แข่งจากต่างชาติสามารถทำ model distillation ของ Mythos 5 หรือ Fable 5 ได้สำเร็จ พวกเขาอาจสามารถวิศวกรรมย้อนกลับ (reverse-engineer) ขีดความสามารถที่เป็นกรรมสิทธิ์ของ Anthropic ซึ่งจะสร้างความเสี่ยงอย่างยิ่งต่อความมั่นคงแห่งชาติ

ผลกระทบจากการควบคุมการส่งออกอย่างเข้มงวด

ขอบเขตของคำสั่งรัฐบาลสหรัฐฯ นั้นกว้างขวางอย่างยิ่ง คำสั่งดังกล่าวระบุให้ Anthropic ระงับการเข้าถึงโมเดลเหล่านี้สำหรับ "บุคคลสัญชาติอื่นใด" ที่พำนักอยู่ทั้งภายในและภายนอกสหรัฐอเมริกา ซึ่งรวมถึงนักวิจัยที่เกิดในต่างประเทศของ Anthropic เองด้วย ซึ่งเป็นการปิดกั้นไม่ให้พวกเขาเข้าถึงเทคโนโลยีที่พวกเขาเป็นผู้ร่วมสร้างขึ้นมาอย่างแท้จริง

เพื่อปฏิบัติตามคำสั่งทางกฎหมายนี้ Anthropic จำเป็นต้องปิดการใช้งานผลิตภัณฑ์ที่เพิ่งจะโปรโมตอย่างหนักไปเมื่อสัปดาห์ก่อน โดยการระงับการเข้าถึงสำหรับลูกค้าทั่วโลก เพื่อให้แน่ใจว่าจะไม่มีบุคคลสัญชาติอื่นสามารถใช้โมเดลเหล่านี้ได้

ทำไมเรื่องนี้จึงสำคัญต่ออุตสาหกรรม AI

เหตุการณ์นี้ถือเป็นจุดเปลี่ยนสำคัญในแวดวง AI ซึ่งแสดงให้เห็นว่ารัฐบาลสหรัฐฯ พร้อมที่จะใช้มาตรการควบคุมการส่งออกที่เข้มงวดเพื่อจัดการกับลักษณะการใช้งานแบบสองทาง (dual-use) ของ frontier AI สำหรับนักพัฒนาและผู้ก่อตั้ง นี่คือสัญญาณเตือนว่า การเปลี่ยนผ่านจากความสำเร็จในการวิจัยไปสู่ผลิตภัณฑ์เชิงพาณิชย์นั้นมีความเชื่อมโยงอย่างแยกไม่ออกกับการกำกับดูแลของรัฐบาลกลางและความมั่นคงทางภูมิรัฐศาสตร์ นอกจากนี้ การใช้อำนาจที่รุนแรงเช่นนี้อาจเป็นการเร่งให้เกิดการผลักดัน "non-American AI" โดยไม่ตั้งใจ เนื่องจากผู้เล่นระดับโลกต่างพยายามหลีกเลี่ยงความผันผวนด้านกฎระเบียบของตลาดสหรัฐฯ

สรุปประเด็นสำคัญ