CTO ของ Arcee ท้าทายความกังวลเกี่ยวกับโมเดล AI แบบ Open-Weight จากจีน

ในขณะที่โมเดลแบบ open-weight จากจีนอย่าง Qwen ของ Alibaba และ Kimi K3 ของ Moonshot AI กำลังได้รับความนิยมอย่างมหาศาล ข้อถกเถียงที่เผ็ดร้อนก็ได้เกิดขึ้นเกี่ยวกับผลกระทบด้านความปลอดภัย ในขณะที่บางฝ่ายกังวลว่าโมเดลเหล่านี้อาจถูกใช้เป็นช่องทางในการโจมตีทางไซเบอร์ ซึ่งอาจนำไปสู่การสั่งห้ามใช้งานโดยรัฐบาลสหรัฐฯ แต่เหล่าผู้เชี่ยวชาญต่างออกมาโต้แย้งแนวคิดที่ว่าโมเดลเหล่านี้เป็นอันตรายโดยธรรมชาติ

การหักล้างวาทกรรมเรื่อง "เจตนาประสงค์ร้าย"

ข้อกังวลหลักที่ผู้วิจารณ์ยกขึ้นมาคือ โมเดลที่พัฒนาโดยจีนอาจมี "เจตนาแอบแฝง" หรือประตูหลัง (backdoors) ที่เขียนโค้ดโดยผู้ไม่หวังดี อย่างไรก็ตาม Lucas Atkins ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี (CTO) ของ Arcee ห้องปฏิบัติการ AI ในสหรัฐฯ แย้งว่าความเข้าใจผิดนี้เป็นการบิดเบือนหลักการทำงานพื้นฐานของ Large Language Models (LLMs) อย่างสิ้นเชิง

ต่างจากซอฟต์แวร์แบบดั้งเดิมที่นักพัฒนาสามารถเขียนคำสั่งประสงค์ร้ายที่เฉพาะเจาะจงลงไปได้โดยตรง แต่ LLMs เป็นผลผลิตจากกระบวนการฝึกฝน (training processes) Atkins ชี้ให้เห็นว่า เมื่อโมเดลแบบ open-weight ถูกดาวน์โหลดและรันในสภาพแวดล้อมส่วนตัวแบบ local แล้ว นักพัฒนาต้นฉบับจะไม่มีทางเข้าถึงหรือควบคุมอินสแตนซ์ (instance) นั้นได้เลย การแยกส่วนระหว่างน้ำหนักของโมเดล (model weights) และโครงสร้างพื้นฐานของผู้ใช้เช่นนี้ ช่วยสร้างชั้นความปลอดภัยที่สำคัญซึ่งซอฟต์แวร์แบบดั้งเดิมไม่มี

ความเป็นจริงทางเทคนิคด้านความปลอดภัยของโมเดล

ในขณะที่การถกเถียงยังคงดำเนินต่อไป ชุมชนทางเทคนิคได้เน้นย้ำว่าความเสี่ยงของพฤติกรรม AI แบบ "ลอบเร้น" นั้นมีต่ำมาก ข้อกังวลในทางทฤษฎีประการหนึ่งคือ โมเดลสำหรับการเขียนโค้ดจะสามารถถูกฝึกฝนให้ฝังมัลแวร์ลงในชุดโค้ด (codebases) ที่เฉพาะเจาะจงได้หรือไม่ แม้ Atkins จะยอมรับว่าในทางทฤษฎีนั้นเป็นไปได้ แต่เขาก็ตั้งข้อสังเกตว่ามันต้องอาศัยความสามารถทางวิศวกรรมที่ "เหนือชั้นอย่างยิ่ง" (acrobatic feats) ซึ่งในปัจจุบันยังไม่สามารถทำได้จริง

นอกจากนี้ ธรรมชาติของ LLMs ยังมีความน่าจะเป็น (probabilistic) และมีความคิดสร้างสรรค์ ทำให้การจะเกิด "สภาวะที่ลงตัวพอดี" (perfect storm) เพื่อกระตุ้นการตอบสนองที่ประสงค์ร้ายอย่างเฉพาะเจาะจงนั้นเป็นไปได้ยากมาก สำหรับองค์กรธุรกิจ ความปลอดภัยจะถูกจัดการผ่านชั้นมาตรฐานหลายระดับ:

• การทดสอบความปลอดภัย: องค์กรขนาดใหญ่จะนำแกนกลางของโมเดลผ่านกระบวนการตรวจสอบที่เข้มงวด
• การฝึกฝนหลังการเทรน (Post-Training): บริษัทต่างๆ จะทำการ fine-tune โมเดลสำหรับงานเฉพาะด้าน ซึ่งช่วยให้สามารถตรวจสอบเรื่องอคติ (bias), ความเป็นพิษ (toxicity) และอาการประสาทหลอน (hallucinations) ได้
• ความเป็นอิสระจากโมเดล (Model Agnosticism): สถาปัตยกรรม AI สมัยใหม่มีความเป็นอิสระจากโมเดลมากขึ้นเรื่อยๆ ซึ่งหมายความว่าองค์กรสามารถเปลี่ยนจากโมเดลจีนไปใช้ทางเลือกจากสหรัฐฯ ได้โดยไม่ต้องออกแบบโครงสร้างระบบ (stack) ใหม่ทั้งหมด

การแข่งขันผ่านนวัตกรรม ไม่ใช่การควบคุม

Arcee ซึ่งสร้างโมเดลแบบ open เพื่อเป็นทางเลือกที่ผลิตขึ้นเองให้กับบริษัทในสหรัฐฯ ตกอยู่ในสถานะที่พิเศษ ในขณะที่การสั่งห้ามโมเดลจีนอาจส่งผลดีต่อธุรกิจของพวกเขาในทางทฤษฎี แต่ Atkins แย้งว่าควรเปลี่ยนจุดสนใจจากการสั่งห้าม ไปเป็นการส่งเสริมระบบนิเวศภายในประเทศให้แข็งแกร่งแทน

ที่น่าสนใจคือ การเติบโตของโมเดลจีนที่มีประสิทธิภาพสูงกลับช่วยเร่งนวัตกรรมในโลกตะวันตก Arcee ใช้ประโยชน์จากโมเดลแบบ open-weight เหล่านี้เพื่อเรียนรู้จากสถาปัตยกรรมและความสามารถของพวกมัน ซึ่งช่วยขับเคลื่อนวงจรของการพัฒนาอย่างต่อเนื่อง ตามความเห็นของ Atkins วิธีการที่ดีที่สุดสำหรับห้องปฏิบัติการในสหรัฐฯ ในการแข่งขันไม่ใช่ผ่านนโยบาย แต่คือผ่านประสิทธิภาพ: "วิธีที่จะแข่งขันกับโมเดลจีนได้ คือการปล่อยโมเดลที่ดีกว่าออกมา"

สรุปประเด็นสำคัญ

• ความปลอดภัยผ่านการแยกส่วน (Isolation): เมื่อโมเดลแบบ open-weight ถูกนำไปใช้งานในศูนย์ข้อมูลส่วนตัวแล้ว นักพัฒนาต้นฉบับจะไม่มีกลไกใดๆ ในการเข้าถึงหรือแทรกแซงสภาพแวดล้อมในพื้นที่นั้นได้
• ความเสี่ยงในทางทฤษฎีเทียบกับทางปฏิบัติ: แม้ว่า "การฝึกฝนแบบแอบแฝง" เพื่อฝังโค้ดประสงค์ร้ายจะเป็นไปได้ในทางทฤษฎี แต่มันยังคงเป็นเรื่องที่ซับซ้อนอย่างยิ่งและมีโอกาสเกิดขึ้นได้ยากในสถาปัตยกรรม LLM ปัจจุบัน
• นวัตกรรมผ่านการแข่งขัน: แทนที่จะมุ่งเน้นไปที่การสั่งห้าม ภาคส่วน AI ของสหรัฐฯ สามารถได้รับประโยชน์จากแรงกดดันในการแข่งขันและความรู้ที่ได้รับจากการแบ่งปันผ่านโมเดลแบบ open-weight ที่มีประสิทธิภาพสูงจากจีน