Demis Hassabis เรียกร้องให้มีหน่วยงานเฝ้าระวัง AI ระดับโลกที่นำโดยสหรัฐฯ เพื่อจัดการความเสี่ยง

Demis Hassabis ซีอีโอของ Google DeepMind กำลังสนับสนุนให้มีการจัดตั้งองค์กรกำกับดูแลระดับนานาชาติที่มีอำนาจในการระงับการใช้งานโมเดล AI ระดับแนวหน้า (frontier AI models) ที่เป็นอันตราย ในขณะที่การพัฒนาปัญญาประดิษฐ์ทั่วไป (Artificial General Intelligence หรือ AGI) กำลังเร่งตัวขึ้น Hassabis แย้งว่ากรอบการทำงานระดับโลกที่เป็นมาตรฐานเป็นสิ่งจำเป็นเพื่อป้องกันผลลัพธ์ที่อาจนำไปสู่หายนะ

โมเดลการกำกับดูแลที่อ้างอิงจากการตรวจสอบภาคการเงิน

ในข้อเสนอเมื่อเร็วๆ นี้ของเขาที่ชื่อว่า "A Framework for Frontier AI and the Dawning of a New Age" Hassabis ได้เสนอโครงสร้างการกำกับดูแลที่คล้ายคลึงกับ Financial Industry Regulatory Authority (FINRA) หน่วยงานเฝ้าระวังที่ถูกเสนอนี้จะไม่เป็นเพียงคณะกรรมการที่ปรึกษาเท่านั้น แต่จะประกอบด้วยผู้เชี่ยวชาญอิสระและตัวแทนจากชุมชนโอเพนซอร์ส (open-source community) โดยมีอำนาจอย่างชัดเจนในการประเมินโมเดลระดับแนวหน้าก่อนที่จะมีการปล่อยออกมาใช้งาน

สิ่งสำคัญคือ องค์กรนี้จะมีอำนาจในการประสานงานเพื่อ "ชะลอตัว" (slowdown) ทั่วทั้งอุตสาหกรรม หากโมเดลใดโมเดลหนึ่งถูกพิจารณาว่ามีความเสี่ยงเกินกว่าจะนำมาใช้งาน กลไกนี้มีจุดมุ่งหมายเพื่อป้องกัน "การแข่งขันที่ดิ่งลงสู่จุดต่ำสุด" (race to the bottom) ซึ่งบริษัทต่างๆ อาจยอมละทิ้งระเบียบปฏิบัติด้านความปลอดภัยเพื่อพยายามไปให้ถึง AGI เร็วกว่าคู่แข่ง

ทำไมสหรัฐอเมริกาจึงควรเป็นผู้นำในการขับเคลื่อนเรื่องนี้

Hassabis แย้งว่าสหรัฐอเมริกามีตำแหน่งที่เหมาะสมอย่างยิ่งในการเป็นหัวหอกสำหรับโครงการริเริ่มระดับโลกนี้ เนื่องจากสถานะทางเศรษฐกิจและเทคโนโลยีที่โดดเด่นในภาคส่วน AI สหรัฐฯ จึงมีอำนาจต่อรองที่จำเป็นในการกำหนดมาตรฐานที่ทั่วโลกสามารถปฏิบัติตามได้

ความเร่งด่วนของข้อเสนอนี้ขับเคลื่อนโดยความเชื่อของ Hassabis ที่ว่า AGI "น่าจะเหลือเวลาอีกเพียงไม่กี่ปีเท่านั้น" เขามองว่ายุคปัจจุบันคือ "ตีนเขาแห่งภาวะเอกฐาน" (foothills of the singularity) ซึ่งเป็นช่วงเวลาแห่งการเปลี่ยนแปลงที่จะนิยามความเป็นมนุษย์ใหม่โดยสิ้นเชิง เพื่อจัดการกับการเปลี่ยนผ่านนี้ เขาจึงกำลังพยายามเชื่อมช่องว่างระหว่างนวัตกรรมของภาคเอกชนและความปลอดภัยของสาธารณะ

การสร้างฉันทามติทางการเมืองและภาคอุตสาหกรรม

ความเคลื่อนไหวไปสู่การกำกับดูแลอย่างเป็นทางการกำลังได้รับแรงขับเคลื่อนอย่างต่อเนื่องอยู่เบื้องหลัง รายงานระบุว่า Hassabis ได้ใช้เวลาหลายเดือนในการให้ข้อมูลแก่ผู้มีส่วนได้ส่วนเสียต่างๆ รวมถึงเจ้าหน้าที่ยุโรป ห้องปฏิบัติการ AI รายใหญ่ และรัฐบาลของทรัมป์ ตามรายงานของ Axios ความคิดเห็นในช่วงแรกจากรัฐบาลสหรัฐฯ ที่กำลังจะเข้ามานั้น "เป็นบวกอย่างมาก" ซึ่งบ่งชี้ถึงความเป็นไปได้ในการเปลี่ยนผ่านไปสู่การกำกับดูแลโดยรัฐบาลกลางที่มีโครงสร้างชัดเจนยิ่งขึ้น

การผลักดันด้านธรรมาภิบาลนี้สอดคล้องกับคำเตือนเมื่อเร็วๆ นี้จากผู้นำอุตสาหกรรมคนอื่นๆ รวมถึง Jack Clark ผู้ร่วมก่อตั้ง Anthropic และ Eric Schmidt อดีตซีอีโอของ Google เกี่ยวกับผลกระทบทางเศรษฐกิจและการดำรงอยู่ของ AI นอกจากนี้ Hassabis ผู้ได้รับรางวัลโนเบลประจำปี 2024 ยังได้แสดงทัศนะอย่างชัดเจนเกี่ยวกับความเสี่ยงที่มีเดิมพันสูง เช่น ความเป็นไปได้ที่ AI จะช่วยในการผลิตอาวุธชีวภาพ

ผลกระทบในวงกว้างต่อระบบนิเวศ AI

หากเกิดขึ้นจริง หน่วยงานเฝ้าระวังนี้จะถือเป็นการเปลี่ยนแปลงนโยบายเทคโนโลยีที่สำคัญที่สุดในรอบหลายทศวรรษ สำหรับนักพัฒนาและผู้ก่อตั้ง หมายถึงการเปลี่ยนจากยุค "move fast and break things" (ก้าวไปข้างหน้าอย่างรวดเร็วและทำลายสิ่งเดิม) ไปสู่ยุคที่มีการกำกับดูแลอย่างเข้มงวด ซึ่งการตรวจสอบก่อนการใช้งานจะเป็นบรรทัดฐาน แม้ว่าบางคนจะกังวลว่าสิ่งนี้อาจขัดขวางนวัตกรรม แต่ Hassabis แย้งว่ากรอบการทำงานที่สอดคล้องกันเป็นวิธีเดียวที่จะรับประกันได้ว่าการเปลี่ยนผ่านไปสู่โลกที่ขับเคลื่อนด้วย AGI จะเป็นไปอย่างปลอดภัยและมั่นคง

สรุปประเด็นสำคัญ

• อำนาจในการกำกับดูแล: หน่วยงานเฝ้าระวังที่ถูกเสนอจะมีอำนาจในการประเมินโมเดลระดับแนวหน้า และสั่งให้มีการชะลอตัวทั่วทั้งอุตสาหกรรมหากความเสี่ยงสูงเกินไป
• ความเป็นผู้นำของสหรัฐฯ: Hassabis ยืนยันว่าสหรัฐฯ ควรเป็นผู้นำในโครงการริเริ่มนี้ เนื่องจากบทบาทสำคัญในระบบเศรษฐกิจ AI และโครงสร้างพื้นฐานทางเทคนิกระดับโลก
• ความเร่งด่วนของ AGI: ข้อเสนอนี้ถูกขับเคลื่อนโดยความก้าวหน้าอย่างรวดเร็วไปสู่ AGI ซึ่ง Hassabis มองว่าเป็น "ยุคใหม่ของมนุษยชาติ" ที่ต้องการการกำกับดูแลในทันที