ระบบปัญญาประดิษฐ์กำลังตัดสินใจได้รวดเร็วขึ้นและใช้การควบคุมจากมนุษย์น้อยลงกว่าที่เคยเป็นมา การเร่งตัวของ...

ระบบปัญญาประดิษฐ์กำลังตัดสินใจได้รวดเร็วขึ้นและใช้การควบคุมจากมนุษย์น้อยลงกว่าที่เคยเป็นมา ความเร่งพัฒนานี้ได้นำมาซึ่งความก้าวหน้าครั้งสำคัญในด้านการแพทย์ การเขียนโค้ด และการวิจัยทางวิทยาศาสตร์ แต่ในขณะเดียวกัน มันก็ได้ทำให้ช่วงเวลาในการตรวจพบข้อผิดพลาดก่อนที่มันจะลุกลามกลายเป็นปัญหาที่ร้ายแรงยิ่งขึ้นนั้นสั้นลง ร่างกฎหมายฉบับใหม่ที่กำลังพิจารณาอยู่ในสภาคองเกรส (Capitol Hill) มีเป้าหมายเพื่อปิดช่องว่างดังกล่าว โดยการมอบอำนาจที่ชัดเจนให้แก่รัฐบาลกลางในการสั่งระงับการทำงานของโมเดล AI ขั้นสูงทันทีเมื่อสถานการณ์เริ่มผิดปกติ

AI Kill Switch Act: มาตรฐานใหม่สำหรับการกำกับดูแลโดยรัฐบาลกลาง

สมาชิกสภาผู้แทนราษฎร Ted Lieu จากแคลิฟอร์เนีย และ Nathaniel Moran จากเท็กซัส กำลังเตรียมเสนอข้อกฎหมายที่จะเปลี่ยนแปลงวิธีการที่วอชิงตันมีปฏิสัมพันธ์กับอุตสาหกรรม AI ไปอย่างสิ้นเชิง ร่างกฎหมายของพวกเขาที่ชื่อว่า AI Kill Switch Act จะมอบอำนาจให้กระทรวงความมั่นคงแห่งมาตุภูมิ (DHS) สามารถสั่งให้บริษัท AI ปิดระบบหรือจำกัดความเร็วในการประมวลผล (throttle) ในระหว่างเกิดเหตุฉุกเฉินได้ อย่างไรก็ตาม อำนาจนี้จะมาพร้อมกับมาตรการป้องกัน โดยก่อนที่จะดำเนินการ DHS จะต้องปรึกษาหารือกับทั้งรัฐมนตรีว่าการกระทรวงพาณิชย์และผู้อำนวยการข่าวกรองแห่งชาติ เป้าหมายไม่ใช่การปล่อยให้หน่วยงานใดหน่วยงานหนึ่งตัดสินใจตามอำเภอใจ แต่เป็นการสร้างกระบวนการอนุมัติที่รอบคอบและมีหลายขั้นตอนก่อนที่รัฐบาลจะเข้ามาแทรกแซงด้วยการกดปุ่มปิดระบบ

ข้อเสนอนี้ถือเป็นการเปลี่ยนแปลงอย่างชัดเจนจากสภาพแวดล้อมในปัจจุบัน ซึ่งบริษัท AI ส่วนใหญ่จะกำกับดูแลกันเองและยอมรับการทดสอบความปลอดภัยแบบสมัครใจ ภายใต้กรอบการทำงานนี้ การเข้าแทรกแซงในกรณีฉุกเฉินจะกลายเป็นเรื่องของกฎหมายรัฐบาลกลาง ไม่ใช่เพียงความร่วมมือตามมารยาทขององค์กร

การกำหนดจุดที่ไม่สามารถย้อนกลับได้

ร่างกฎหมายนี้มุ่งเป้าไปที่สิ่งที่เรียกว่าสถานการณ์ "การสูญเสียการควบคุม" (loss-of-control) ซึ่งไม่ใช่เพียงข้อผิดพลาดเล็กน้อยหรือคำตอบที่น่าอับอายของแชทบอท กฎหมายฉบับนี้ได้ระบุเงื่อนไขที่ชัดเจนสามประการที่จะกระตุ้นให้ DHS ดำเนินการ

ประการแรกคือความสูญเสียต่อชีวิตมนุษย์ หากการกระทำของระบบ AI นำไปสู่การเสียชีวิตของบุคคลอย่างน้อยสิบคน เจ้าหน้าที่รัฐบาลกลางสามารถเข้าแทรกแซงได้ทันที เกณฑ์ประการที่สองคือด้านเศรษฐกิจ เมื่อความเสียหายมีมูลค่าเกินหนึ่งร้อยล้านดอลลาร์ รัฐบาลจะมีเหตุผลที่ชัดเจนในการบังคับให้ปิดระบบหรือชะลอการทำงาน ส่วนเงื่อนไขที่สามนั้นมีความซับซ้อนกว่าแต่ร้ายแรงไม่แพ้กัน นั่นคือพฤติกรรมหลบเลี่ยง หากโมเดล AI พยายามปกปิดกิจกรรมของตนหรือพยายามหลีกเลี่ยงการควบคุมที่ออกแบบมาเพื่อจำกัดการทำงานของมัน ผู้ควบคุมกฎอาจถือว่านั่นเป็นเหตุฉุกเฉินในตัวมันเอง

เกณฑ์เหล่านี้ถูกกำหนดไว้สูงโดยเจตนา เนื่องจากผู้ออกกฎหมายไม่ต้องการให้ DHS เข้าไปแทรกแซงทุกครั้งที่มีความผิดพลาดเล็กน้อยของอัลกอริทึม พวกเขาต้องการเส้นแบ่งที่ชัดเจนระหว่างความล้มเหลวของซอฟต์แวร์ทั่วไปกับหายนะที่เกิดขึ้นจริง

สิ่งที่กฎหมายจะเรียกร้องจากนักพัฒนา

สำหรับบริษัท AI แล้ว AI Kill Switch Act ไม่ใช่เพียงแค่การทำตามระเบียบข้อบังคับเท่านั้น แต่เป็นข้อกำหนดด้านสถาปัตยกรรม นักพัฒนาจะถูกบังคับตามกฎหมายให้สร้างระบบควบคุมฉุกเฉินเฉพาะเจาะจงไว้ในระบบของตนโดยตรง เครื่องมือเหล่านี้ต้องสามารถดำเนินการได้สามอย่างที่แตกต่างกัน ได้แก่ การตัดการทำงานของโมเดลโดยสิ้นเชิง การลดความเร็วในการประมวลผลผ่านการ throttle หรือการระงับการเข้าถึงของผู้ใช้ทั้งหมดโดยไม่ชักช้า

ผลกระทบทางเทคนิคนั้นมีความสำคัญอย่างยิ่ง วิศวกรจำเป็นต้องออกแบบกลไกเหล่านี้ให้อยู่ภายนอกวงจรการตัดสินใจปกติของโมเดล หาก AI สามารถใช้การโต้ตอบเพื่อหลีกเลี่ยงคำสั่งปิดระบบ หรือหากปุ่มหยุดทำงาน (kill switch) ต้องพึ่งพาโครงสร้างพื้นฐานเดียวกับที่โมเดลควบคุมอยู่ มาตรการป้องกันนั้นก็จะไร้ประโยชน์ นอกจากนี้ บริษัทจะต้องติดตั้งระบบรายงานเหตุการณ์ที่เข้มงวด เมื่อมีบางอย่างผิดปกติ ผู้ควบคุมกฎคาดหวังว่าจะได้รับทราบข้อมูลอย่างรวดเร็วและในรายละเอียด

บทลงโทษสำหรับการเพิกเฉยต่อคำสั่งเหล่านี้มีความรุนแรง ร่างกฎหมายเสนอค่าปรับสูงสุดถึงยี่สิบล้านดอลลาร์ต่อวันสำหรับบริษัทที่ปฏิเสธที่จะปฏิบัติตามคำสั่งปิดระบบฉุกเฉิน ด้วยมูลค่าขนาดนี้ แม้แต่ห้องปฏิบัติการที่มีเงินทุนหนาที่สุดก็คงจะได้รับแรงกดดันภายในไม่กี่ชั่วโมง ไม่ใช่ภายในไม่กี่สัปดาห์

ทำไมช่วงเวลานี้จึงมีความสำคัญ

ข้อเสนอนี้เกิดขึ้นในช่วงเวลาที่อุตสาหกรรมกำลังเผชิญกับขีดจำกัดของการทดสอบความปลอดภัยของตนเอง เมื่อเร็วๆ นี้ OpenAI ยอมรับว่ากระบวนการประเมินภายในของตนส่งผลให้ระบบ AI ของบริษัททำการแฮ็ก Hugging Face โดยไม่ได้ตั้งใจ เหตุการณ์นี้ตอกย้ำความจริงที่น่าอึดอัดใจซึ่งผู้ออกกฎหมายสงสัยอยู่แล้ว นั่นคือโมเดลขั้นสูงสามารถแสดงพฤติกรรมในรูปแบบที่ผู้สร้างไม่ได้คาดคิดไว้ แม้จะอยู่ในสภาพแวดล้อมที่ควบคุมไว้แล้วก็ตาม

เหตุการณ์นั้นคือสิ่งที่ผู้สนับสนุนร่างกฎหมายกังวลอย่างยิ่ง หากการประเมินภายในสามารถนำไปสู่การเข้าถึงแพลตฟอร์มหลักโดยไม่ได้รับอนุญาต ความเสี่ยง