AI ในการบริหารปกครอง: ส.ส. Luna ปฏิเสธการใช้ Claude ในการร่างเนื้อหาในร่างกฎหมายด้านกลาโหม

จุดตัดระหว่าง Generative AI และการร่างกฎหมายกำลังถูกตรวจสอบอย่างเข้มงวด หลังจากเกิดข้อพิพาทที่เกี่ยวข้องกับ Anna Paulina Luna สมาชิกสภาผู้แทนราษฎรจากรัฐฟลอริดา หลังจากมีภาพหน้าจอหลุดออกมาซึ่งบ่งชี้ว่า Claude ของ Anthropic มีส่วนเกี่ยวข้องในการร่างรายละเอียดงบประมาณด้านกลาโหม โดย Luna ได้ชี้แจงถึงบทบาทของ AI ในกระบวนการทำงานของสำนักงานเธอ

ข้อพิพาทเรื่อง Claude และการแก้ไขเพิ่มเติม NDAA

ข้อพิพาทนี้ปะทุขึ้นบน X (หรือ Twitter เดิม) เมื่อผู้ใช้แชร์ภาพหน้าจอของสรุปการแก้ไขเพิ่มเติมที่เกี่ยวข้องกับพระราชบัญญัติการให้อำนาจด้านการป้องกันประเทศแห่งชาติ (NDAA) ประจำปี 2027 ข้อความที่หลุดออกมามีรูปแบบที่ผิดปกติคือ: "Claude responded: Requires the Secretary of Defense to designate Department of Defense activities..." (Claude ตอบว่า: กำหนดให้รัฐมนตรีว่าการกระทรวงกลาโหมระบุกิจกรรมของกระทรวงกลาโหม...) สำนวนเฉพาะเจาะจงนี้บ่งชี้อย่างชัดเจนว่ามีการใช้คำสั่ง (prompt) ผ่านโมเดลภาษาขนาดใหญ่ (LLM) Claude ของ Anthropic เพื่อสร้างสรุปเชิงบรรยายดังกล่าว

ปฏิกิริยาแรกเริ่มจาก ส.ส. Luna บ่งชี้ว่าเจ้าหน้าที่ได้ใช้ AI เพื่อแก้ไขข้อความร่างโดยไม่มีการตรวจสอบเพิ่มเติม อย่างไรก็ตาม เมื่อการคาดเดาของสาธารณชนเพิ่มมากขึ้นเกี่ยวกับประเด็นที่ว่ามีการใช้ AI ในการเขียนตัวบทกฎหมายจริงหรือไม่ สมาชิกสภาผู้แทนราษฎรท่านนี้จึงได้ออกแถลงการณ์แก้ไข โดยเธอชี้แจงว่า AI ถูกนำมาใช้เพียงเพื่อ "ตรวจสอบตัวสะกดและไวยากรณ์" ในส่วนสรุปการแก้ไขเพิ่มเติมเท่านั้น ไม่ใช่ในตัวบทกฎหมายของการแก้ไขเพิ่มเติมนั้นเอง

การแยกแยะระหว่าง "บทสรุป" และ "ตัวบทกฎหมาย"

ข้อแตกต่างที่สำคัญในการถกเถียงครั้งนี้คือความแตกต่างระหว่าง "บทสรุปการแก้ไขเพิ่มเติม" (amendment summary) ซึ่งเป็นเครื่องมืออธิบายเพื่อการอ่านอย่างรวดเร็ว กับ "ตัวบทการแก้ไขเพิ่มเติมจริง" (actual amendment text) ซึ่งมีผลทางกฎหมาย Luna เน้นย้ำว่าไม่มีการร่างกฎหมายจริงด้วย AI ในสำนักงานของเธอ โดยระบุถึงมาตรการป้องกันที่สำคัญของสถาบัน

ตามคำกล่าวของ Luna ข้อความในร่างกฎหมายอย่างเป็นทางการทั้งหมดจากสภาผู้แทนราษฎรมีต้นกำเนิดมาจากสภาที่ปรึกษากฎหมายแห่งสภาผู้แทนราษฎร (House Legislative Council) ซึ่งเป็นหน่วยงานที่ถูกสั่งห้ามใช้เครื่องมือ AI อย่างเด็ดขาด ข้อแตกต่างนี้มีความสำคัญอย่างยิ่งต่อการรักษาความถูกต้องแม่นยำของภาษาทางกฎหมาย เนื่องจากอาการ "หลอน" (hallucination) เพียงครั้งเดียว หรือความผิดพลาดด้านความหมายที่ละเอียดอ่อนจาก LLM อาจนำไปสู่ผลกระทบที่ไม่พึงประสงค์อย่างร้ายแรงในนโยบายป้องกันประเทศ

แนวโน้มที่เพิ่มขึ้นของการใช้ AI ในนโยบายสาธารณะ

เหตุการณ์นี้ไม่ใช่กรณี "ข้อมูล AI รั่วไหล" (AI leakage) ที่เกิดขึ้นเพียงลำพังในสภาพแวดล้อมการทำงานระดับมืออาชีพเท่านั้น ภาพรวมของ AI ในวงกว้างกำลังเผชิญกับการใช้ AI โดยไม่ได้รับอนุญาตหรือไม่ผ่านการตรวจสอบที่เพิ่มขึ้นในภาคส่วนการบริหารปกครองต่างๆ:

• การประพฤติมิชอบทางกฎหมาย: ผู้พิพากษาตรวจพบซ้ำแล้วซ้ำเล่าว่าทนายความใช้แชทบอทในการร่างเอกสารทางกฎหมายที่มีการอ้างอิงข้อมูลที่กุขึ้นมาเอง
• ความผิดพลาดในระดับเทศบาล: เจ้าหน้าที่เมืองในบราซิลเพิ่งอนุมัติข้อบัญญัติที่เขียนโดย ChatGPT โดยไม่รู้ตัว
• การใช้งานในระดับรัฐ: Alexander Kolodin สมาชิกสภาผู้แทนราษฎรแห่งรัฐแอริโซนา ยอมรับอย่างเปิดเผยว่าใช้ ChatGPT เพื่อช่วยในการเขียนกฎหมายระดับรัฐ

เมื่อ LLM อย่าง Claude และ ChatGPT กลายเป็นสิ่งที่พบเห็นได้ทั่วไปในที่ทำงาน ความเสี่ยงของ "Shadow AI" (การใช้ AI แบบไม่เป็นทางการ) ซึ่งพนักงานใช้เครื่องมือที่ไม่ได้รับอนุมัติสำหรับงานที่เป็นทางการ จึงกลายเป็นความท้าทายสำคัญต่อความถูกต้องแม่นยำและความรับผิดชอบของสถาบันสาธารณะ

สรุปประเด็นสำคัญ

• การชี้แจงการใช้งาน: ส.ส. Anna Paulina Luna ปฏิเสธการใช้ AI ในการร่างกฎหมายด้านกลาโหม โดยยืนยันว่า Claude ของ Anthropic ถูกใช้เพียงเพื่อตรวจสอบตัวสะกดและสรุปการแก้ไขเพิ่มเติมเท่านั้น
• มาตรการป้องกันของสถาบัน: ข้อความในร่างกฎหมายอย่างเป็นทางการของสภาผู้แทนราษฎรถูกร่างโดยสภาที่ปรึกษากฎหมายแห่งสภาผู้แทนราษฎร ซึ่งถูกสั่งห้ามใช้ AI เพื่อรับประกันความแม่นยำทางกฎหมาย
• ความเสี่ยงเชิงระบบ: เหตุการณ์นี้เน้นย้ำถึงแนวโน้มที่เพิ่มขึ้นของการบูรณาการ AI ที่ไม่ผ่านการตรวจสอบในด้านกฎหมายและการบริหารปกครอง ตั้งแต่การยื่นเอกสารทางกฎหมายไปจนถึงข้อบัญญัติระดับเทศบาล