Margaret Atwood เตือน: ทำไม AI ยังคงติดหล่ม "Garbage In, Garbage Out"

Margaret Atwood นักเขียนชื่อดังเพิ่งแบ่งปันคำวิจารณ์อย่างตรงไปตรงมาเกี่ยวกับ Large Language Models (LLMs) โดยเน้นย้ำถึงปัญหาที่ยังคงเกิดขึ้นอย่างต่อเนื่องในเรื่องความแม่นยำและความถูกต้องของข้อมูล ประสบการณ์ของเธอช่วยตอกย้ำความจริงพื้นฐานในยุค AI ปัจจุบัน นั่นคือ แม้แต่โมเดลที่ล้ำสมัยที่สุดก็ยังถูกจำกัดด้วยคุณภาพของข้อมูลที่ใช้ในการฝึกฝน (training data)

การทดลองกับ Claude: บทเรียนเรื่องการหลอน (Hallucinations)

ในระหว่างการบรรยายที่เทศกาลวรรณกรรมและวัฒนธรรม Babell ในเมืองปอร์โต ประเทศโปรตุเกส ผู้เขียนเรื่อง The Handmaid’s Tale ได้เปิดเผยประสบการณ์เพียงครั้งเดียวที่เธอได้ลองใช้ Claude ของ Anthropic ความพยายามของ Atwood ในการใช้แชทบอทเพื่อค้นหาข้อมูลเกี่ยวกับซีรีส์สืบสวนของอังกฤษเรื่อง Father Brown ลงเอยด้วยความล้มเหลว ซึ่งแสดงให้เห็นถึงแนวคิดเรื่อง "hallucination" (การหลอนของ AI) ได้อย่างชัดเจน

ตามความเห็นของ Atwood โมเดลได้ให้ข้อมูลที่ไม่ถูกต้อง ซึ่งเปรียบเสมือนการ "โกหก" ผู้ใช้ เธอตั้งข้อสังเกตว่า LLM น่าจะทำการอ่านผ่านๆ และสุ่มตัวอย่างจากบทวิจารณ์รายการโทรทัศน์จำนวนมหาศาล แต่เนื่องจากบทวิจารณ์ออนไลน์มักจะหลีกเลี่ยงการสปอยล์เนื้อหา โมเดลจึงถูกทำให้เข้าใจผิดโดยรูปแบบ (patterns) ที่อยู่ในชุดข้อมูลฝึกฝน รายละเอียดทางเทคนิคนี้ชี้ให้เห็นถึงความท้าทายหลักสำหรับนักพัฒนา นั่นคือ LLMs เป็นเครื่องยนต์เชิงความน่าจะเป็น (probabilistic engines) ที่ให้ความสำคัญกับการจับคู่รูปแบบมากกว่าการตรวจสอบข้อเท็จจริง ซึ่งมักนำไปสู่การให้คำตอบที่ดูมั่นใจแต่ผิดพลาด

วิกฤตข้อมูล: Garbage In, Garbage Out

คำวิจารณ์ของ Atwood มุ่งเน้นไปที่หลักการคอมพิวเตอร์ที่เป็นอมตะ นั่นคือ "garbage in, garbage out" เธอชี้ให้เห็นว่า LLMs ถูกฝึกฝนด้วยข้อมูลที่ถูกดูด (scraped) มาจากสิ่งที่เคยตีพิมพ์แล้ว และอาจเป็นข้อมูลที่ล้าสมัย เมื่อโมเดลได้รับข้อมูลที่ไม่สมบูรณ์ มีอคติ หรือไม่สมเหตุสมผล ผลลัพธ์ที่ได้ย่อมสะท้อนถึงข้อบกพร่องเหล่านั้นอย่างหลีกเลี่ยงไม่ได้

สำหรับภาพรวมของวงการ AI สิ่งนี้เป็นเครื่องเตือนใจว่าการเพิ่มขนาดพารามิเตอร์ของโมเดล (scaling model parameters) ไม่สามารถทดแทนคุณภาพของข้อมูลได้ ในขณะที่นักพัฒนากำลังผลักดันให้ใช้ชุดข้อมูลที่ใหญ่ขึ้นเพื่อเพิ่มความสามารถในการใช้เหตุผล "สัญญาณรบกวน" (noise) ภายในชุดข้อมูลเหล่านั้น เช่น การขาดข้อมูลสปอยล์เนื้อหาในบทวิจารณ์ตามที่ Atwood กล่าวถึง สามารถสร้างข้อผิดพลาดเชิงระบบที่แม้แต่สถาปัตยกรรมที่ซับซ้อนอย่าง Claude ก็ไม่สามารถเอาชนะได้โดยง่าย

ข้อกังวลด้านจริยธรรม: การฉวยโอกาส vs. ความคิดสร้างสรรค์

นอกเหนือจากข้อจำกัดทางเทคนิคแล้ว Atwood ยังได้กล่าวถึงองค์ประกอบด้านมนุษย์ในการนำ AI มาใช้ เธอเรียกกลุ่มคนที่พึ่งพา AI มากจนเกินไปว่าเป็น "พวกฉวยโอกาส" (opportunists) ที่มองหาวิธีง่ายๆ ในการหลีกเลี่ยงความยากลำบากของการสร้างสรรค์หรือการวิจัยที่แท้จริง เธอเตือนว่าความเย้ายวนในการ "โกง" โดยใช้เนื้อหาที่สร้างโดย AI ซึ่งตรวจจับไม่ได้นั้น เป็นความกังวลที่เพิ่มขึ้นสำหรับอุตสาหกรรมที่ต้องพึ่งพาภูมิปัญญาและความละเอียดอ่อนของมนุษย์

สำหรับผู้ก่อตั้งและบุคลากรสายเทคโนโลยี การแยกแยะนี้เป็นสิ่งสำคัญ แม้ว่า AI จะสามารถทำหน้าที่เป็นเครื่องมือเพิ่มประสิทธิภาพการทำงานที่ทรงพลัง แต่ข้อสังเกตของ Atwood ที่ว่า "แม้แต่คนที่ใช้มันด้วยเหตุผลทางธุรกิจก็ยังต้องตรวจสอบมัน" เน้นย้ำว่าการกำกับดูแลโดยมนุษย์ (human oversight) ยังคงเป็นองค์ประกอบที่ขาดไม่ได้ในกระบวนการทำงานของ AI ยุคของ AI ที่ทำงานได้ด้วยตัวเองอย่างสมบูรณ์และปราศจากข้อผิดพลาดยังคงเป็นเรื่องที่ห่างไกล และความรับผิดชอบต่อความถูกต้องยังคงเป็นหน้าที่ของผู้ใช้

สรุปประเด็นสำคัญ

• ความถูกต้องของข้อมูลคือสิ่งสำคัญที่สุด: หลักการ "garbage in, garbage out" ยังคงเป็นอุปสรรคที่ใหญ่ที่สุดสำหรับ LLMs เนื่องจากโมเดลถูกจำกัดด้วยคุณภาพและความสมบูรณ์ของข้อมูลที่ใช้ในการฝึกฝน
• กับดักการหลอน (The Hallucination Trap): แม้แต่โมเดลที่ล้ำสมัยอย่าง Claude ของ Anthropic ก็สามารถล้มเหลวในการดึงข้อมูลข้อเท็จจริงง่ายๆ ได้ หากรูปแบบพื้นฐานในข้อมูลฝึกฝนทำให้เกิดความเข้าใจผิด
• ความจำเป็นในการกำกับดูแลโดยมนุษย์: ควรพิจารณาว่า AI เป็นเครื่องมือที่ต้องมีการตรวจสอบอย่างสม่ะเสมอ มากกว่าที่จะมองว่าเป็นสิ่งที่จะมาแทนที่ความเชี่ยวชาญและการคิดเชิงวิพากษ์ของมนุษย์