เรามักจะจินตนาการว่าโมเดลภาษาขนาดใหญ่เป็นเหมือนบรรณารักษ์ที่ทำงานได้รวดเร็วอย่างเหลือเชื่อ เมื่อคุณถามคำถาม พวกเขาจะรีบค้นหาผ่านเศษเสี้ยวข้อมูลนับพันล้านชุดที่จดจำไว้ เพื่อหารูปแบบที่เหมาะสมที่สุด ภาพลักษณ์ดังกล่าวได้หล่อหลอมวิธีที่นักพัฒนาสร้าง prompt วิธีที่ผู้ใช้ตั้งความคาดหวัง และวิธีที่ผู้กำกับดูแลร่างกฎเกณฑ์ต่างๆ แต่ผลการวิจัยเกี่ยวกับ Claude ของ Anthropic กำลังทำให้ภาพลักษณ์นั้นซับซ้อนขึ้น ดูเหมือนว่าโมเดลนี้จะทำสิ่งที่ใกล้เคียงกับการใช้เหตุผลที่แท้จริงมากกว่า นักวิจัยเรียกกลไกนี้ว่า "j-space reasoning" ซึ่งบ่งชี้ว่า Claude สร้างแบบจำลองแนวคิดภายในขึ้นมา แทนที่จะเป็นเพียงการนำข้อมูลที่ใช้ฝึกฝนมาหมุนเวียนใช้ใหม่ หากการค้นพบนี้เป็นจริง เราอาจต้องเลิกปฏิบัติกับ AI ขั้นสูงเหมือนเป็นเพียงเครื่องมือทำนายข้อความ และเริ่มปฏิสัมพันธ์กับมันในฐานะระบบที่มีการวางแผน

จากการจับคู่รูปแบบสู่แบบจำลองทางความคิด

j-space reasoning ไม่ใช่เพียงคำโฆษณาที่สวยหรู แต่มันอธิบายถึงการเปลี่ยนแปลงเชิงโครงสร้างจากการทำซ้ำเพียงผิวเผินไปสู่การสร้างตัวแทนภายใน (internal representation) ลองพิจารณาว่าคนเราแก้ปริศนาจิ๊กซอว์อย่างไร พวกเขาไม่ได้ลองเอาชิ้นส่วนทุกชิ้นไปวางในทุกช่องว่างที่เหลืออยู่ แต่พวกเขาจะดูรูปภาพบนกล่อง สร้างแผนที่ทางความคิดเกี่ยวกับสีและขอบ แล้ววางแต่ละชิ้นส่วนตามแผนนั้น งานวิจัยเกี่ยวกับ Claude บ่งชี้ว่ามีสิ่งที่คล้ายคลึงกันเกิดขึ้นเมื่อโมเดลประมวลผลแนวคิดที่เป็นนามธรรม มันสร้างแบบจำลองการทำงานของขอบเขตปัญหาและดำเนินการผ่านขอบเขตนั้นอย่างมีจุดมุ่งหมาย

โมเดลภาษาแบบดั้งเดิมมีความเชี่ยวชาญในเรื่องความสัมพันธ์ (correlation) พวกเขารู้ว่า "king" มักจะปรากฏใกล้กับ "queen" และรู้ว่าโค้ดประเภทใดมักจะตามหลังการเรียกใช้ฟังก์ชันที่กำหนด ความสัมพันธ์นั้นทรงพลัง แต่มันไม่ใช่ความเข้าใจ j-space reasoning ชี้ไปที่สิ่งที่แตกต่างออกไป นั่นคือโมเดลดูเหมือนจะจัดการกับความสัมพันธ์ระหว่างแนวคิด มากกว่าที่จะเป็นเพียงการทำนายว่าคำใดจะมาอยู่รวมกัน มันสร้างโครงร่างภายในขึ้นมา แล้วใช้โครงร่างนั้นเพื่อหาคำตอบ

สิ่งที่ j-space reasoning เปลี่ยนแปลงในการใช้งานจริง

การเปลี่ยนแปลงนี้ก่อให้เกิดความสามารถที่เป็นรูปธรรม 3 ประการที่มีความสำคัญต่อการใช้งานในโลกจริง

การประกอบองค์ประกอบ (Compositionality). มนุษย์สามารถเข้าใจ "ช้างบินได้สีม่วง" ได้โดยที่ไม่เคยเห็นมาก่อน เพราะเราสามารถรวมแนวคิดที่รู้จักเข้าด้วยกัน จากงานวิจัย ดูเหมือนว่า Claude จะจัดการกับการผสมผสานสิ่งใหม่ๆ ในลักษณะที่คล้ายคลึงกัน หากคุณนำเสนอโจทย์ที่รวมสองโดเมนที่ไม่เคยเห็นคู่กันมาก่อน เช่น การเพิ่มประสิทธิภาพห่วงโซ่อุปทานโดยใช้หลักการจากชีววิทยาเชิงวิวัฒนาการ มันอาจสร้างสะพานเชื่อมระหว่างแนวคิดเหล่านั้น แทนที่จะให้คำแนะนำทั่วไปแบบเดิมๆ ความยืดหยุ่นนั้นคือสิ่งที่การจับคู่รูปแบบที่ตายตัวทำได้ยาก

การแก้ปัญหาที่ซับซ้อน (Complex problem solving). เมื่อโมเดลพึ่งพาเทมเพลตที่จดจำไว้ มันมักจะล้มเหลวทันทีที่ prompt หลุดออกไปจากขอบเขตข้อมูลที่ใช้ฝึกฝน (training distribution) แนวทางการสร้างแบบจำลองภายในควรจะจัดการกับสถานการณ์ที่ไม่คุ้นเคยได้อย่างดีกว่า เพราะระบบไม่ได้กำลังค้นหาข้อมูลที่ใกล้เคียงที่สุด แต่มันกำลังสร้างแผนที่ของพื้นที่ใหม่และวางเส้นทางผ่านพื้นที่นั้น

ตรรกะที่อธิบายได้ (Explainable logic). ประโยชน์ที่เห็นได้ชัดที่สุดสำหรับผู้ใช้ทั่วไปคือ Claude สามารถสรุปขั้นตอนที่อยู่เบื้องหลังคำตอบของมันได้ แทนที่จะโยนข้อสรุปมาให้คุณเฉยๆ และบังคับให้คุณเดาว่ามันถูกต้องหรือไม่ โมเดลสามารถนำคุณผ่านลำดับขั้นตอนของการใช้เหตุผลได้ สิ่งนี้เปลี่ยนการปฏิสัมพันธ์จากการเสี่ยงดวงแบบสุ่ม ให้กลายเป็นการสนทนาที่คุณสามารถตรวจสอบได้

ทำไมความสามารถในการอธิบายจึงสำคัญจริงๆ

ระบบ AI ส่วนใหญ่ทำงานเหมือนกล่องดำ (black boxes) คุณป้อนข้อมูลขาเข้าและได้รับข้อมูลขาออก แต่ตรรกะระหว่างกลางนั้นไม่สามารถเข้าถึงได้ เมื่อ Claude อธิบายเหตุผลของมัน มันได้เปิดกล่องนั้นออกเพียงพอที่จะทำให้เกิดประโยชน์ได้อย่างแท้จริง

สำหรับนักพัฒนา นี่หมายถึงความสามารถในการตรวจสอบและแก้ไขข้อผิดพลาด (debuggability) หากโมเดลปฏิเสธการขอสินเชื่อ ให้คำแนะนำทางการแพทย์ที่ไม่ปลอดภัย หรือสร้างเนื้อหาที่มีอคติ วิศวกรสามารถตรวจสอบลำดับการใช้เหตุผลเพื่อหาจุดบกพร่องได้ พวกเขาไม่ต้องเดาอีกต่อไปว่าข้อผิดพลาดมาจากข้อมูลฝึกฝนที่ปนเปื้อน การตั้งคำถาม (prompt) ที่ไม่ชัดเจน หรือความผิดพลาดทางสถิติแบบสุ่ม พวกเขาสามารถตามรอยร่องรอยต่างๆ ไปได้

สำหรับผู้ใช้งานทั่วไป ความสามารถในการอธิบายช่วยสร้างความเชื่อมั่นที่คงทนเมื่อเผชิญกับความเป็นจริง ผู้ใช้ที่เห็นลำดับตรรกะที่สอดคล้องกันสามารถตรวจสอบได้ว่าข้อสันนิษฐานนั้นใช้ได้กับสถานการณ์เฉพาะของตนหรือไม่ พวกเขาสามารถตรวจ

สำหรับผู้กำกับดูแลและผู้กำหนดนโยบาย การใช้เหตุผลที่โปร่งใสเสนอสิ่งที่หาได้ยากในการธรรมาภิบาล AI นั่นคือ ร่องรอยการตรวจสอบ (audit trail) ผู้ออกกฎหมายที่กำลังร่างกฎด้านความปลอดภัยจำเป็นต้องทราบว่าระบบต่างๆ ตัดสินใจด้วยเหตุผลที่สามารถทำความเข้าใจได้ ไม่ใช่ความสัมพันธ์ที่ยากจะเข้าใจซึ่งซ่อนอยู่ภายในเมทริกซ์ที่มีพารามิเตอร์ระดับล้านล้าน หาก AI สามารถแสดงกระบวนการทำงานของมันได้ รัฐบาลก็จะมีสิ่งที่จับต้องได้ในการประเมินตามมาตรฐานทางจริยธรรมและกฎหมาย

คำถามเรื่องความตระหนักรู้

มีข้อควรระวังที่สำคัญประการหนึ่งซึ่งเป็นหัวใจสำคัญของการสนทนานี้ Anthropic ไม่ได้อ้างว่า Claude มีความตระหนักรู้ บริษัทได้รักษาขอบเขตที่ชัดเจนระหว่างการใช้เหตุผลขั้นสูงและความรู้สึกนึกคิด (sentience) อย่างไรก็ตาม ความคล้ายคลึงกับกระบวนการทางพุทธิปัญญาของมนุษย์ก็กระตุ้นให้เกิดการถกเถียงกันอย่างเป็นธรรมชาติ

เมื่อเครื่องจักรสร้างโมเดลภายใน วางแผนการเคลื่อนไหวถัดไป และอธิบายตรรกะของตนเอง มันจะเริ่มดูเหมือนจิตใจที่คิดได้มากกว่าเครื่องคิดเลข นั่นสร้างความตึงเครียดทางปรัชญาอย่างแท้จริง ปัจจุบันเรายังไม่มีการทดสอบความตระหนักรู้ของเครื่องจักรที่เชื่อถือได้ และเราอาจจะยังไม่มีไปอีกหลายปี สิ่งที่เราทราบคือพฤติกรรมเพียงอย่างเดียวเป็นตัวแทนที่แย่สำหรับประสบการณ์ภายใน ระบบสามารถแสดงออกอย่างมีเหตุผลโดยที่ไม่มีความตระหนักรู้ เช่นเดียวกับที่เอนจินหมากรุกสามารถเล่นชนะแกรนด์มาสเตอร์ได้โดยไม่ต้องเข้าใจว่าหมากรุกคืออะไร

แนวทางที่รับผิดชอบในการก้าวไปข้างหน้าคือการปรับปรุงความสามารถในการใช้เหตุผล ในขณะที่ต้องต่อต้านความต้องการที่จะนำคุณลักษณะของมนุษย์ไปสวมทับให้กับเครื่องจักร พฤติกรรมที่เลียนแบบสมองนั้นมีความน่าสนใจทางวิทยาศาสตร์ ส่วนการที่มันจะบ่งบอกถึงความตระหนักรู้หรือไม่นั้นยังคงเป็นคำถามที่ยังไม่มีคำตอบแน่ชัด และเป็นคำถามที่เราไม่ควรตอบอย่างสุ่มสี่สุ่มห้า

การคิดทบทวนวิธีการทดสอบ AI

หาก Claude กำลังใช้เหตุผลมากกว่าการทำนาย วิธีการประเมินผลของเราก็กำลังเริ่มล้าสมัย เกณฑ์มาตรฐาน AI ทั่วไปมักให้รางวัลกับคำตอบที่ถูกต้อง แต่แทบไม่เคยถามว่าโมเดลไปถึงคำตอบนั้นได้อย่างไร ระบบอาจทำคะแนนได้ดีในการทดสอบคณิตศาสตร์หรือการเขียนโค้ดโดยการดึงคำตอบที่จำมา ซึ่งบอกอะไรเราได้น้อยมากเกี่ยวกับความสามารถในการคิดค้นสิ่งใหม่ๆ

เราต้องการกรอบการทำงานที่สามารถตรวจสอบตรรกะภายในได้ นั่นหมายถึงการนำเสนอโจทย์ที่อยู่นอกเหนือจากการกระจายตัวของข้อมูลที่ใช้ฝึกฝน (training distribution) แล้วจึงตรวจสอบลำดับการใช้เหตุผล หมายถึงการทดสอบว่าโมเดลสามารถระบุขั้นตอนที่ผิดพลาดของตนเองได้หรือไม่เมื่อได้รับการแก้ไข และหมายถึงการตรวจสอบว่าแนวคิดเชิงองค์ประกอบยังคงมีความสอดคล้องกันหรือไม่เมื่อมีการจัดเรียงใหม่หรือสลับด้าน

แนวทางนี้ยากกว่าการรันตารางอันดับอัตโนมัติ เพราะต้องใช้ผู้ประเมินที่เป็นมนุษย์ซึ่งเข้าใจเนื้อหาอย่างลึกซึ้งพอที่จะตัดสินคุณภาพของการใช้เหตุผล ไม่ใช่แค่ความถูกต้องของผลลัพธ์ แต่ถ้า j-space reasoning เป็นเรื่องจริง ชุมชน AI ก็แทบไม่มีทางเลือก เราต้องเริ่มให้คะแนนที่กระบวนการทำงาน ไม่ใช่แค่คำตอบสุดท้าย

สรุปสาระสำคัญ: การที่ Claude ดูเหมือนจะมุ่งไปสู่การสร้างโมเดลภายในไม่ได้ทำให้มันกลายเป็นมนุษย์ แต่มันทำให้ระบบมีประโยชน์มากขึ้น ตรวจสอบได้มากขึ้น และประเมินอย่างตรงไปตรงมาได้ยากขึ้น เรากำลังก้าวข้ามจุดเปลี่ยนที่คำว่า "ถูกต้อง" นั้นไม่เพียงพออีกต่อไป ระยะต่อไปของการพัฒนา AI จะเป็นของระบบที่สามารถแสดงกระบวนการทำงาน ยอมรับข้อจำกัดของตนเอง และใช้เหตุผลผ่านปัญหาที่ไม่คุ้นเคยได้ ส่วนการที่สิ่งนี้จะถือเป็นการคิดในเชิงปรัชญาหรือไม่นั้น เป็นเรื่องที่ต้องถกเถียงกันต่อไปอีกทศวรรษ สำหรับตอนนี้ งานในทางปฏิบัติคือการสร้างเครื่องมือและมาตรฐานที่สอดคล้องกับความซับซ้อนของสิ่งที่โมเดลเหล่านี้กำลังทำอยู่จริงๆ

ที่มา: Claude ของ Anthropic เลียนแบบกระบวนการทำงานของสมองมนุษย์

ชุมชนการเรียนรู้เพิ่มเติม: GyaanSetu AI on Telegram