Yann LeCun เตือนถึงภาวะฟองสบู่ที่กำลังจะเกิดขึ้นสำหรับ OpenAI และ Anthropic

Yann LeCun หัวหน้านักวิทยาศาสตร์ของ Meta AI ได้ออกมาเตือนอย่างรุนแรงเกี่ยวกับความยั่งยืนทางเศรษฐกิจของภูมิทัศน์ Generative AI ในปัจจุบัน ในการพูดคุยกับ CNBC เมื่อเร็วๆ นี้ LeCun ชี้ให้เห็นว่าห้องปฏิบัติการชั้นนำอย่าง OpenAI และ Anthropic กำลังมุ่งหน้าไปสู่ "การระเบิดของฟองสบู่ครั้งใหญ่" เนื่องจากโครงสร้างต้นทุนที่ไม่ยั่งยืน

ความไม่สอดคล้องกันทางเศรษฐกิจใน Generative AI

หัวใจสำคัญของข้อโต้แย้งของ LeCun อยู่ที่ช่องว่างที่กว้างขึ้นระหว่างต้นทุนที่พุ่งสูงขึ้นในการดำเนินงาน Large Language Models (LLMs) และโมเดลการตั้งราคาที่มีให้แก่ผู้บริโภค ในขณะที่พลังการประมวลผลที่จำเป็นในการฝึกฝนและรันโมเดลระดับแนวหน้า (frontier models) ยังคงขยายตัวแบบทวีคูณ แต่ต้นทุนการดำเนินงานกลับไม่ได้ลดลงในอัตราที่สอดคล้องกัน

ความขัดแย้งทางเศรษฐกิจนี้กำลังสร้างสถานการณ์ที่บริษัท AI กำลังขาดทุนในทุกๆ การสอบถาม (query) โดยมีเงินทุนมหาศาลจากนักลงทุนทำหน้าที่เป็นเงินอุดหนุนสำหรับการใช้งานในโลกแห่งความเป็นจริง ความรู้สึกนี้ได้รับการยืนยันจาก Sam Altman ซีอีโอของ OpenAI ซึ่งเมื่อเร็วๆ นี้ระบุว่าต้นทุน AI ที่สูงสำหรับธุรกิจเป็น "ปัญหาใหญ่" หากไม่มีการเปลี่ยนแปลงที่สำคัญ ไม่ว่าจะเป็นการลดต้นทุนอย่างรุนแรงหรือการเพิ่มราคาค่าบริการ โมเดลธุรกิจปัจจุบันสำหรับผู้ให้บริการ LLM ก็ยังคงมีความไม่แน่นอนสูง

การวิพากษ์วิจารณ์ xAI และสงครามแย่งชิงบุคลากร

LeCun ไม่ได้จำกัดการวิพากษ์วิจารณ์ไว้เพียงแค่ยักษ์ใหญ่ในอุตสาหกรรมเท่านั้น แต่ยังพุ่งเป้าไปที่ xAI ของ Elon Musk ด้วย โดยเขาอธิบายว่าสตาร์ทอัพแห่งนี้เป็น "ความล้มเหลวในรูปแบบหนึ่ง" LeCun ชี้ให้เห็นถึงความไม่มั่นคงภายใน โดยระบุเฉพาะเจาะจงว่าทีมผู้ก่อตั้งได้ลาออกไปแล้ว และ Musk กำลังเผชิญกับความยากลำบากที่เพิ่มขึ้นในการสรรหาบุคลากรด้านวิศวกรรมระดับแนวหน้า

LeCun แสดงความสงสัยว่า xAI จะสามารถแข่งขันได้อย่างมีประสิทธิภาพกับความเร็วในการวิจัยและขนาดที่เห็นใน OpenAI หรือ Anthropic หรือไม่ การวิพากษ์วิจารณ์นี้เน้นย้ำถึงความตึงเครียดที่เพิ่มขึ้นในอุตสาหกรรม: ในขณะที่มีเงินทุนเหลือเฟือ แต่การกระจุกตัวของบุคลากรระดับหัวกะทิและความเชี่ยวชาญเฉพาะทางกำลังกลายเป็นคอขวดหลักสำหรับการพัฒนาโมเดลระดับแนวหน้า

World Models เทียบกับ Large Language Models

คำเตือนนี้เกิดขึ้นในช่วงเวลาสำคัญสำหรับปรัชญาทางเทคนิคของ LeCun เอง แทนที่จะทุ่มเทให้กับสถาปัตยกรรม LLM ที่ใช้ transformer ซึ่งครองตลาดอยู่ในปัจจุบัน LeCun กำลังสนับสนุนการพัฒนา "world models" ซึ่งเป็นระบบที่ออกแบบมาเพื่อสร้างความเข้าใจพื้นฐานเกี่ยวกับความเป็นจริงทางกายภาพและเหตุและผล มากกว่าแค่การทำนาย token ถัดไปในลำดับข้อมูล

ธุรกิจของเขา AMI Labs เพิ่งระดมทุนได้ 1 พันล้านดอลลาร์เพื่อมุ่งไปในทิศทางเฉพาะนี้ สิ่งนี้แสดงถึงความแตกต่างทางกลยุทธ์ในภูมิทัศน์ของ AI: ในขณะที่ "กลุ่ม LLM" กำลังต่อสู้เพื่อการขยายขนาดและประสิทธิภาพในการประมวลผล แต่ "กลุ่ม world model" กลับพยายามแก้ปัญหาด้านการใช้เหตุผลและการมีตัวตนในโลกกายภาพ (embodiment) ซึ่งเป็นสิ่งที่โมเดลเชิงสร้างสรรค์ (generative models) ในปัจจุบันยังคงประสบปัญหาในการทำความเข้าใจอย่างถ่องแท้ หากฟองสบู่ของ LLM แตกออก มันอาจกระตุ้นให้เกิดการจัดสรรเงินทุนมหาศาลไปยังแนวทางที่มีความหลากหลายทางสถาปัตยกรรมมากขึ้นเหล่านี้

ประเด็นสำคัญ

• ความเปราะบางทางเศรษฐกิจ: ปัจจุบันห้องปฏิบัติการ AI ชั้นนำกำลังพึ่งพาเงินอุดหนุนจากนักลงทุนเพื่อชดเชยส่วนต่างระหว่างต้นทุนการดำเนินงานที่สูงกับราคาที่ตลาดสามารถยอมรับได้
• ความแตกต่างทางกลยุทธ์: กำลังเกิดรอยแยกทางเทคนิคที่เพิ่มขึ้นระหว่างการขยายขนาดของ LLM กับการไล่ตาม "world models" ที่มุ่งเน้นความเข้าใจทางกายภาพที่แท้จริง
• คอขวดด้านบุคลากร: ความสามารถในการสรรหาและรักษาเหล่านักวิจัยระดับแนวหน้ากำลังกลายเป็นปัจจัยสำคัญต่อความอยู่รอดของบริษัท พอๆ กับการเข้าถึงคลัสเตอร์การประมวลผล (compute clusters) ขนาดใหญ่