OpenAI เปิดตัว Jalapeño ชิปอินเฟอเรนซ์ (inference chip) ของตัวเอง โดยระบุว่าให้ประสิทธิภาพ throughput ต่อกิโลวัตต์สูงกว่าตัวเร่งความเร็ว GB200 และ GB300 ของ Nvidia ถึง 1.9 × ทีมงานสามารถเปลี่ยนแนวคิดให้กลายเป็นชิปซิลิคอน (silicon die) ที่ใช้งานได้จริงภายในเวลาเพียง 9 เดือน ซึ่งเร็วกว่าวงจรการพัฒนาโปรเซสเซอร์ AI แบบกำหนดเองทั่วไปที่มักใช้เวลา 2-3 ปี

ทำไมการเร่งพัฒนาอย่างรวดเร็วถึงสำคัญ

ปัจจุบัน OpenAI รันโมเดลบนฮาร์ดแวร์จาก Cerebras, AWS Trainium, AMD และรายอื่นๆ แทนที่จะพึ่งพาเพียง GPU ของ Nvidia เท่านั้น เมื่อภาระงาน AI เปลี่ยนจากเน้นการฝึกฝน (training-heavy) ไปสู่การประมวลผล (inference-heavy) มากขึ้น การใช้พลังงานและต้นทุนต่อการสอบถาม (cost per query) จึงกลายเป็นปัจจัยตัดสิน ชิปที่สามารถลดพลังงานที่จำเป็นสำหรับโมเดลระดับล้านล้านพารามิเตอร์ลงได้ครึ่งหนึ่ง อาจช่วยลดค่าใช้จ่ายในการดำเนินงานสำหรับบริการที่ต้องรองรับคำขอหลายพันล้านครั้งต่อวัน

AI เขียนชิปนี้ได้อย่างไร

Jalapeño คือ ASIC ซึ่งเป็นชิปที่สร้างขึ้นเพื่อวัตถุประสงค์เดียว นั่นคือการรันโมเดลภาษาขนาดใหญ่ (LLM) ต่างจาก GPU อเนกประสงค์ ASIC จะตัดตรรกะที่ไม่จำเป็นออกและปรับแต่งเส้นทางการรับส่งข้อมูล (data paths) ให้เข้ากับรูปแบบการทำ inference ของ LLM วิศวกรของ OpenAI เขียนการออกแบบด้วย XLS ซึ่งเป็นภาษาสำหรับอธิบายฮาร์ดแวร์ (hardware description language) ที่ช่วยให้โมเดลการเรียนรู้ของเครื่อง (machine-learning models) สามารถสร้างโค้ดได้ บริษัทระบุว่าตรรกะที่สร้างโดย AI คิดเป็นสัดส่วนมากกว่าครึ่งหนึ่งของแกนหลักของชิป ซึ่งช่วยย่นระยะเวลาในกระบวนการออกแบบจากหลายปีเหลือเพียงไม่กี่เดือน

คำกล่าวอ้างด้านประสิทธิภาพเทียบกับความเป็นจริง

OpenAI ระบุตัวเลขสำคัญ 3 รายการสำหรับ Jalapeño:

  • Throughput ต่อกิโลวัตต์: สูงกว่า GB200/GB300 ของ Nvidia 1.5 – 1.9 ×
  • Latency (ความหน่วง): ต่ำกว่าโมเดล Nvidia รุ่นเดียวกัน 1.7 – 3.6 ×
  • การใช้พลังงานบนโมเดลขนาด 1 ล้านล้านพารามิเตอร์: 700 W เทียบกับ 1,400 W บน GB300

หากตัวเลขเหล่านี้เป็นจริง ศูนย์ข้อมูลจะสามารถรันโมเดลเดียวกันได้โดยมีต้นทุนค่าไฟฟ้าเพียงครึ่งเดียวในขณะที่ตอบสนองได้เร็วขึ้น คำกล่าวอ้างเหล่านี้มุ่งเน้นไปที่การทำ inference โดย OpenAI ไม่ได้กล่าวถึงประสิทธิภาพด้านการฝึกฝน (training) ซึ่งสอดคล้องกับความสำคัญที่บริษัทให้ในปัจจุบันคือการให้บริการแอปพลิเคชันประเภทแชท

สิ่งนี้หมายถึงอะไรสำหรับ Nvidia

ชิป Blackwell และ Vera Rubin ที่กำลังจะมาถึงของ Nvidia มุ่งเป้าไปที่ตลาดตัวเร่งความเร็ว (accelerator) ระดับไฮเอนด์ ข้อได้เปรียบของ Nvidia อยู่ที่ซอฟต์แวร์สแต็ก (software stack) ที่สมบูรณ์ การยอมรับอย่างกว้างขวางจากนักพัฒนา และความยืดหยุ่นในการทำงาน AI หลากหลายรูปแบบ ในทางตรงกันข้าม Jalapeño เป็นอุปกรณ์ที่ออกแบบมาเพื่อวัตถุประสงค์เฉพาะทาง ซึ่งจะชนะก็ต่อเมื่อภาระงานตรงกับความเชี่ยวชาญของมันเท่านั้น

แรงกดดันต่อ Nvidia มีอยู่สองด้าน ด้านแรกคือ ลูกค้าที่สามารถจ่ายเงินเพื่อซื้อ ASIC แบบกำหนดเองได้อาจเปลี่ยนมาใช้เพื่อประหยัดค่าใช้จ่ายตามที่สัญญาไว้ ซึ่งจะค่อยๆ แย่งส่วนแบ่งการตลาดด้าน inference ของ Nvidia ไป ด้านที่สองคือ การพิสูจน์ว่า AI สามารถช่วยออกแบบฮาร์ดแวร์ได้ อาจช่วยบีบวงจรการพัฒนาของคู่แข่งให้สั้นลง ซึ่งจะบีบให้ Nvidia ต้องเร่งแผนงาน (roadmap) ของตนเองให้เร็วขึ้น

ข้อโต้แย้งและคำถามที่ยังไม่มีคำตอบ

  • ระบบนิเวศซอฟต์แวร์ (Software ecosystem): ไลบรารี CUDA, เครื่องมือวิเคราะห์ประสิทธิภาพ (profiling tools) และการสนับสนุนจากชุมชนของ Nvidia ยังคงให้ความได้เปรียบอย่างชัดเจนสำหรับนักพัฒนาส่วนใหญ่ การรวม Jalapeño เข้ามาใช้งานจะต้องใช้ชุดเครื่องมือ (toolchains) ใหม่ และอาจต้องมีการเขียนโค้ดใหม่
  • การพิสูจน์ในโลกแห่งความเป็นจริง: ตัวเลขเหล่านี้มาจากการทดสอบภายในของ OpenAI ยังไม่มีการตรวจสอบจากผลทดสอบที่เป็นอิสระ (independent benchmarks) ข้อมูลความน่าเชื่อถือในระยะยาว และพฤติกรรมการขยายตัว (scaling behavior) ภายใต้ภาระงานแบบผู้ใช้งานร่วมกัน (mixed-tenant loads)
  • ความได้เปรียบทางเศรษฐศาสตร์ (Economics of scale): ความได้เปรียบด้านต้นทุนของ ASIC จะเพิ่มขึ้นตามปริมาณการผลิต การใช้งานภายในของ OpenAI อาจคุ้มค่ากับการลงทุน แต่ลูกค้าภายนอกอาจต้องเผชิญกับราคาต่อชิปที่สูงขึ้น เว้นแต่จะมีการขยายขนาดการผลิต

มองไปข้างหน้า

สำหรับตอนนี้ Jalapeño พิสูจน์ให้เห็นว่าการเร่งพัฒนาภายใน 9 เดือนสามารถสร้างชิปที่—หากดูตามข้อมูลทางทฤษฎี—มีประสิทธิภาพเหนือกว่า GPU เจ้าตลาดเดิมในส่วนที่อ่อนไหวต่อต้นทุนมากที่สุดของ AI stack บททดสอบที่แท้จริงคือความได้เปรียบนั้นจะสามารถทนทานต่อภาระงานจริงที่หนักหน่วงได้หรือไม่