Pramaana Labs ระดมทุนได้ 27 ล้านดอลลาร์ เพื่อแก้ปัญหาความน่าเชื่อถือของ AI ด้วยการตรวจสอบแบบเป็นทางการ (Formal Verification)

ในขณะที่องค์กรต่างๆ กำลังดิ้นรนเพื่อเปลี่ยนผ่าน AI จากโครงการนำร่องเชิงทดลองไปสู่การดำเนินธุรกิจที่มีความสำคัญระดับวิกฤต อุตสาหกรรมนี้กำลังเผชิญกับอุปสรรคครั้งใหญ่ นั่นคือความน่าเชื่อถือ Pramaana Labs ตั้งเป้าที่จะปิดช่องว่างนี้โดยการนำความเข้มงวดทางคณิตศาสตร์ของการตรวจสอบแบบเป็นทางการ (formal verification) มาประยุกต์ใช้กับธรรมชาติที่คาดเดาไม่ได้ของโมเดลภาษาขนาดใหญ่ (LLMs)

การปิดช่องว่างระหว่าง AI แบบความน่าจะเป็น (Probabilistic) และแบบกำหนดผลลัพธ์ที่แน่นอน (Deterministic)

ความขัดแย้งพื้นฐานใน AI สมัยใหม่อยู่ที่ความแตกต่างระหว่างการใช้เหตุผลแบบความน่าจะเป็น (probabilistic reasoning) และความจริงแบบกำหนดผลลัพธ์ที่แน่นอน (deterministic truth) แม้ว่า LLMs จะมีความเชี่ยวชาญในการประมวลผลภาษาธรรมชาติและจัดการกับข้อมูลที่ไม่มีโครงสร้างและซับซ้อน แต่พวกมันก็มีแนวโน้มที่จะเกิดอาการ "หลอน" (hallucinations) และข้อผิดพลาดทางตรรกะ สำหรับอุตสาหกรรมที่ความผิดพลาดเพียงครั้งเดียวอาจนำไปสู่หายนะทางกฎหมายหรือทางการเงิน ข้อผิดพลาดเหล่านี้ถือเป็นเรื่องที่ยอมรับไม่ได้

Pramaana Labs กำลังแก้ไขปัญหานี้ด้วยการสร้างสถาปัตยกรรมแบบไฮบริด ระบบของพวกเขาใช้เอนจิน LLM แบบดั้งเดิมเพื่อรักษาความยืดหยุ่นที่จำเป็นสำหรับการโต้ตอบด้วยภาษาธรรมชาติ แต่จะมีการวางเลเยอร์การตรวจสอบแบบกำหนดผลลัพธ์ที่แน่นอน (deterministic verification layer) ทับซ้อนลงไป เลเยอร์นี้จะช่วยให้มั่นใจได้ว่าผลลัพธ์ที่สร้างโดย LLM เป็นไปตามกฎเกณฑ์ที่ถูกกำหนดไว้เป็นรหัสอย่างเคร่งครัด ซึ่งทำหน้าที่เป็นเสมือนราวกั้นทางคณิตศาสตร์ (mathematical guardrail) เพื่อป้องกันข้อผิดพลาด

การใช้ประโยชน์จาก LEAN สำหรับการประยุกต์ใช้ในอุตสาหกรรมที่มีความเสี่ยงสูง

ต่างจากการทดสอบซอฟต์แวร์มาตรฐานทั่วไป Pramaana Labs กำลังใช้เครื่องมือของการตรวจสอบแบบเป็นทางการ โดยได้รับแรงบันดาลใจโดยเฉพาะจากภาษาโปรแกรมโอเพนซอร์ส LEAN โดยปกติแล้ว LEAN จะถูกใช้เพื่อตรวจสอบการพิสูจน์ทางคณิตศาสตร์ที่ซับซ้อน และ Pramaana วางแผนที่จะปรับใช้เทคโนโลยีนี้เพื่อกำหนด "กฎ" ของโดเมนวิชาชีพเฉพาะทางให้เป็นรหัส

บริษัทกำลังมุ่งเป้าไปที่กลุ่มอุตสาหกรรมที่มีความอ่อนไหวสูงซึ่งความแม่นยำเป็นเรื่องที่ต่อรองไม่ได้:

เพื่อให้มั่นใจว่าระบบเหล่านี้ตั้งอยู่บนพื้นฐานของความเป็นจริง Pramaana กำลังร่วมมือกับผู้เชี่ยวชาญระดับแนวหน้าในสาขาต่างๆ ซึ่งรวมถึงอดีตอธิบดีกรมสรรพากร (IRS) Danny Werfel สำหรับการประยุกต์ใช้ที่เกี่ยวข้องกับภาษี ตลอดจนศาสตราจารย์จาก IIT Delhi, IIT Madras และ UC Berkeley เพื่อดูแลโปรโตคอลด้านความปลอดภัยทางไซเบอร์และการค้นพบยา

ทำไมเรื่องนี้จึงสำคัญต่อระบบนิเวศของ AI

The $27 million seed round—led by Khosla Ventures with participation from Accel, Boldcap, Nexus Venture Partners, Premji Invest, and Unbound—signals a massive shift in AI investment. The "move fast and break things" era of generative AI is meeting the "verify and validate" requirements of the enterprise world.

By turning unformalized knowledge into executable, verifiable code (similar to France’s CATALA project), Pramaana Labs is providing a blueprint for how AI can be deployed in regulated sectors. If successful, this approach could unlock trillions of dollars in value by allowing AI to safely manage human health, legal rights, and massive financial systems.

Key Takeaways