फॉर्मल व्हेरिफिकेशनद्वारे (Formal Verification) AI विश्वासार्हतेची समस्या सोडवण्यासाठी Pramaana Labs ने $27M उभारले
कंपन्या जेव्हा AI ला प्रायोगिक पायलट प्रोग्राम्समधून अत्यंत महत्त्वाच्या (mission-critical) व्यावसायिक कामकाजात आणण्यासाठी संघर्ष करत आहेत, तेव्हा उद्योगासमोर एक मोठा अडथळा उभा आहे: तो म्हणजे विश्वासार्हता (reliability). Large Language Models (LLMs) च्या अनपेक्षित स्वरूपावर 'फॉर्मल व्हेरिफिकेशन'ची गणितीय अचूकता लागू करून ही दरी भरून काढण्याचे Pramaana Labs चे उद्दिष्ट आहे.
प्रोबॅबिलिस्टिक (Probabilistic) आणि डिटर्मिनिस्टिक (Deterministic) AI मधील दरी कमी करणे
आधुनिक AI मधील मूलभूत तणाव हा प्रोबॅबिलिस्टिक तर्क (probabilistic reasoning) आणि डिटर्मिनिस्टिक सत्य (deterministic truth) यांच्यातील फरकामध्ये आहे. जरी LLMs नैसर्गिक भाषा प्रक्रिया करण्यात आणि जटिल, विस्कळीत डेटा हाताळण्यात उत्कृष्ट असले, तरी त्यांच्यामध्ये 'हॅलुसिनेशन' (hallucinations) आणि तार्किक चुका होण्याची शक्यता असते. ज्या उद्योगांमध्ये एका लहान चुकीमुळे कायदेशीर किंवा आर्थिक आपत्ती येऊ शकते, तिथे अशा चुका स्वीकारार्ह नाहीत.
Pramaana Labs एक हायब्रिड आर्किटेक्चर तयार करून या समस्येवर उपाय शोधत आहे. त्यांचे सिस्टम नैसर्गिक भाषा संवादासाठी आवश्यक असलेली लवचिकता राखण्यासाठी पारंपारिक LLM इंजिनचा वापर करते, परंतु त्यावर एक 'डिटर्मिनिस्टिक व्हेरिफिकेशन लेयर' (deterministic verification layer) जोडले आहे. हा लेयर LLM द्वारे तयार केलेला आउटपुट कडक आणि संहिताबद्ध (codified) नियमांचे पालन करेल याची खात्री देतो, ज्यामुळे तो चुकांविरुद्ध एक गणितीय सुरक्षा कवच (mathematical guardrail) म्हणून कार्य करतो.
उच्च-जोखीम असलेल्या औद्योगिक उपयोगांसाठी LEAN चा वापर
मानक सॉफ्टवेअर टेस्टिंगपेक्षा वेगळे, Pramaana Labs फॉर्मल व्हेरिफिकेशनच्या साधनांचा वापर करत आहे, विशेषतः ओपन-सोर्स LEAN प्रोग्रामिंग लँग्वेजपासून प्रेरणा घेत आहे. LEAN चा वापर पारंपारिकपणे जटिल गणितीय पुरावे तपासण्यासाठी केला जातो आणि Pramaana या तंत्रज्ञानाचा वापर विशिष्ट व्यावसायिक क्षेत्रांचे "नियम" संहिताबद्ध करण्यासाठी करण्याचा विचार करत आहे.
कंपनी अशा उच्च-संवेदनशीलता असलेल्या क्षेत्रांना लक्ष्य करत आहे जिथे अचूकता अनिवार्य आहे:
- कायदा आणि कर तयारी (Law and Tax Preparation): तर्क प्रक्रिया डिटर्मिनिस्टिक राहील याची खात्री करण्यासाठी जटिल कर नियमांच्या (tax codes) संहिताबद्ध आवृत्त्यांचा वापर करणे.
- औषध शोध (Drug Discovery): सुरक्षितता आणि परिणामकारकता सुनिश्चित करण्यासाठी जैविक आणि रासायनिक डेटावर कठोर व्हेरिफिकेशन लागू करणे.
- सायबर सुरक्षा (Cybersecurity): डिजिटल पायाभूत सुविधा सुरक्षित करण्यासाठी औपचारिक गणितीय तपासणी (formal mathematical checks) लागू करणे.
ही प्रणाली वास्तववादी आहे याची खात्री करण्यासाठी, Pramaana प्रख्यात क्षेत्रातील तज्ज्ञांशी सहकार्य करत आहे. यामध्ये कर-संबंधित उपयोगांसाठी माजी IRS कमिशनर डॅनी वर्फेल (Danny Werfel), तसेच सायबर सुरक्षा आणि औषध शोध प्रोटोकॉलवर देखरेख ठेवण्यासाठी IIT दिल्ली, IIT मद्रास आणि UC बर्कले येथील प्राध्यापकांचा समावेश आहे.
AI इकोसिस्टमसाठी हे का महत्त्वाचे आहे
The $27 million seed round—led by Khosla Ventures with participation from Accel, Boldcap, Nexus Venture Partners, Premji Invest, and Unbound—signals a massive shift in AI investment. The "move fast and break things" era of generative AI is meeting the "verify and validate" requirements of the enterprise world.
By turning unformalized knowledge into executable, verifiable code (similar to France’s CATALA project), Pramaana Labs is providing a blueprint for how AI can be deployed in regulated sectors. If successful, this approach could unlock trillions of dollars in value by allowing AI to safely manage human health, legal rights, and massive financial systems.
Key Takeaways
- Hybrid Architecture: Pramaana Labs combines the flexibility of LLMs with a deterministic layer powered by LEAN-style formal verification to eliminate hallucinations.
- High-Stakes Focus: The startup is prioritizing industries where errors have severe consequences, including law, tax, drug discovery, and cybersecurity.
- Major Institutional Backing: A $27 million seed round led by Khosla Ventures underscores the growing market demand for verifiable and reliable AI systems.