Pramaana Labs ने फॉर्मल वेरिफिकेशन के साथ AI विश्वसनीयता की समस्या को हल करने के लिए $27M जुटाए

जैसे-जैसे उद्यम (enterprises) AI को प्रायोगिक पायलट कार्यक्रमों से मिशन-क्रिटिकल व्यावसायिक कार्यों में बदलने के लिए संघर्ष कर रहे हैं, उद्योग के सामने एक बड़ी बाधा है: विश्वसनीयता। Pramaana Labs का लक्ष्य लार्ज लैंग्वेज मॉडल्स (LLMs) की अप्रत्याशित प्रकृति पर फॉर्मल वेरिफिकेशन (formal verification) की गणितीय कठोरता लागू करके इस अंतर को पाटना है।

प्रोबेबिलिस्टिक और डिटरमिनिस्टिक AI के बीच के अंतर को पाटना

आधुनिक AI में मौलिक तनाव प्रोबेबिलिस्टिक रीजनिंग (probabilistic reasoning) और डिटरमिनिस्टिक सत्य (deterministic truth) के बीच के अंतर में निहित है। हालाँकि LLMs प्राकृतिक भाषा को प्रोसेस करने और जटिल, असंरचित डेटा को संभालने में उत्कृष्ट हैं, लेकिन वे हैलुसिनेशन (hallucinations) और लॉजिक संबंधी त्रुटियों के प्रति संवेदनशील होते हैं। उन उद्योगों के लिए जहाँ एक भी गलती कानूनी या वित्तीय आपदा का कारण बन सकती है, ये त्रुटियाँ अस्वीकार्य हैं।

Pramaana Labs एक हाइब्रिड आर्किटेक्चर बनाकर इस समस्या का समाधान कर रहा है। उनका सिस्टम प्राकृतिक भाषा के इंटरैक्शन के लिए आवश्यक लचीलेपन को बनाए रखने के लिए एक पारंपरिक LLM इंजन का उपयोग करता है, लेकिन इसके ऊपर एक डिटरमिनिस्टिक वेरिफिकेशन लेयर (deterministic verification layer) लगाई गई है। यह लेयर सुनिश्चित करती है कि LLM द्वारा उत्पन्न आउटपुट सख्त, कोडिफाइड नियमों का पालन करे, जो प्रभावी रूप से त्रुटियों के खिलाफ एक गणितीय गार्डरेल (guardrail) के रूप में कार्य करता है।

हाई-स्टेक्स इंडस्ट्री एप्लिकेशन के लिए LEAN का लाभ उठाना

मानक सॉफ्टवेयर टेस्टिंग के विपरीत, Pramaana Labs फॉर्मल वेरिफिकेशन के उपकरणों का उपयोग कर रहा है, विशेष रूप से ओपन-सोर्स LEAN प्रोग्रामिंग भाषा से प्रेरणा ले रहा है। LEAN का उपयोग पारंपरिक रूप से जटिल गणितीय प्रमाणों को सत्यापित करने के लिए किया जाता है, और Pramaana इस तकनीक को विशिष्ट पेशेवर डोमेन के "नियमों" को कोडिफाई करने के लिए अनुकूलित करने की योजना बना रहा है।

कंपनी उन उच्च-संवेदनशीलता वाले वर्टिकल्स (verticals) को लक्षित कर रही है जहाँ सटीकता से समझौता नहीं किया जा सकता:

यह सुनिश्चित करने के लिए कि ये सिस्टम वास्तविकता पर आधारित हों, Pramaana विशिष्ट डोमेन विशेषज्ञों के साथ सहयोग कर रहा है। इसमें टैक्स संबंधी अनुप्रयोगों के लिए पूर्व IRS कमिश्नर डैनी वर्फेल (Danny Werfel), साथ ही साइबर सुरक्षा और ड्रग डिस्कवरी प्रोटोकॉल की देखरेख के लिए IIT दिल्ली, IIT मद्रास और UC बर्कले के प्रोफेसर शामिल हैं।

AI इकोसिस्टम के लिए यह क्यों महत्वपूर्ण है

$27 मिलियन का सीड राउंड—जिसका नेतृत्व Khosla Ventures ने किया और जिसमें Accel, Boldcap, Nexus Venture Partners, Premji Invest, और Unbound की भागीदारी रही—AI निवेश में एक बड़े बदलाव का संकेत देता है। जनरेटिव AI का "तेजी से आगे बढ़ें और गलतियाँ करें" (move fast and break things) वाला युग अब एंटरप्राइज जगत की "सत्यापित और मान्य" (verify and validate) करने की आवश्यकताओं के सामने आ रहा है।

अनौपचारिक ज्ञान को निष्पादन योग्य (executable) और सत्यापन योग्य (verifiable) कोड में बदलकर (फ्रांस के CATALA प्रोजेक्ट के समान), Pramaana Labs इस बात का ब्लूप्रिंट प्रदान कर रहा है कि विनियमित क्षेत्रों (regulated sectors) में AI को कैसे तैनात किया जा सकता है। यदि यह सफल होता है, तो यह दृष्टिकोण AI को मानव स्वास्थ्य, कानूनी अधिकारों और विशाल वित्तीय प्रणालियों को सुरक्षित रूप से प्रबंधित करने की अनुमति देकर खरबों डॉलर का मूल्य अनलॉक कर सकता है।

मुख्य बातें