OpenAI के आंतरिक Astra सिस्टम ने घोषणा की है कि उसने दस लंबे समय से चले आ रहे गणितीय समस्याओं के लिए औपचारिक प्रमाण (formal proofs) तैयार किए हैं, और प्रत्येक दावे की पुष्टि Lean 4 में मशीन-चेक्ड सत्यापन (machine-checked verification) के साथ की है। टीम ने एक तकनीकी पेपर और एक ओपन-सोर्स रिपॉजिटरी जारी की है, जिससे कोई भी उस कोड को देख सकता है जिसने कच्चे तर्क (raw reasoning) को एक ऐसे प्रमाण में बदल दिया जिसे कंपाइलर या तो स्वीकार कर सकता है या अस्वीकार कर सकता है। उन डेवलपर्स के लिए जो चाहते हैं कि AI उच्च-जोखिम वाले क्षेत्रों में सहायता करे, यह परिणाम ऐसे वर्कफ़्लो बनाने के लिए एक ठोस टेम्पलेट है जहाँ मॉडल विचार तो उत्पन्न करता है लेकिन यह तय नहीं करता कि क्या सत्य है।
Astra की यह सफलता क्यों महत्वपूर्ण है
लार्ज लैंग्वेज मॉडल्स (LLMs) विश्वसनीय दिखने वाला टेक्स्ट उत्पन्न करते हैं, फिर भी वे अक्सर तथ्यों की कल्पना (hallucinate) करते हैं या ऐसे तार्किक चरणों को जोड़ते हैं जो वास्तव में एक-दूसरे का अनुसरण नहीं करते हैं। कम जोखिम वाले परिवेश में एक मानव समीक्षक अधिकांश गलतियों को पकड़ सकता है, लेकिन वित्त, चिकित्सा या वैज्ञानिक अनुसंधान में, एक अनपेक्षित त्रुटि की लागत विनाशकारी हो सकती है। Astra एक LLM की रचनात्मक शक्ति को बनाए रखते हुए उसके आउटपुट पर आँख मूँदकर भरोसा करने की आवश्यकता को समाप्त करने का एक तरीका दिखाता है।
एक सत्यापित परिणाम तक ले जाने वाला मार्ग
OpenAI के इंजीनियरों ने Astra को तीन-चरणीय पाइपलाइन के इर्द-गिर्द बनाया है:
- Generation (उत्पत्ति) – मॉडल पुनरावृत्ति तर्क लूप (iterative reasoning loops) चलाता है, और संभावित प्रमाण चरणों का प्रस्ताव देता है।
- Exposition (व्याख्या) – मनुष्य और मॉडल उन चरणों को एक पठनीय विवरण (narrative) में ढालने के लिए सहयोग करते हैं।
- Formalization (औपचारिकीकरण) – उस विवरण को Lean 4 कोड में अनुवादित किया जाता है, जिसे एक कंपाइलर लाइन-दर-लाइन जाँचता है।
मुख्य कदम Lean 4 को कार्य सौंपना है। एक साधारण टेक्स्ट विवरण के विपरीत, Lean 4 प्रत्येक निष्कर्ष (inference) को एक सख्त लॉजिकल कर्नेल के अनुसार उचित ठहराने के लिए मजबूर करता है। यदि कंपाइलर किसी विसंगति (mismatch) को चिह्नित करता है, तो पाइपलाइन उस त्रुटि को सुधार के लिए वापस मॉडल को भेज देती है। अंतिम निर्णय LLM नहीं, बल्कि सत्यापनकर्ता (verifier) देता है।
डेवलपर्स और संगठनों के लिए जोखिम और महत्व
- Reliability (विश्वसनीयता) – जब किसी AI-जनरेटेड आर्टिफैक्ट को नियामक या सुरक्षा मानकों को पूरा करना होता है, तो एक औपचारिक सत्यापनकर्ता (formal verifier) एक ऑडिट ट्रेल प्रदान करता है जिसे केवल मूल डेवलपर ही नहीं, बल्कि ऑडिटर्स भी निरीक्षण कर सकते हैं।
यह दृष्टिकोण अतिरिक्त कार्यभार (overhead) बढ़ाता है। सत्यापनकर्ता द्वारा समझे जा सकने वाले विनिर्देश (specifications) लिखना, एक औपचारिक प्रमाण वातावरण बनाए रखना और इंजीनियरों को सत्यापन विफलताओं की व्याख्या करने के लिए प्रशिक्षित करना, इन सभी में निवेश की आवश्यकता होती है। हर क्षेत्र में अंतिम निर्णायक के रूप में कार्य करने के लिए एक परिपक्व थ्योरम प्रूवर (theorem prover) या टाइप सिस्टम उपलब्ध नहीं है।
वे विवरण जिन्हें अधिकांश लेख छोड़ देते हैं
- मशीन-पठनीय आउटपुट आवश्यक है। Astra ने मॉडल से कभी भी मुक्त-रूप गद्य (free-form prose) नहीं माँगा; इसने स्पष्ट रूप से कोड स्निपेट्स और स्कीमा परिभाषाओं का अनुरोध किया जिन्हें Lean 4 कंपाइलर ग्रहण (ingest) कर सके।
- फीडबैक लूप अंतर को कम करते हैं। जब कंपाइलर किसी टाइप एरर या अप्रमाणित लेम्मा (unproven lemma) की रिपोर्ट करता है, तो उस डायग्नोस्टिक को वापस जनरेशन लूप में भेज दिया जाता है, जिससे मॉडल स्वचालित रूप से अपने अनुमान (conjecture) को संशोधित कर पाता है।
- Human-in-the-loop रणनीतिक बना रहता है।
अपना स्वयं का सत्यापन योग्य AI वर्कफ़्लो बनाना
- जनरेशन को वैलिडेशन से अलग करें। LLM को एक नियतात्मक टूल (deterministic tool)—जैसे कंपाइलर, स्टैटिक एनालाइज़र, या यूनिट-टेस्ट हार्नेस—के साथ जोड़ें जो स्वतंत्र रूप से प्रत्येक दावे की पुष्टि कर सके।
- स्ट्रक्चर्ड आर्टिफैक्ट्स मांगें। "एल्गोरिदम समझाएं" कहने के बजाय, एक कोड फ़ाइल, JSON स्कीमा, या प्रूफ स्क्रिप्ट का अनुरोध करें जिसे मशीन पार्स (parse) कर सके।
- मॉडल में एरर फीडबैक लूप करें। सत्यापनकर्ता के एरर मैसेज को कैप्चर करें और उन्हें प्रॉम्प्ट के रूप में वापस भेजें, जिससे मॉडल मानवीय हस्तक्षेप के बिना सुधार करने का प्रयास कर सके।
- शुरुआत में ही सटीक विनिर्देश (specifications) परिभाषित करें। सत्यापनकर्ता केवल उन्हीं नियमों के विरुद्ध जाँच कर सकता है जो आप उसे देते हैं; यदि विनिर्देश अस्पष्ट या गलत है, तो प्रमाण अर्थहीन होगा।
प्रति-तर्क और सीमाएँ
आगे क्या देखें
निष्कर्ष
LLM को एक विचार-मंथन भागीदार (brainstorming partner) के रूप में मानें, न्यायाधीश के रूप में नहीं। एक नियतात्मक सत्यापनकर्ता (deterministic verifier)—चाहे वह कंपाइलर हो, लिंटर हो, या औपचारिक प्रमाण इंजन हो—को अंतिम निर्णय लेने दें। जब इन दोनों को सफाई से जोड़ा जाता है, तो आपको बिना अनियंत्रित मतिभ्रम (hallucinations) के छिपे जोखिम के, जनरेटिव AI की गति प्राप्त होती है।