OpenAI च्या अंतर्गत Astra प्रणालीने जाहीर केले आहे की त्यांनी दहा दीर्घकाळापासून प्रलंबित असलेल्या गणिती समस्यांसाठी औपचारिक पुरावे (formal proofs) तयार केले आहेत, आणि प्रत्येक दाव्याला Lean 4 मधील मशीन-द्वारे तपासलेल्या पडताळणीद्वारे (machine-checked verification) पुष्टी दिली आहे. टीमने एक तांत्रिक पेपर आणि एक ओपन-सोर्स रिपॉझिटरी प्रसिद्ध केली आहे, ज्यामुळे कोणालाही तो कोड पाहता येईल ज्याने कच्च्या तर्काला (raw reasoning) अशा पुराव्यात रूपांतरित केले आहे जो कंपायलर स्वीकारू शकतो किंवा नाकारू शकतो. ज्या डेव्हलपर्सना उच्च-जोखीम असलेल्या क्षेत्रांमध्ये AI ची मदत हवी आहे, त्यांच्यासाठी हे एक ठोस टेम्पलेट आहे, जिथे मॉडेल कल्पना निर्माण करते परंतु काय सत्य आहे याचा निर्णय कधीही घेत नाही.
Astra च्या या प्रगतीचे महत्त्व काय आहे
Large language models (LLMs) विश्वासार्ह वाटणारा मजकूर तयार करतात, तरीही ते वारंवार तथ्ये चुकीची सांगतात (hallucinate करतात) किंवा अशा तार्किक पायऱ्या एकत्र जोडतात ज्या प्रत्यक्षात एकमेकांशी संबंधित नसतात. कमी जोखमीच्या परिस्थितीत मानवी पुनरावलोकनकर्ता बहुतेक चुका शोधू शकतो, परंतु वित्त (finance), वैद्यकीय (medicine) किंवा वैज्ञानिक संशोधनामध्ये, न शोधलेली चूक विनाशकारी ठरू शकते. Astra हे LLM ची सर्जनशील शक्ती कायम ठेवून त्याच्या आउटपुटवर आंधळेपणाने विश्वास ठेवण्याची गरज काढून टाकण्याचा मार्ग दाखवते.
पडताळणी केलेल्या निकालापर्यंत पोहोचण्याचा मार्ग
OpenAI च्या इंजिनिअर्सनी Astra तीन-टप्प्यांच्या पाइपलाइनभोवती तयार केले आहे:
- Generation (निर्मिती) – मॉडेल पुनरावृत्ती होणाऱ्या तर्काच्या लूप्सचा (reasoning loops) वापर करते आणि संभाव्य पुराव्याच्या पायऱ्या सुचवते.
- Exposition (मांडणी) – मानवी आणि मॉडेल त्या पायऱ्या वाचनीय कथनात (narrative) रूपांतरित करण्यासाठी सहकार्य करतात.
- Formalization (औपचारिकीकरण) – त्या कथनाचे Lean 4 कोडमध्ये भाषांतर केले जाते, ज्याची कंपायलर ओळानुसार तपासणी करते.
मुख्य बदल म्हणजे Lean 4 कडे सोपवणे. साध्या मजकूर स्पष्टीकरणाच्या उलट, Lean 4 प्रत्येक निष्कर्ष एका कडक तार्किक कर्नलनुसार (logical kernel) न्यायोचित ठरवण्यास भाग पाडते. जर कंपायलरने विसंगती दर्शवली, तर पाइपलाइन ती त्रुटी सुधारण्यासाठी मॉडेलकडे परत पाठवते. LLM नाही, तर पडताळणी करणारा (verifier) अंतिम निर्णय देतो.
डेव्हलपर्स आणि संस्थांसाठीचे महत्त्व
- Reliability (विश्वसनीयता) – जेव्हा AI-निर्मित घटक (artifact) नियामक किंवा सुरक्षा मानकांचे पालन करणे आवश्यक असते, तेव्हा एक औपचारिक पडताळणी करणारा (formal verifier) ऑडिट ट्रेल प्रदान करतो ज्याची तपासणी केवळ मूळ डेव्हलपरच नाही तर ऑडिटर्स देखील करू शकतात.
हा दृष्टिकोन अतिरिक्त कामाचा भार (overhead) वाढवतो. पडताळणी करणारा समजेल अशी तपशीलवार माहिती (specifications) लिहिणे, औपचारिक पुरावा वातावरण राखणे आणि पडताळणीतील त्रुटी समजून घेण्यासाठी इंजिनिअर्सना प्रशिक्षित करणे यासाठी गुंतवणूक आवश्यक आहे. प्रत्येक क्षेत्रात अंतिम निर्णय घेण्यासाठी प्रगल्भ 'theorem prover' किंवा 'type system' उपलब्ध नसते.
ज्या तपशिलांकडे बहुतेक लेख दुर्लक्ष करतात
- मशीन-रीडेबल आउटपुट आवश्यक आहे. Astra ने मॉडेलला मुक्त स्वरूपातील मजकूर (free-form prose) विचारला नाही; त्याऐवजी त्याने स्पष्टपणे कोड स्निपेट्स आणि स्कीमा व्याख्या (schema definitions) मागितल्या ज्या Lean 4 कंपायलरद्वारे स्वीकारल्या जाऊ शकतात.
- फीडबॅक लूप्समधील अंतर कमी होते. जेव्हा कंपायलर 'type error' किंवा न सिद्ध झालेला 'lemma' रिपोर्ट करतो, तेव्हा ती निदानात्मक माहिती (diagnostic) पुन्हा जनरेशन लूपमध्ये पाठवली जाते, ज्यामुळे मॉडेल आपोआप आपला अंदाज सुधारू शकते.
- Human-in-the-loop धोरणात्मक राहतो.
तुमचे स्वतःचे पडताळण्यायोग्य AI वर्कफ्लो तयार करणे
- जनरेशन आणि व्हॅलिडेशन वेगळे करा. LLM ला एका निश्चित (deterministic) साधनासोबत जोडा—जसे की कंपायलर, स्टॅटिक अनालाइझर किंवा युनिट-टेस्ट हार्नेस—जे प्रत्येक दावा स्वतंत्रपणे सिद्ध करू शकेल.
- स्ट्रक्चर्ड आर्टिफॅक्ट्स मागा. "अल्गोरिदम स्पष्ट करा" असे म्हणण्याऐवजी, कोड फाईल, JSON स्कीमा किंवा प्रूफ स्क्रिप्टची मागणी करा जी मशीनद्वारे वाचली जाऊ शकेल.
- मॉडेलमध्ये एरर फीडबॅक लूप करा. पडताळणी करणाऱ्याच्या (verifier) त्रुटी संदेशांना कॅप्चर करा आणि त्यांना प्रॉम्प्ट्स म्हणून पुन्हा फीड करा, ज्यामुळे मॉडेल मानवी हस्तक्षेपाशिवाय सुधारण्याचा प्रयत्न करू शकेल.
- सुरुवातीलाच अचूक तपशील (specifications) निश्चित करा. पडताळणी करणारा केवळ तुम्ही दिलेल्या नियमांनुसारच तपासू शकतो; जर तपशील अस्पष्ट किंवा चुकीचे असतील, तर तो पुरावा अर्थहीन ठरेल.
प्रतिवाद आणि मर्यादा
पुढे काय पाहावे
मुख्य निष्कर्ष
LLM ला केवळ एक 'brainstorming partner' समजा, न्यायाधीश नाही. कंपायलर, लिंटर किंवा औपचारिक पुरावा इंजिनिन (formal proof engine) यांसारख्या निश्चित पडताळणी करणाऱ्याला (deterministic verifier) अंतिम निर्णय घेऊ द्या. जेव्हा हे दोन्ही सुव्यवस्थितपणे जोडले जातात, तेव्हा तुम्हाला अनियंत्रित 'hallucinations' च्या जोखमीशिवाय जनरेटिव्ह AI चा वेग मिळतो.