Pramaana Labs نے فارمل ویریفیکیشن کے ذریعے AI کی بھروسہ مندی کے مسئلے کو حل کرنے کے لیے 27 ملین ڈالر حاصل کر لیے ہیں
جیسے جیسے ادارے AI کو تجرباتی پائلٹ پروگراموں سے مشن کے لیے اہم کاروباری آپریشنز میں منتقل کرنے کے لیے جدوجہد کر رہے ہیں، صنعت کو ایک بڑی رکاوٹ کا سامنا ہے: بھروسہ مندی (reliability)۔ Pramaana Labs کا مقصد Large Language Models (LLMs) کی غیر متوقع نوعیت پر فارمل ویریفیکیشن کی ریاضیاتی سختی کو لاگو کر کے اس خلا کو پُر کرنا ہے۔
پروببیلسٹک اور ڈیٹرمینسٹک AI کے درمیان خلا کو پُر کرنا
جدید AI میں بنیادی تناؤ پروببیلسٹک استدلال اور ڈیٹرمینسٹک حقیقت کے درمیان فرق میں پنہاں ہے۔ اگرچہ LLMs قدرتی زبان کو پروسیس کرنے اور پیچیدہ، غیر منظم ڈیٹا کو سنبھالنے میں مہارت رکھتے ہیں، لیکن وہ ہالوسینیشنز (hallucinations) اور منطقی غلطیوں کا شکار ہو سکتے ہیں۔ ان صنعتوں کے لیے جہاں ایک غلطی قانونی یا مالیاتی تباہی کا باعث بن سکتی ہے، یہ غلطیاں ناقابل قبول ہیں۔
Pramaana Labs ایک ہائبرڈ آرکیٹیکچر بنا کر اس مسئلے کا حل تلاش کر رہا ہے۔ ان کا سسٹم قدرتی زبان کے تعامل کے لیے ضروری لچک برقرار رکھنے کے لیے ایک روایتی LLM انجن کا استعمال کرتا ہے، لیکن اس کے اوپر ایک ڈیٹرمینسٹک ویریفیکیشن لیئر لگائی گئی ہے۔ یہ لیئر اس بات کو یقینی بناتی ہے کہ LLM کے ذریعے تیار کردہ آؤٹ پٹ سخت اور کوڈ شدہ قواعد کی پابندی کرے، جو مؤثر طور پر غلطیوں کے خلاف ایک ریاضیاتی حفاظتی رکاوٹ (guardrail) کے طور پر کام کرتی ہے۔
انتہائی حساس صنعتی اطلاقات کے لیے LEAN کا استعمال
معیاری سافٹ ویئر ٹیسٹنگ کے برعکس، Pramaana Labs فارمل ویریفیکیشن کے ٹولز کا استعمال کر رہا ہے، خاص طور پر اوپن سورس LEAN پروگرامنگ زبان سے تحریک حاصل کر رہا ہے۔ LEAN روایتی طور پر پیچیدہ ریاضیاتی ثبوتوں کی تصدیق کے لیے استعمال ہوتا ہے، اور Pramaana کا منصوبہ اس ٹیکنالوجی کو مخصوص پیشہ ورانہ شعبوں کے "قواعد" کو کوڈ کرنے کے لیے ڈھالنے کا ہے۔
کمپنی ان انتہائی حساس شعبوں کو نشانہ بنا رہی ہے جہاں درستگی پر کوئی سمجھوتہ نہیں کیا جا سکتا:
- قانون اور ٹیکس کی تیاری: پیچیدہ ٹیکس کوڈز کے کوڈ شدہ ورژن کا استعمال تاکہ اس بات کو یقینی بنایا جا سکے کہ استدلال ڈیٹرمینسٹک رہے۔
- ادویات کی دریافت (Drug Discovery): حفاظت اور تاثیر کو یقینی بنانے کے لیے حیاتیاتی اور کیمیائی ڈیٹا پر سخت ویریفیکیشن کا اطلاق کرنا۔
- سائبر سیکیورٹی: ڈیجیٹل انفراسٹرکچر کو محفوظ بنانے کے لیے رسمی ریاضیاتی چیکس کا نفاذ کرنا۔
یہ یقینی بنانے کے لیے کہ یہ نظام حقیقت پر مبنی ہیں، Pramaana اعلیٰ درجے کے شعبہ جاتی ماہرین کے ساتھ تعاون کر رہا ہے۔ اس میں ٹیکس سے متعلقہ اطلاقات کے لیے سابق IRS کمشنر ڈینی ورفل (Danny Werfel) کے ساتھ ساتھ سائبر سیکیورٹی اور ادویات کی دریافت کے پروٹوکولز کی نگرانی کے لیے IIT دہلی، IIT مدراس اور UC برکلے کے پروفیسرز شامل ہیں۔
یہ AI ایکو سسٹم کے لیے کیوں اہم ہے
The $27 million seed round—led by Khosla Ventures with participation from Accel, Boldcap, Nexus Venture Partners, Premji Invest, and Unbound—signals a massive shift in AI investment. The "move fast and break things" era of generative AI is meeting the "verify and validate" requirements of the enterprise world.
By turning unformalized knowledge into executable, verifiable code (similar to France’s CATALA project), Pramaana Labs is providing a blueprint for how AI can be deployed in regulated sectors. If successful, this approach could unlock trillions of dollars in value by allowing AI to safely manage human health, legal rights, and massive financial systems.
Key Takeaways
- Hybrid Architecture: Pramaana Labs combines the flexibility of LLMs with a deterministic layer powered by LEAN-style formal verification to eliminate hallucinations.
- High-Stakes Focus: The startup is prioritizing industries where errors have severe consequences, including law, tax, drug discovery, and cybersecurity.
- Major Institutional Backing: A $27 million seed round led by Khosla Ventures underscores the growing market demand for verifiable and reliable AI systems.