Pramaana Labs برای حل مشکل قابلیت اطمینان هوش مصنوعی با استفاده از تأیید رسمی، ۲۷ میلیون دلار سرمایه جذب کرد

در حالی که شرکت‌ها برای انتقال هوش مصنوعی از برنامه‌های آزمایشی به عملیات‌های حیاتی کسب‌وکار با چالش روبرو هستند، این صنعت با مانعی بزرگ مواجه است: قابلیت اطمینان. Pramaana Labs قصد دارد با به‌کارگیری دقت ریاضیِ «تأیید رسمی» (formal verification) در ماهیت غیرقابل‌پیش‌بینی مدل‌های زبانی بزرگ (LLMs)، این شکاف را پر کند.

پر کردن شکاف میان هوش مصنوعی احتمالی و قطعی

تنش بنیادین در هوش مصنوعی مدرن، در تفاوت میان استدلال احتمالی و حقیقت قطعی نهفته است. در حالی که LLMها در پردازش زبان طبیعی و مدیریت داده‌های پیچیده و بدون ساختار عالی عمل می‌کنند، مستعد توهم (hallucination) و خطاهای منطقی هستند. برای صنایعی که در آن‌ها یک اشتباه واحد می‌تواند منجر به فاجعه حقوقی یا مالی شود، این خطاها غیرقابل‌قبول هستند.

Pramaana Labs با ساخت یک معماری ترکیبی در حال رسیدگی به این مسئله است. سیستم آن‌ها از یک موتور LLM متداول برای حفظ انعطاف‌پذیری مورد نیاز در تعاملات زبان طبیعی استفاده می‌کند، اما یک لایه تأیید قطعی را بر آن می‌افزاید. این لایه تضمین می‌کند که خروجی تولید شده توسط LLM از قوانین سخت‌گیرانه و کدگذاری‌شده پیروی کند و در واقع به عنوان یک حفاظ ریاضی در برابر خطاها عمل می‌کند.

بهره‌گیری از LEAN برای کاربردهای صنعتی حساس

برخلاف تست نرم‌افزار استاندارد، Pramaana Labs از ابزارهای تأیید رسمی استفاده می‌کند و به‌طور خاص از زبان برنامه‌نویسی متن‌باز LEAN الهام می‌گیرد. LEAN به‌طور سنتی برای تأیید اثبات‌های ریاضی پیچیده استفاده می‌شود و Pramaana قصد دارد این فناوری را برای کدگذاری «قوانین» حوزه‌های حرفه‌ای خاص تطبیق دهد.

این شرکت حوزه‌های حساس را هدف قرار داده است که در آن‌ها دقت غیرقابل‌مذاکره است:

برای اطمینان از اینکه این سیستم‌ها با واقعیت همخوانی دارند، Pramaana با متخصصان برجسته حوزه‌های مربوطه همکاری می‌کند. این همکاری شامل دنی ورفل (Danny Werfel)، کمیسر سابق IRS برای کاربردهای مرتبط با مالیات، و همچنین اساتیدی از IIT Delhi، IIT Madras و UC Berkeley برای نظارت بر پروتکل‌های امنیت سایبری و کشف دارو است.

چرا این موضوع برای اکوسیستم هوش مصنوعی اهمیت دارد

راند سرمایه‌گذاری اولیه ۲۷ میلیون دلاری — به رهبری Khosla Ventures با مشارکت Accel، Boldcap، Nexus Venture Partners، Premji Invest و Unbound — نشان‌دهنده تغییری گسترده در سرمایه‌گذاری‌های هوش مصنوعی است. عصر «با سرعت حرکت کن و چیزها را بشکن» در هوش مصنوعی مولد، اکنون با الزامات «تایید و اعتبارسنجی» در دنیای سازمانی روبرو شده است.

Pramaana Labs با تبدیل دانش ساختارنیافته به کدهای قابل اجرا و قابل اعتبارسنجی (مشابه پروژه CATALA در فرانسه)، در حال ارائه الگویی برای نحوه به‌کارگیری هوش مصنوعی در بخش‌های تحت نظارت است. در صورت موفقیت، این رویکرد می‌تواند با اجازه دادن به هوش مصنوعی برای مدیریت ایمن سلامت انسان، حقوق قانونی و سیستم‌های مالی عظیم، ارزش تریلیون‌ها دلار را آزاد کند.

نکات کلیدی