Pramaana Labs تحصل على 27 مليون دولار لحل مشكلة موثوقية الذكاء الاصطناعي باستخدام التحقق الرسمي

في الوقت الذي تكافح فيه الشركات للانتقال بالذكاء الاصطناعي من البرامج التجريبية إلى العمليات التجارية الحساسة، يواجه القطاع عقبة هائلة: الموثوقية. تهدف Pramaana Labs إلى سد هذه الفجوة من خلال تطبيق الصرامة الرياضية للتحقق الرسمي (formal verification) على الطبيعة غير المتوقعة للنماذج اللغوية الكبيرة (LLMs).

سد الفجوة بين الذكاء الاصطناعي الاحتمالي والحتمي

يكمن التوتر الأساسي في الذكاء الاصطناعي الحديث في الفرق بين الاستدلال الاحتمالي والحقيقة الحتمية. وبينما تتفوق النماذج اللغوية الكبيرة (LLMs) في معالجة اللغة الطبيعية والتعامل مع البيانات المعقدة وغير المنظمة، إلا أنها عرضة للهلوسة والأخطاء المنطقية. وبالنسبة للصناعات التي يمكن أن تؤدي فيها غلطة واحدة إلى كارثة قانونية أو مالية، فإن هذه الأخطاء غير مقبولة.

تعالج Pramaana Labs هذه المشكلة من خلال بناء بنية هجينة. يستخدم نظامهم محرك LLM تقليديًا للحفاظ على المرونة المطلوبة للتفاعل باللغة الطبيعية، ولكنه يضيف طبقة تحقق حتمية فوقه. تضمن هذه الطبقة التزام المخرجات التي يولدها الـ LLM بقواعد صارمة ومقننة، مما يعمل فعليًا كحاجز حماية رياضي ضد الأخطاء.

الاستفادة من LEAN لتطبيقات الصناعات عالية المخاطر

على عكس اختبار البرمجيات التقليدي، تستخدم Pramaana Labs أدوات التحقق الرسمي، وتستلهم تحديدًا من لغة البرمجة مفتوحة المصدر LEAN. تُستخدم LEAN تقليديًا للتحقق من البراهين الرياضية المعقدة، وتخطط Pramaana لتكييف هذه التكنولوجيا لتقنين "قواعد" مجالات مهنية محددة.

تستهدف الشركة القطاعات عالية الحساسية حيث لا تقبل الدقة المساومة:

ولضمان استناد هذه الأنظمة إلى الواقع، تتعاون Pramaana مع خبراء نخبة في مجالاتهم. ويشمل ذلك مفوض مصلحة الضرائب الأمريكية (IRS) السابق Danny Werfel للتطبيقات المتعلقة بالضرائب، بالإضافة إلى أساتذة من IIT Delhi وIIT Madras وUC Berkeley للإشراف على بروتوكولات الأمن السيبراني واكتشاف الأدوية.

لماذا يهم هذا النظام البيئي للذكاء الاصطناعي

تشير جولة التمويل الأولية بقيمة 27 مليون دولار —بقيادة Khosla Ventures وبمشاركة Accel وBoldcap وNexus Venture Partners وPremji Invest وUnbound— إلى تحول هائل في استثمارات الذكاء الاصطناعي. إن عصر "التحرك بسرعة وتحطيم الأشياء" الخاص بالذكاء الاصطناعي التوليدي يواجه الآن متطلبات "التحقق والمصادقة" في عالم الشركات والمؤسسات.

من خلال تحويل المعرفة غير الممنهجة إلى كود قابل للتنفيذ والتحقق (على غرار مشروع CATALA الفرنسي)، تقدم Pramaana Labs مخططاً لكيفية نشر الذكاء الاصطناعي في القطاعات الخاضعة للتنظيم. وإذا نجح هذا النهج، فقد يفتح الباب أمام قيم تُقدر بتريليونات الدولارات من خلال السماح للذكاء الاصطناعي بإدارة الصحة البشرية، والحقوق القانونية، والأنظمة المالية الضخمة بأمان.

أهم النقاط المستخلصة