Pramaana Labs залучає $27 млн для вирішення проблеми надійності ШІ за допомогою формальної верифікації

Поки підприємства намагаються перевести ШІ з етапів експериментальних пілотних програм у критично важливі бізнес-операції, галузь стикається з величезною перешкодою: надійністю. Pramaana Labs прагне подолати цей розрив, застосовуючи математичну суворість формальної верифікації до непередбачуваної природи великих мовних моделей (LLM).

Подолання розриву між імовірнісним та детермінованим ШІ

Фундаментальна напруга в сучасному ШІ полягає у різниці між імовірнісним мисленням та детермінованою істиною. Хоча LLM чудово справляються з обробкою природної мови та складних неструктурованих даних, вони схильні до галюцинацій та логічних помилок. Для галузей, де одна помилка може призвести до юридичної чи фінансової катастрофи, такі помилки є неприпустимими.

Pramaana Labs вирішує цю проблему шляхом створення гібридної архітектури. Їхня система використовує звичайний рушій LLM для підтримки гнучкості, необхідної для взаємодії природною мовою, але накладає на нього шар детермінованої верифікації. Цей шар гарантує, що результат, згенерований LLM, відповідає суворим кодифікованим правилам, фактично виступаючи математичним захисним бар'єром проти помилок.

Використання LEAN для критично важливих галузевих застосувань

На відміну від стандартного тестування програмного забезпечення, Pramaana Labs використовує інструменти формальної верифікації, зокрема надихаючись мовою програмування LEAN з відкритим вихідним кодом. LEAN традиційно використовується для перевірки складних математичних доведень, і Pramaana планує адаптувати цю технологію для кодифікації «правил» у конкретних професійних сферах.

Компанія орієнтується на високочутливі вертикальні ринки, де точність є принциповою:

• Юриспруденція та податкове планування: Використання кодифікованих версій складних податкових кодексів для забезпечення детермінованості міркувань.
• Розробка ліків: Застосування суворої верифікації біологічних та хімічних даних для забезпечення безпеки та ефективності.
• Кібербезпека: Впровадження формальних математичних перевірок для захисту цифрових інфраструктур.

Щоб гарантувати реалістичність цих систем, Pramaana співпрацює з елітними експертами у відповідних галузях. Це включає колишнього комісара IRS Денні Верфеля для застосувань у сфері оподаткування, а також професорів з IIT Delhi, IIT Madras та UC Berkeley для нагляду за протоколами кібербезпеки та розробки ліків.

Чому це важливо для екосистеми ШІ

Посівний раунд на 27 мільйонів доларів — очолюваний Khosla Ventures за участю Accel, Boldcap, Nexus Venture Partners, Premji Invest та Unbound — сигналізує про масштабний зсув в інвестиціях в ШІ. Епоха генеративного ШІ «рухайся швидко та ламай усе» стикається з вимогами «перевіряй та підтверджуй» корпоративного світу.

Перетворюючи неформалізовані знання на виконуваний, верифікований код (подібно до французького проєкту CATALA), Pramaana Labs створює модель того, як ШІ може бути впроваджений у регульованих секторах. У разі успіху цей підхід може розблокувати трильйони доларів вартості, дозволяючи ШІ безпечно керувати здоров'ям людей, юридичними правами та масштабними фінансовими системами.

Основні висновки

• Гібридна архітектура: Pramaana Labs поєднує гнучкість LLM із детермінованим шаром на основі формальної верифікації у стилі LEAN для усунення галюцинацій.
• Фокус на критично важливих сферах: Стартап надає пріоритет галузям, де помилки мають серйозні наслідки, зокрема праву, оподаткуванню, розробці ліків та кібербезпеці.
• Масштабна інституційна підтримка: Посівний раунд на 27 мільйонів доларів під керівництвом Khosla Ventures підкреслює зростаючий ринковий попит на верифіковані та надійні системи ШІ.