Pramaana Labs pozyskuje 27 mln USD na rozwiązanie problemu niezawodności AI dzięki weryfikacji formalnej

Podczas gdy przedsiębiorstwa zmagają się z przejściem AI z eksperymentalnych programów pilotażowych do operacji biznesowych o krytycznym znaczeniu, branża napotyka ogromną przeszkodę: niezawodność. Pramaana Labs zamierza wypełnić tę lukę, stosując matematyczną rygorystyczność weryfikacji formalnej do nieprzewidywalnej natury dużych modeli językowych (LLM).

Niwelowanie różnic między AI probabilistycznym a deterministycznym

Fundamentalne napięcie w nowoczesnej sztucznej inteligencji wynika z różnicy między rozumowaniem probabilistycznym a prawdą deterministyczną. Choć modele LLM doskonale radzą sobie z przetwarzaniem języka naturalnego i obsługą złożonych, nieustrukturyzowanych danych, są podatne na halucynacje i błędy logiczne. W branżach, w których pojedynczy błąd może doprowadzić do katastrofy prawnej lub finansowej, błędy te są nieakceptowalne.

Pramaana Labs rozwiązuje ten problem, budując architekturę hybrydową. Ich system wykorzystuje konwencjonalny silnik LLM, aby zachować elastyczność wymaganą do interakcji w języku naturalnym, ale nakłada na niego warstwę weryfikacji deterministycznej. Warstwa ta zapewnia, że wyjście generowane przez LLM jest zgodne ze ścisłymi, skodyfikowanymi regułami, działając skutecznie jako matematyczna barierka ochronna przed błędami.

Wykorzystanie LEAN w zastosowaniach przemysłowych o wysokiej stawce

W przeciwieństwie do standardowego testowania oprogramowania, Pramaana Labs wykorzystuje narzędzia weryfikacji formalnej, czerpiąc inspirację konkretnie z języka programowania open-source LEAN. LEAN jest tradycyjnie używany do weryfikacji złożonych dowodów matematycznych, a Pramaana planuje zaadaptować tę technologię do skodyfikowania „reguł” konkretnych dziedzin zawodowych.

Firma celuje w sektory o wysokim stopniu wrażliwości, gdzie dokładność jest bezdyskusyjna:

Aby zapewnić, że systemy te są osadzone w rzeczywistości, Pramaana współpracuje z elitarnymi ekspertami dziedzinowymi. Obejmuje to byłego komisarza IRS Danny'ego Werfela w przypadku zastosowań podatkowych, a także profesorów z IIT Delhi, IIT Madras i UC Berkeley, którzy nadzorują protokoły cyberbezpieczeństwa i odkrywania leków.

Dlaczego ma to znaczenie dla ekosystemu AI

Runda seed o wartości 27 milionów dolarów — prowadzona przez Khosla Ventures przy udziale Accel, Boldcap, Nexus Venture Partners, Premji Invest oraz Unbound — sygnalizuje ogromną zmianę w inwestycjach w AI. Era generatywnej sztucznej inteligencji oparta na zasadzie „move fast and break things” zderza się z wymogami „verify and validate” świata korporacyjnego.

Przekształcając nieformalną wiedzę w wykonalny, weryfikowalny kod (podobnie jak we francuskim projekcie CATALA), Pramaana Labs dostarcza wzorzec tego, jak AI może być wdrażana w sektorach regulowanych. Jeśli okaże się skuteczny, ten model może odblokować biliony dolarów wartości, umożliwiając AI bezpieczne zarządzanie ludzkim zdrowiem, prawami prawnymi oraz ogromnymi systemami finansowymi.

Kluczowe wnioski