Pramaana Labs raccoglie 27 milioni di dollari per risolvere l'affidabilità dell'IA tramite la verifica formale
Mentre le imprese faticano a far passare l'IA dai programmi pilota sperimentali alle operazioni aziendali mission-critical, il settore si trova ad affrontare un ostacolo enorme: l'affidabilità. Pramaana Labs mira a colmare questo divario applicando il rigore matematico della verifica formale alla natura imprevedibile dei Large Language Models (LLM).
Colmare il divario tra IA probabilistica e deterministica
La tensione fondamentale nell'IA moderna risiede nella differenza tra il ragionamento probabilistico e la verità deterministica. Sebbene gli LLM eccellano nell'elaborazione del linguaggio naturale e nella gestione di dati complessi e non strutturati, sono soggetti ad allucinazioni ed errori logici. Per i settori in cui un singolo errore può portare a catastrofi legali o finanziarie, tali errori sono inaccettabili.
Pramaana Labs sta affrontando questo problema costruendo un'architettura ibrida. Il loro sistema utilizza un motore LLM convenzionale per mantenere la flessibilità necessaria all'interazione in linguaggio naturale, ma vi sovrappone uno strato di verifica deterministica. Questo strato garantisce che l'output generato dall'LLM aderisca a regole rigide e codificate, agendo efficacemente come un guardrail matematico contro gli errori.
Sfruttare LEAN per applicazioni industriali ad alto rischio
A differenza dei test software standard, Pramaana Labs utilizza gli strumenti della verifica formale, ispirandosi in particolare al linguaggio di programmazione open-source LEAN. LEAN viene tradizionalmente utilizzato per verificare complesse dimostrazioni matematiche, e Pramaana intende adattare questa tecnologia per codificare le "regole" di specifici domini professionali.
L'azienda punta a verticali ad alta sensibilità in cui l'accuratezza è non negoziabile:
- Legale e preparazione fiscale: Utilizzo di versioni codificate di complessi codici fiscali per garantire che il ragionamento rimanga deterministico.
- Drug Discovery: Applicazione di una verifica rigorosa ai dati biologici e chimici per garantire sicurezza ed efficacia.
- Cybersecurity: Implementazione di controlli matematici formali per mettere in sicurezza le infrastrutture digitali.
Per garantire che questi sistemi siano radicati nella realtà, Pramaana sta collaborando con esperti di settore d'élite. Ciò include l'ex commissario dell'IRS Danny Werfel per le applicazioni fiscali, nonché professori dell'IIT Delhi, dell'IIT Madras e della UC Berkeley per supervisionare i protocolli di cybersecurity e di drug discovery.
Perché questo è importante per l'ecosistema dell'IA
Il round seed da 27 milioni di dollari — guidato da Khosla Ventures con la partecipazione di Accel, Boldcap, Nexus Venture Partners, Premji Invest e Unbound — segnala un cambiamento massiccio negli investimenti nell'IA. L'era del "muoviti velocemente e rompi le cose" dell'IA generativa si sta scontrando con i requisiti di "verifica e validazione" del mondo enterprise.
Trasformando la conoscenza non formalizzata in codice eseguibile e verificabile (simile al progetto francese CATALA), Pramaana Labs sta fornendo un modello su come l'IA possa essere implementata in settori regolamentati. Se avrà successo, questo approccio potrebbe sbloccare trilioni di dollari di valore, consentendo all'IA di gestire in sicurezza la salute umana, i diritti legali e i massicci sistemi finanziari.
Punti chiave
- Architettura ibrida: Pramaana Labs combina la flessibilità dei LLM con uno strato deterministico basato sulla verifica formale in stile LEAN per eliminare le allucinazioni.
- Focus su settori critici: La startup sta dando priorità a settori in cui gli errori hanno conseguenze gravi, tra cui il diritto, la fiscalità, la scoperta di farmaci e la cybersecurity.
- Importante sostegno istituzionale: Un round seed da 27 milioni di dollari guidato da Khosla Ventures sottolinea la crescente domanda di mercato per sistemi di IA verificabili e affidabili.