Pramaana Labs lève 27 millions de dollars pour résoudre le problème de la fiabilité de l'IA grâce à la vérification formelle
Alors que les entreprises peinent à faire passer l'IA de programmes pilotes expérimentaux à des opérations commerciales critiques, l'industrie est confrontée à un obstacle majeur : la fiabilité. Pramaana Labs vise à combler cette lacune en appliquant la rigueur mathématique de la vérification formelle à la nature imprévisible des grands modèles de langage (LLM).
Combler le fossé entre l'IA probabiliste et l'IA déterministe
La tension fondamentale de l'IA moderne réside dans la différence entre le raisonnement probabiliste et la vérité déterministe. Bien que les LLM excellent dans le traitement du langage naturel et la gestion de données complexes et non structurées, ils sont sujets aux hallucinations et aux erreurs logiques. Pour les secteurs où une seule erreur peut entraîner une catastrophe juridique ou financière, ces erreurs sont inacceptables.
Pramaana Labs s'attaque à ce problème en construisant une architecture hybride. Leur système utilise un moteur LLM conventionnel pour maintenir la flexibilité nécessaire à l'interaction en langage naturel, mais il superpose une couche de vérification déterministe. Cette couche garantit que le résultat généré par le LLM respecte des règles strictes et codifiées, agissant ainsi comme un garde-fou mathématique contre les erreurs.
Exploiter LEAN pour des applications industrielles à enjeux élevés
Contrairement aux tests logiciels standards, Pramaana Labs utilise les outils de la vérification formelle, en s'inspirant spécifiquement du langage de programmation open-source LEAN. LEAN est traditionnellement utilisé pour vérifier des preuves mathématiques complexes, et Pramaana prévoit d'adapter cette technologie pour codifier les « règles » de domaines professionnels spécifiques.
L'entreprise cible des secteurs verticaux à haute sensibilité où la précision est non négociable :
- Droit et préparation fiscale : Utilisation de versions codifiées de codes fiscaux complexes pour garantir que le raisonnement reste déterministe.
- Découverte de médicaments : Application d'une vérification rigoureuse aux données biologiques et chimiques pour garantir la sécurité et l'efficacité.
- Cybersécurité : Mise en œuvre de contrôles mathématiques formels pour sécuriser les infrastructures numériques.
Pour s'assurer que ces systèmes sont ancrés dans la réalité, Pramaana collabore avec des experts de haut niveau dans leurs domaines respectifs. Cela inclut l'ancien commissaire de l'IRS, Danny Werfel, pour les applications liées à la fiscalité, ainsi que des professeurs de l'IIT Delhi, de l'IIT Madras et de l'UC Berkeley pour superviser les protocoles de cybersécurité et de découverte de médicaments.
Pourquoi cela est important pour l'écosystème de l'IA
Le tour de table d'amorçage de 27 millions de dollars — mené par Khosla Ventures avec la participation d'Accel, Boldcap, Nexus Venture Partners, Premji Invest et Unbound — signale un changement massif dans l'investissement en IA. L'ère du « move fast and break things » de l'IA générative se heurte désormais aux exigences de « vérification et de validation » du monde de l'entreprise.
En transformant les connaissances non formalisées en code exécutable et vérifiable (similaire au projet français CATALA), Pramaana Labs propose un modèle de déploiement de l'IA dans les secteurs réglementés. En cas de succès, cette approche pourrait libérer des milliers de milliards de dollars de valeur en permettant à l'IA de gérer en toute sécurité la santé humaine, les droits juridiques et les systèmes financiers massifs.
Points clés
- Architecture hybride : Pramaana Labs combine la flexibilité des LLM avec une couche déterministe alimentée par une vérification formelle de type LEAN afin d'éliminer les hallucinations.
- Priorité aux enjeux critiques : La startup privilégie les secteurs où les erreurs ont des conséquences graves, notamment le droit, la fiscalité, la découverte de médicaments et la cybersécurité.
- Soutien institutionnel majeur : Un tour de table d'amorçage de 27 millions de dollars mené par Khosla Ventures souligne la demande croissante du marché pour des systèmes d'IA vérifiables et fiables.