Pramaana Labs recauda 27 millones de dólares para resolver la fiabilidad de la IA mediante la verificación formal
A medida que las empresas luchan por transicionar la IA de programas piloto experimentales a operaciones comerciales de misión crítica, la industria se enfrenta a un obstáculo masivo: la fiabilidad. Pramaana Labs pretende cerrar esta brecha aplicando el rigor matemático de la verificación formal a la naturaleza impredecible de los modelos de lenguaje de gran tamaño (LLM).
Cerrando la brecha entre la IA probabilística y la determinista
La tensión fundamental en la IA moderna reside en la diferencia entre el razonamiento probabilístico y la verdad determinista. Si bien los LLM destacan en el procesamiento del lenguaje natural y el manejo de datos complejos y no estructurados, son propensos a las alucinaciones y a los errores lógicos. Para las industrias donde un solo error puede provocar una catástrofe legal o financiera, estos errores son inaceptables.
Pramaana Labs está abordando esto mediante la construcción de una arquitectura híbrida. Su sistema utiliza un motor de LLM convencional para mantener la flexibilidad necesaria para la interacción en lenguaje natural, pero superpone una capa de verificación determinista. Esta capa garantiza que la salida generada por el LLM se adhiera a reglas estrictas y codificadas, actuando eficazmente como una barrera de seguridad matemática contra los errores.
Aprovechando LEAN para aplicaciones industriales de alto riesgo
A diferencia de las pruebas de software estándar, Pramaana Labs está utilizando herramientas de verificación formal, inspirándose específicamente en el lenguaje de programación de código abierto LEAN. LEAN se utiliza tradicionalmente para verificar pruebas matemáticas complejas, y Pramaana planea adaptar esta tecnología para codificar las "reglas" de dominios profesionales específicos.
La empresa se dirige a sectores verticales de alta sensibilidad donde la precisión es innegociable:
- Derecho y preparación de impuestos: Uso de versiones codificadas de códigos fiscales complejos para garantizar que el razonamiento siga siendo determinista.
- Descubrimiento de fármacos: Aplicación de una verificación rigurosa a datos biológicos y químicos para garantizar la seguridad y la eficacia.
- Ciberseguridad: Implementación de comprobaciones matemáticas formales para asegurar las infraestructuras digitales.
Para garantizar que estos sistemas estén basados en la realidad, Pramaana está colaborando con expertos de élite en sus respectivos dominios. Esto incluye al excomisionado del IRS, Danny Werfel, para aplicaciones relacionadas con impuestos, así como a profesores del IIT Delhi, el IIT Madras y la UC Berkeley para supervisar los protocolos de ciberseguridad y descubrimiento de fármacos.
Por qué esto es importante para el ecosistema de la IA
La ronda semilla de 27 millones de dólares —liderada por Khosla Ventures con la participación de Accel, Boldcap, Nexus Venture Partners, Premji Invest y Unbound— señala un cambio masivo en la inversión en IA. La era de "moverse rápido y romper cosas" de la IA generativa se está encontrando con los requisitos de "verificar y validar" del mundo empresarial.
Al convertir el conocimiento no formalizado en código ejecutable y verificable (similar al proyecto CATALA de Francia), Pramaana Labs está proporcionando un modelo de cómo la IA puede implementarse en sectores regulados. De tener éxito, este enfoque podría desbloquear billones de dólares en valor al permitir que la IA gestione de forma segura la salud humana, los derechos legales y los sistemas financieros masivos.
Conclusiones clave
- Arquitectura híbrida: Pramaana Labs combina la flexibilidad de los LLM con una capa determinista impulsada por la verificación formal al estilo LEAN para eliminar las alucinaciones.
- Enfoque en sectores críticos: La startup está priorizando industrias donde los errores tienen consecuencias graves, incluyendo el derecho, los impuestos, el descubrimiento de fármacos y la ciberseguridad.
- Gran respaldo institucional: Una ronda semilla de 27 millones de dólares liderada por Khosla Ventures subraya la creciente demanda del mercado de sistemas de IA verificables y confiables.