Pramaana Labs привлекает 27 млн долларов для решения проблемы надежности ИИ с помощью формальной верификации

Пока предприятия пытаются перевести ИИ из стадии экспериментальных пилотных программ в критически важные бизнес-процессы, отрасль сталкивается с огромным препятствием: надежностью. Pramaana Labs стремится преодолеть этот разрыв, применяя математическую строгость формальной верификации к непредсказуемой природе больших языковых моделей (LLM).

Преодоление разрыва между вероятностным и детерминированным ИИ

Фундаментальное противоречие в современном ИИ заключается в различии между вероятностными рассуждениями и детерминированной истиной. Хотя LLM отлично справляются с обработкой естественного языка и работой со сложными неструктурированными данными, они склонны к галлюцинациям и логическим ошибкам. Для отраслей, где одна ошибка может привести к юридической или финансовой катастрофе, такие ошибки недопустимы.

Pramaana Labs решает эту проблему путем создания гибридной архитектуры. Их система использует стандартный движок LLM для обеспечения гибкости, необходимой для взаимодействия на естественном языке, но накладывает на него слой детерминированной верификации. Этот слой гарантирует, что выходные данные, генерируемые LLM, соответствуют строгим кодифицированным правилам, фактически выступая в качестве математического барьера для предотвращения ошибок.

Использование LEAN для критически важных отраслевых приложений

В отличие от стандартного тестирования программного обеспечения, Pramaana Labs использует инструменты формальной верификации, черпая вдохновение в языке программирования LEAN с открытым исходным кодом. LEAN традиционно используется для проверки сложных математических доказательств, и Pramaana планирует адаптировать эту технологию для кодификации «правил» в конкретных профессиональных областях.

Компания ориентируется на высокочувствительные вертикали, где точность не подлежит обсуждению:

Чтобы гарантировать реалистичность этих систем, Pramaana сотрудничает с ведущими экспертами в своих областях. В их число входят бывший комиссар IRS Дэнни Верфель (для налоговых приложений), а также профессора из IIT Delhi, IIT Madras и UC Berkeley, курирующие протоколы кибербезопасности и разработки лекарств.

Почему это важно для экосистемы ИИ

Посевной раунд на сумму 27 миллионов долларов — возглавляемый Khosla Ventures при участии Accel, Boldcap, Nexus Venture Partners, Premji Invest и Unbound — сигнализирует о масштабном сдвиге в инвестициях в ИИ. Эпоха генеративного ИИ, работающая по принципу «действуй быстро и ломай стереотипы», сталкивается с требованиями корпоративного мира к «проверке и подтверждению».

Превращая неформализованные знания в исполняемый, верифицируемый код (по аналогии с французским проектом CATALA), Pramaana Labs предлагает модель того, как ИИ может быть внедрен в регулируемых секторах. В случае успеха этот подход может высвободить триллионы долларов стоимости, позволяя ИИ безопасно управлять здоровьем человека, юридическими правами и масштабными финансовыми системами.

Основные выводы