Pramaana Labs huy động được 27 triệu USD để giải quyết vấn đề độ tin cậy của AI bằng phương pháp kiểm chứng hình thức (Formal Verification)

Khi các doanh nghiệp đang nỗ lực chuyển đổi AI từ các chương trình thí điểm thử nghiệm sang các hoạt động kinh doanh quan trọng, ngành công nghiệp này đang phải đối mặt với một rào cản lớn: độ tin cậy. Pramaana Labs đặt mục tiêu lấp đầy khoảng cách này bằng cách áp dụng sự chặt chẽ về mặt toán học của phương pháp kiểm chứng hình thức (formal verification) vào bản chất khó dự đoán của các Mô hình Ngôn ngữ Lớn (LLMs).

Thu hẹp khoảng cách giữa AI xác suất và AI tất định

Sự mâu thuẫn cơ bản trong AI hiện đại nằm ở sự khác biệt giữa suy luận xác suất và sự thật tất định. Mặc dù các LLM rất xuất sắc trong việc xử lý ngôn ngữ tự nhiên và xử lý dữ liệu phức tạp, không cấu trúc, nhưng chúng dễ gặp phải tình trạng "ảo giác" (hallucinations) và lỗi logic. Đối với các ngành công nghiệp mà một sai sót duy nhất cũng có thể dẫn đến thảm họa pháp lý hoặc tài chính, những lỗi này là không thể chấp nhận được.

Pramaana Labs đang giải quyết vấn đề này bằng cách xây dựng một kiến trúc lai. Hệ thống của họ sử dụng một công cụ LLM truyền thống để duy trì sự linh hoạt cần thiết cho việc tương tác ngôn ngữ tự nhiên, nhưng đồng thời phủ lên trên một lớp kiểm chứng tất định. Lớp này đảm bảo rằng kết quả đầu ra do LLM tạo ra tuân thủ các quy tắc nghiêm ngặt đã được mã hóa, đóng vai trò như một rào chắn toán học chống lại các lỗi sai.

Tận dụng LEAN cho các ứng dụng công nghiệp có rủi ro cao

Khác với kiểm thử phần mềm tiêu chuẩn, Pramaana Labs đang sử dụng các công cụ kiểm chứng hình thức, cụ thể là lấy cảm hứng từ ngôn ngữ lập trình mã nguồn mở LEAN. LEAN truyền thống được sử dụng để kiểm chứng các chứng minh toán học phức tạp, và Pramaana có kế hoạch thích ứng công nghệ này để mã hóa các "quy tắc" của các lĩnh vực chuyên môn cụ thể.

Công ty đang nhắm mục tiêu vào các lĩnh vực có độ nhạy cảm cao, nơi sự chính xác là điều không thể thương lượng:

Để đảm bảo các hệ thống này bám sát thực tế, Pramaana đang hợp tác với các chuyên gia hàng đầu trong lĩnh vực. Điều này bao gồm cựu ủy viên IRS Danny Werfel cho các ứng dụng liên quan đến thuế, cũng như các giáo sư từ IIT Delhi, IIT Madras và UC Berkeley để giám sát các giao thức an ninh mạng và phát triển thuốc.

Tại sao điều này lại quan trọng đối với hệ sinh thái AI

Vòng gọi vốn hạt giống trị giá 27 triệu USD—dẫn đầu bởi Khosla Ventures với sự tham gia của Accel, Boldcap, Nexus Venture Partners, Premji Invest và Unbound—đánh dấu một sự chuyển dịch lớn trong đầu tư vào AI. Kỷ nguyên "hành động nhanh và phá vỡ các giới hạn" (move fast and break things) của AI tạo sinh đang đối mặt với các yêu cầu "xác minh và kiểm chứng" (verify and validate) của thế giới doanh nghiệp.

Bằng cách chuyển đổi các kiến thức chưa được chuẩn hóa thành mã nguồn có thể thực thi và kiểm chứng được (tương tự như dự án CATALA của Pháp), Pramaana Labs đang cung cấp một bản thiết kế cho cách triển khai AI trong các lĩnh vực được quản lý chặt chẽ. Nếu thành công, phương pháp này có thể khai mở giá trị hàng nghìn tỷ đô la bằng cách cho phép AI quản lý một cách an toàn sức khỏe con người, các quyền pháp lý và các hệ thống tài chính khổng lồ.

Các điểm chính