Pramaana Labs Amankan $27 Juta untuk Mengatasi Masalah Keandalan AI dengan Verifikasi Formal
Saat perusahaan berjuang untuk mentransisikan AI dari program percontohan eksperimental ke operasi bisnis yang sangat krusial, industri ini menghadapi hambatan besar: keandalan. Pramaana Labs bertujuan untuk menjembatani kesenjangan ini dengan menerapkan ketelitian matematis dari verifikasi formal terhadap sifat Large Language Models (LLM) yang tidak terprediksi.
Menjembatani Kesenjangan Antara AI Probabilistik dan Deterministik
Ketegangan mendasar dalam AI modern terletak pada perbedaan antara penalaran probabilistik dan kebenaran deterministik. Meskipun LLM unggul dalam memproses bahasa alami dan menangani data yang kompleks dan tidak terstruktur, mereka rentan terhadap halusinasi dan kesalahan logika. Bagi industri di mana satu kesalahan saja dapat menyebabkan bencana hukum atau finansial, kesalahan-kesalahan ini tidak dapat diterima.
Pramaana Labs mengatasi hal ini dengan membangun arsitektur hibrida. Sistem mereka menggunakan mesin LLM konvensional untuk mempertahankan fleksibilitas yang diperlukan untuk interaksi bahasa alami, namun menambahkan lapisan verifikasi deterministik di atasnya. Lapisan ini memastikan bahwa output yang dihasilkan oleh LLM mematuhi aturan yang ketat dan terkodifikasi, yang secara efektif bertindak sebagai pagar pengaman matematis terhadap kesalahan.
Memanfaatkan LEAN untuk Aplikasi Industri Berisiko Tinggi
Berbeda dengan pengujian perangkat lunak standar, Pramaana Labs memanfaatkan alat verifikasi formal, yang secara khusus mengambil inspirasi dari bahasa pemrograman open-source LEAN. LEAN secara tradisional digunakan untuk memverifikasi bukti matematika yang kompleks, dan Pramaana berencana untuk mengadaptasi teknologi ini guna mengodifikasi "aturan" dari domain profesional tertentu.
Perusahaan ini menargetkan vertikal dengan sensitivitas tinggi di mana akurasi tidak dapat ditawar:
- Hukum dan Persiapan Pajak: Menggunakan versi terkodifikasi dari kode pajak yang kompleks untuk memastikan penalaran tetap deterministik.
- Penemuan Obat: Menerapkan verifikasi yang ketat pada data biologis dan kimia untuk memastikan keamanan dan kemanjuran.
- Keamanan Siber: Mengimplementasikan pemeriksaan matematika formal untuk mengamankan infrastruktur digital.
Untuk memastikan sistem ini berpijak pada realitas, Pramaana berkolaborasi dengan para ahli domain elit. Ini termasuk mantan komisaris IRS Danny Werfel untuk aplikasi terkait pajak, serta profesor dari IIT Delhi, IIT Madras, dan UC Berkeley untuk mengawasi protokol keamanan siber dan penemuan obat.
Mengapa Hal Ini Penting bagi Ekosistem AI
Pendanaan tahap awal senilai $27 juta—yang dipimpin oleh Khosla Ventures dengan partisipasi dari Accel, Boldcap, Nexus Venture Partners, Premji Invest, dan Unbound—menandakan pergeseran besar dalam investasi AI. Era "bergerak cepat dan hancurkan segalanya" (move fast and break things) pada AI generatif kini bertemu dengan persyaratan "verifikasi dan validasi" dari dunia korporasi.
Dengan mengubah pengetahuan yang tidak terformalisasi menjadi kode yang dapat dieksekusi dan diverifikasi (serupa dengan proyek CATALA di Prancis), Pramaana Labs menyediakan cetak biru tentang bagaimana AI dapat diterapkan di sektor-sektor yang teregulasi. Jika berhasil, pendekatan ini dapat membuka nilai triliunan dolar dengan memungkinkan AI untuk mengelola kesehatan manusia, hak hukum, dan sistem keuangan besar secara aman.
Poin-Poin Penting
- Arsitektur Hybrid: Pramaana Labs menggabungkan fleksibilitas LLM dengan lapisan deterministik yang didukung oleh verifikasi formal gaya LEAN untuk menghilangkan halusinasi.
- Fokus pada Risiko Tinggi: Startup ini memprioritaskan industri di mana kesalahan memiliki konsekuensi serius, termasuk hukum, pajak, penemuan obat, dan keamanan siber.
- Dukungan Institusional Besar: Pendanaan tahap awal senilai $27 juta yang dipimpin oleh Khosla Ventures menggarisbawahi meningkatnya permintaan pasar akan sistem AI yang dapat diverifikasi dan andal.