Pramaana Labs Peroleh $27J untuk Menyelesaikan Isu Kebolehpercayaan AI dengan Pengesahan Formal
Ketika perusahaan bergelut untuk beralih daripada program perintis eksperimental AI kepada operasi perniagaan yang kritikal, industri ini menghadapi rintangan besar: kebolehpercayaan. Pramaana Labs bertujuan untuk merapatkan jurang ini dengan menerapkan ketegasan matematik pengesahan formal terhadap sifat model bahasa besar (LLM) yang sukar diramal.
Merapatkan Jurang Antara AI Probabilistik dan Deterministik
Ketegangan asas dalam AI moden terletak pada perbezaan antara penaakulan probabilistik dan kebenaran deterministik. Walaupun LLM cemerlang dalam memproses bahasa semula jadi dan mengendalikan data tidak berstruktur yang kompleks, ia cenderung kepada halusinasi dan ralat logik. Bagi industri di mana satu kesilapan boleh membawa kepada bencana undang-undang atau kewangan, ralat ini tidak boleh diterima.
Pramaana Labs menangani perkara ini dengan membina seni bina hibrid. Sistem mereka menggunakan enjin LLM konvensional untuk mengekalkan fleksibiliti yang diperlukan bagi interaksi bahasa semula jadi, tetapi ia menyalut lapisan pengesahan deterministik. Lapisan ini memastikan output yang dihasilkan oleh LLM mematuhi peraturan kod yang ketat, yang secara berkesan bertindak sebagai penghadang matematik terhadap ralat.
Memanfaatkan LEAN untuk Aplikasi Industri Berisiko Tinggi
Tidak seperti ujian perisian standard, Pramaana Labs menggunakan alatan pengesahan formal, khususnya mengambil inspirasi daripada bahasa pengaturcaraan sumber terbuka LEAN. LEAN secara tradisinya digunakan untuk mengesahkan pembuktian matematik yang kompleks, dan Pramaana merancang untuk menyesuaikan teknologi ini bagi mengkodkan "peraturan" domain profesional tertentu.
Syarikat ini menyasarkan sektor sensitif tinggi di mana ketepatan adalah sesuatu yang tidak boleh dikompromi:
- Penyediaan Undang-undang dan Cukai: Menggunakan versi kod cukai kompleks yang telah dikodkan untuk memastikan penaakulan kekal deterministik.
- Penemuan Ubat: Menerapkan pengesahan yang ketat terhadap data biologi dan kimia untuk memastikan keselamatan dan keberkesanan.
- Keselamatan Siber: Melaksanakan semakan matematik formal untuk mengukuhkan infrastruktur digital.
Bagi memastikan sistem ini berpijak di bumi nyata, Pramaana sedang bekerjasama dengan pakar domain elit. Ini termasuk bekas pesuruhjaya IRS Danny Werfel untuk aplikasi berkaitan cukai, serta profesor dari IIT Delhi, IIT Madras, dan UC Berkeley untuk menyelia protokol keselamatan siber dan penemuan ubat.
Mengapa Ini Penting untuk Ekosistem AI
Pusingan benih sebanyak $27 juta—yang diterajui oleh Khosla Ventures dengan penyertaan daripada Accel, Boldcap, Nexus Venture Partners, Premji Invest, dan Unbound—menandakan peralihan besar dalam pelaburan AI. Era "gerak pantas dan pecahkan perkara" bagi AI generatif kini bertemu dengan keperluan "sahkan dan validasi" dalam dunia perusahaan.
Dengan menukarkan pengetahuan yang tidak diformalkan kepada kod yang boleh dilaksanakan dan disahkan (serupa dengan projek CATALA di Perancis), Pramaana Labs menyediakan rangka kerja tentang bagaimana AI boleh digunakan dalam sektor terkawal. Jika berjaya, pendekatan ini boleh membuka nilai trilion dolar dengan membolehkan AI mengurus kesihatan manusia, hak undang-undang, dan sistem kewangan yang besar secara selamat.
Ringkasan Utama
- Seni Bina Hibrid: Pramaana Labs menggabungkan fleksibiliti LLM dengan lapisan deterministik yang dikuasakan oleh pengesahan formal gaya LEAN untuk menghapuskan halusinasi.
- Fokus Berisiko Tinggi: Syarikat pemula ini mengutamakan industri di mana ralat mempunyai kesan yang serius, termasuk undang-undang, cukai, penemuan ubat, dan keselamatan siber.
- Sokongan Institusi Utama: Pusingan benih sebanyak $27 juta yang diterajui oleh Khosla Ventures menekankan permintaan pasaran yang semakin meningkat untuk sistem AI yang boleh disahkan dan boleh dipercayai.