Pramaana Labs, Yapay Zeka Güvenilirliğini Biçimsel Doğrulama ile Çözmek İçin 27 Milyon Dolar Yatırım Aldı

İşletmeler yapay zekayı deneysel pilot programlardan kritik iş operasyonlarına geçirmekte zorlanırken, sektör devasa bir engelle karşı karşıya: güvenilirlik. Pramaana Labs, Büyük Dil Modellerinin (LLM'ler) öngörülemeyen doğasına biçimsel doğrulamanın (formal verification) matematiksel titizliğini uygulayarak bu boşluğu doldurmayı hedefliyor.

Olasılıksal ve Belirlenimci Yapay Zeka Arasındaki Boşluğu Kapatmak

Modern yapay zekadaki temel gerilim, olasılıksal muhakeme ile belirlenimci gerçeklik arasındaki farktan kaynaklanmaktadır. LLM'ler doğal dili işleme ve karmaşık, yapılandırılmamış verileri yönetme konusunda mükemmel olsalar da, halüsinasyonlara ve mantık hatalarına meyillidirler. Tek bir hatanın yasal veya finansal felaketlere yol açabileceği sektörler için bu hatalar kabul edilemezdir.

Pramaana Labs, hibrit bir mimari inşa ederek bu sorunu ele alıyor. Sistemleri, doğal dil etkileşimi için gereken esnekliği korumak amacıyla geleneksel bir LLM motoru kullanırken, üzerine belirlenimci bir doğrulama katmanı ekliyor. Bu katman, LLM tarafından üretilen çıktının katı ve kodlanmış kurallara uymasını sağlayarak hatalara karşı etkili bir matematiksel bariyer görevi görüyor.

Kritik Sektörel Uygulamalar İçin LEAN'den Yararlanmak

Standart yazılım testlerinin aksine Pramaana Labs, özellikle açık kaynaklı LEAN programlama dilinden ilham alarak biçimsel doğrulama araçlarını kullanıyor. LEAN geleneksel olarak karmaşık matematiksel kanıtları doğrulamak için kullanılır ve Pramaana bu teknolojiyi belirli profesyonel alanların "kurallarını" kodlamak için uyarlamayı planlıyor.

Şirket, doğruluğun tartışmaya kapalı olduğu yüksek hassasiyetli dikey sektörleri hedefliyor:

Bu sistemlerin gerçeklikle temellendirilmesini sağlamak için Pramaana, seçkin alan uzmanlarıyla iş birliği yapıyor. Bu kapsamda, vergiyle ilgili uygulamalar için eski IRS komiseri Danny Werfel'in yanı sıra siber güvenlik ve ilaç keşfi protokollerini denetlemek üzere IIT Delhi, IIT Madras ve UC Berkeley'den profesörler yer alıyor.

Bu, Yapay Zeka Ekosistemi İçin Neden Önemli?

Khosla Ventures liderliğinde; Accel, Boldcap, Nexus Venture Partners, Premji Invest ve Unbound'un katılımıyla gerçekleşen 27 milyon dolarlık tohum yatırım turu, yapay zeka yatırımlarında devasa bir değişimin sinyalini veriyor. Üretken yapay zekanın "hızlı hareket et ve bir şeyleri boz" dönemi, kurumsal dünyanın "doğrula ve teyit et" gereksinimleriyle karşı karşıya geliyor.

Pramaana Labs, biçimselleştirilmemiş bilgiyi yürütülebilir ve doğrulanabilir koda dönüştürerek (Fransa'nın CATALA projesine benzer şekilde), yapay zekanın düzenlemeye tabi sektörlerde nasıl konuşlandırılabileceğine dair bir yol haritası sunuyor. Eğer başarılı olursa bu yaklaşım; yapay zekanın insan sağlığını, yasal hakları ve devasa finansal sistemleri güvenli bir şekilde yönetmesine olanak tanıyarak trilyonlarca dolarlık değer yaratabilir.

Önemli Çıkarımlar