Pramaana Labs એ ફોર્મલ વેરિફિકેશન દ્વારા AI વિશ્વસનીયતાના પ્રશ્નને ઉકેલવા માટે $27M મેળવ્યા

જેમ જેમ એન્ટરપ્રાઇઝ્સ AI ને પ્રાયોગિક પાયલોટ પ્રોગ્રામ્સમાંથી મિશન-ક્રિટિકલ બિઝનેસ કામગીરીમાં પરિવર્તિત કરવા માટે સંઘર્ષ કરી રહ્યા છે, તેમ ઉદ્યોગ એક મોટા અવરોધનો સામનો કરી રહ્યો છે: વિશ્વસનીયતા. Pramaana Labs લાર્જ લેંગ્વેજ મોડલ્સ (LLMs) ના અનિશ્ચિત સ્વભાવ પર ફોર્મલ વેરિફિકેશનની ગાણિતિક ચોકસાઈ લાગુ કરીને આ અંતરને પૂરવાનો લક્ષ્ય રાખે છે.

પ્રોબેબિલિસ્ટિક અને ડેટરમિનિસ્ટિક AI વચ્ચેનું અંતર ઘટાડવું

આધુનિક AI માં મૂળભૂત તણાવ પ્રોબેબિલિસ્ટિક (probabilistic) તર્ક અને ડેટરમિનિસ્ટિક (deterministic) સત્ય વચ્ચેના તફાવતમાં રહેલો છે. જોકે LLMs કુદરતી ભાષાના પ્રક્રિયા કરવામાં અને જટિલ, અસંગઠિત ડેટાને હેન્ડલ કરવામાં ઉત્કૃષ્ટ છે, પરંતુ તેઓ હેલ્યુસિનેશન (hallucinations) અને તાર્કિક ભૂલો માટે સંવેદનશીલ છે. એવા ઉદ્યોગો માટે જ્યાં એક નાની ભૂલ કાનૂની અથવા નાણાકીય આપત્તિ તરફ દોરી શકે છે, ત્યાં આ ભૂલો અસ્વીકાર્ય છે.

Pramaana Labs એક હાઇબ્રિડ આર્કિટેક્ચર બનાવીને આ સમસ્યાનું નિરાકરણ લાવી રહ્યું છે. તેમની સિસ્ટમ કુદરતી ભાષાના સંપર્ક માટે જરૂરી લવચીકતા જાળવી રાખવા માટે પરંપરાગત LLM એન્જિનનો ઉપયોગ કરે છે, પરંતુ તે તેની ઉપર એક ડેટરમિનિસ્ટિક વેરિફિકેશન લેયર ઉમેરે છે. આ લેયર સુનિશ્ચિત કરે છે કે LLM દ્વારા જનરેટ થયેલ આઉટપુટ કડક, કોડિફાઇડ નિયમોનું પાલન કરે છે, જે અસરકારક રીતે ભૂલો સામે ગાણિતિક ગાર્ડરેલ (guardrail) તરીકે કામ કરે છે.

ઉચ્ચ જોખમ ધરાવતા ઉદ્યોગ એપ્લિકેશન્સ માટે LEAN નો ઉપયોગ કરવો

પ્રમાણભૂત સોફ્ટવેર ટેસ્ટિંગથી વિપરીત, Pramaana Labs ફોર્મલ વેરિફિકેશનના સાધનોનો ઉપયોગ કરી રહ્યું છે, ખાસ કરીને ઓપન-સોર્સ LEAN પ્રોગ્રામિંગ લેંગ્વેજમાંથી પ્રેરણા લઈ રહ્યું છે. LEAN નો પરંપરાગત રીતે જટિલ ગાણિતિક પુરાવાઓને વેરિફાય કરવા માટે ઉપયોગ કરવામાં આવે છે, અને Pramaana આ ટેકનોલોજીને ચોક્કસ વ્યાવસાયિક ક્ષેત્રોના "નિયમો" ને કોડિફાઇ કરવા માટે અનુકૂલિત કરવાની યોજના ધરાવે છે.

કંપની એવા ઉચ્ચ-સંવેદનશીલ વર્ટિકલ્સને લક્ષ્ય બનાવી રહી છે જ્યાં ચોકસાઈ અનિવાર્ય છે:

• કાયદો અને ટેક્સ તૈયારી (Law and Tax Preparation): તર્ક ડેટરમિનિસ્ટિક રહે તે સુનિશ્ચિત કરવા માટે જટિલ ટેક્સ કોડ્સના કોડિફાઇડ વર્ઝનનો ઉપયોગ કરવો.
• દવાઓની શોધ (Drug Discovery): સુરક્ષા અને અસરકારકતા સુનિશ્ચિત કરવા માટે જૈવિક અને રાસાયણિક ડેટા પર કડક વેરિફિકેશન લાગુ કરવું.
• સાયબર સિક્યુરિટી (Cybersecurity): ડિજિટલ ઇન્ફ્રાસ્ટ્રક્ચરને સુરક્ષિત કરવા માટે ફોર્મલ ગાણિતિક તપાસ લાગુ કરવી.

આ સિસ્ટમ્સ વાસ્તવિકતા સાથે જોડાયેલી રહે તે સુનિશ્ચિત કરવા માટે, Pramaana ઉચ્ચ સ્તરીય ડોમેન નિષ્ણાતો સાથે સહયોગ કરી રહી છે. આમાં ટેક્સ સંબંધિત એપ્લિકેશન્સ માટે ભૂતપૂર્વ IRS કમિશનર ડેની વર્ફેલ (Danny Werfel), તેમજ સાયબર સિક્યુરિટી અને ડ્રગ ડિસ્કવરી પ્રોટોકોલની દેખરેખ રાખવા માટે IIT દિલ્હી, IIT મદ્રાસ અને UC બર્કલેના પ્રોફેસરોનો સમાવેશ થાય છે.

AI ઇકોસિસ્ટમ માટે આ શા માટે મહત્વનું છે

$27 મિલિયનનું સીડ રાઉન્ડ—જે Khosla Ventures ના નેતૃત્વ હેઠળ અને Accel, Boldcap, Nexus Venture Partners, Premji Invest, અને Unbound ની સહભાગીતા સાથે હાથ ધરવામાં આવ્યું છે—AI રોકાણમાં એક મોટા પરિવર્તનને સૂચવે છે. જનરેટિવ AI નો "ઝડપથી આગળ વધો અને ભૂલો કરો" (move fast and break things) યુગ હવે એન્ટરપ્રાઇઝ જગતની "ચકાસણી અને પ્રમાણિતકરણ" (verify and validate) ની જરૂરિયાતો સાથે સામનો કરી રહ્યો છે.

અનૌપચારિક જ્ઞાનને એક્ઝિક્યુટેબલ અને ચકાસી શકાય તેવા કોડમાં ફેરવીને (ફ્રાન્સના CATALA પ્રોજેક્ટ સમાન), Pramaana Labs એ બ્લુપ્રિન્ટ પૂરી પાડી રહી છે કે કેવી રીતે નિયંત્રિત ક્ષેત્રોમાં AI ને તૈનાત કરી શકાય છે. જો આ અભિગમ સફળ થશે, તો તે AI ને માનવ સ્વાસ્થ્ય, કાનૂની અધિકારો અને વિશાળ નાણાકીય પ્રણાલીઓને સુરક્ષિત રીતે સંભાળવા દેવાની મંજૂરી આપીને ટ્રિલિયન ડોલરનું મૂલ્ય અનલોક કરી શકે છે.

મુખ્ય મુદ્દાઓ

• Hybrid Architecture: Pramaana Labs હેલ્યુસિનેશન (hallucinations) ને દૂર કરવા માટે LLMs ની લવચીકતાને LEAN-શૈલીના ફોર્મલ વેરિફિકેશન દ્વારા સંચાલિત ડેટરમિનિસ્ટિક લેયર સાથે જોડે છે.
• High-Stakes Focus: આ સ્ટાર્ટઅપ એવા ઉદ્યોગોને પ્રાથમિકતા આપી રહ્યું છે જ્યાં ભૂલોના ગંભીર પરિણામો આવી શકે છે, જેમાં કાયદો, ટેક્સ, ડ્રગ ડિસ્કવરી અને સાયબર સિક્યુરિટીનો સમાવેશ થાય છે.
• Major Institutional Backing: Khosla Ventures ના નેતૃત્વ હેઠળનું $27 મિલિયનનું સીડ રાઉન્ડ ચકાસી શકાય તેવા અને વિશ્વસનીય AI સિસ્ટમ્સ માટે વધતી જતી બજારની માંગ પર ભાર મૂકે છે.