ఫార్మల్ వెరిఫికేషన్ (Formal Verification) ద్వారా AI విశ్వసనీయతను పరిష్కరించడానికి Pramaana Labs $27M ని సేకరించింది

సంస్థలు AIని ప్రయోగాత్మక పైలట్ ప్రోగ్రామ్‌ల నుండి అత్యంత కీలకమైన వ్యాపార కార్యకలాపాలకు మార్చడానికి ప్రయత్నిస్తున్న తరుణంలో, పరిశ్రమ ఒక పెద్ద అడ్డంకిని ఎదుర్కొంటోంది: అదే విశ్వసనీయత (reliability). Large Language Models (LLMs) యొక్క అనిశ్చిత స్వభావానికి ఫార్మల్ వెరిఫికేషన్ యొక్క గణిత ఖచ్చితత్వాన్ని వర్తింపజేయడం ద్వారా ఈ అంతరాన్ని పూరించాలని Pramaana Labs లక్ష్యంగా పెట్టుకుంది.

ప్రాబబిలిస్టిక్ (Probabilistic) మరియు డిటర్మినిస్టిక్ (Deterministic) AI మధ్య అంతరాన్ని పూరించడం

ఆధునిక AIలో ఉన్న ప్రాథమిక సంఘర్షణ ప్రాబబిలిస్టిక్ రీజనింగ్ (probabilistic reasoning) మరియు డిటర్మినిస్టిక్ సత్యం (deterministic truth) మధ్య ఉన్న తేడాలో ఉంది. LLMs సహజ భాషను ప్రాసెస్ చేయడంలో మరియు సంక్లిష్టమైన, అసంఘటిత డేటాను నిర్వహించడంలో అద్భుతంగా పనిచేసినప్పటికీ, అవి హాలూసినేషన్స్ (hallucinations) మరియు లాజిక్ లోపాలకు గురయ్యే అవకాశం ఉంది. ఒక చిన్న తప్పు కూడా చట్టపరమైన లేదా ఆర్థిక విపత్తులకు దారితీసే పరిశ్రమలకు, ఇటువంటి లోపాలు అంగీకారం లేనివి.

Pramaana Labs ఒక హైబ్రిడ్ ఆర్కిటెక్చర్‌ను నిర్మించడం ద్వారా దీనిని పరిష్కరిస్తోంది. సహజ భాషా పరస్పర చర్యకు అవసరమైన ఫ్లెక్సిబిలిటీని కొనసాగించడానికి వారి సిస్టమ్ సంప్రదాయ LLM ఇంజిన్‌ను ఉపయోగిస్తుంది, అయితే దానిపై ఒక డిటర్మినిస్టిక్ వెరిఫికేషన్ లేయర్‌ను (deterministic verification layer) ఏర్పాటు చేస్తుంది. ఈ లేయర్ LLM ద్వారా రూపొందించబడిన అవుట్‌పుట్ కఠినమైన, కోడిఫైడ్ నియమాలను అనుసరిస్తుందని నిర్ధారిస్తుంది, ఇది లోపాలకు వ్యతిరేకంగా ఒక గణిత రక్షణ కవచంలా (mathematical guardrail) పనిచేస్తుంది.

కీలకమైన పరిశ్రమల అనువర్తనాల కోసం LEAN ని ఉపయోగించడం

సాధారణ సాఫ్ట్‌వేర్ టెస్టింగ్‌కు భిన్నంగా, Pramaana Labs ఫార్మల్ వెరిఫికేషన్ సాధనాలను ఉపయోగిస్తోంది, ప్రత్యేకంగా ఓపెన్-సోర్స్ LEAN ప్రోగ్రామింగ్ లాంగ్వేజ్ నుండి ప్రేరణ పొందుతోంది. LEAN సాంప్రదాయకంగా సంక్లిష్టమైన గణిత నిరూపణలను (mathematical proofs) ధృవీకరించడానికి ఉపయోగించబడుతుంది, మరియు Pramaana ఈ సాంకేతికతను నిర్దిష్ట వృత్తిపరమైన డొమైన్‌ల యొక్క "నియమాలను" కోడిఫై చేయడానికి అనువదించాలని యోచిస్తోంది.

కంపెనీ ఖచ్చితత్వం తప్పనిసరిగా ఉండవలసిన అత్యంత సున్నితమైన రంగాలను లక్ష్యంగా చేసుకుంది:

ఈ వ్యవస్థలు వాస్తవానికి అనుగుణంగా ఉండేలా చూడటానికి, Pramaana ఉన్నత స్థాయి డొమైన్ నిపుణులతో కలిసి పనిచేస్తోంది. ఇందులో పన్ను సంబంధిత అనువర్తనాల కోసం మాజీ IRS కమిషనర్ Danny Werfel, అలాగే సైబర్ సెక్యూరిటీ మరియు డ్రగ్ డిస్కవరీ ప్రోటోకాల్‌లను పర్యవేక్షించడానికి IIT ఢిల్లీ, IIT మద్రాస్ మరియు UC Berkeleyల నుండి ప్రొఫెసర్లు ఉన్నారు.

AI ఎకోసిస్టమ్ కోసం ఇది ఎందుకు ముఖ్యం

$27 మిలియన్ల సీడ్ రౌండ్—Khosla Ventures నేతృత్వంలో మరియు Accel, Boldcap, Nexus Venture Partners, Premji Invest, మరియు Unbound ల భాగస్వామ్యంతో—AI పెట్టుబడులలో ఒక భారీ మార్పును సూచిస్తోంది. జనరేటివ్ AI యొక్క "వేగంగా ముందుకు సాగండి మరియు తప్పులు చేయండి" (move fast and break things) యుగం, ఎంటర్‌ప్రైజ్ ప్రపంచం యొక్క "ధృవీకరించండి మరియు సరిచూసుకోండి" (verify and validate) అవసరాలను ఎదుర్కొంటోంది.

అసంఘటిత జ్ఞానాన్ని (unformalized knowledge) అమలు చేయగల, ధృవీకరించదగిన కోడ్‌గా (executable, verifiable code) మార్చడం ద్వారా (ఫ్రాన్స్‌లోని CATALA ప్రాజెక్ట్ తరహాలో), Pramaana Labs నియంత్రిత రంగాలలో (regulated sectors) AIని ఎలా అమలు చేయవచ్చో తెలిపే ఒక బ్లూప్రింట్‌ను అందిస్తోంది. ఇది విజయవంతమైతే, మానవ ఆరోగ్యం, చట్టపరమైన హక్కులు మరియు భారీ ఆర్థిక వ్యవస్థలను AI సురక్షితంగా నిర్వహించేలా చేయడం ద్వారా ట్రిలియన్ల డాలర్ల విలువను వెలికితీసే అవకాశం ఉంది.

ముఖ్య అంశాలు