Pramaana Labs ਨੇ AI ਦੀ ਭਰੋਸੇਯੋਗਤਾ ਨੂੰ ਹੱਲ ਕਰਨ ਲਈ Formal Verification ਨਾਲ $27M ਪ੍ਰਾਪਤ ਕੀਤੇ
ਜਿਵੇਂ-ਜਿਵੇਂ ਉਦਯੋਗਾਂ ਨੂੰ AI ਨੂੰ ਪ੍ਰਯੋਗਿਕ ਪਾਇਲਟ ਪ੍ਰੋਗਰਾਮਾਂ ਤੋਂ ਮਿਸ਼ਨ-ਕ੍ਰਿਟੀਕਲ ਕਾਰੋਬਾਰੀ ਕਾਰਜਾਂ ਵਿੱਚ ਤਬਦੀਲ ਕਰਨ ਲਈ ਸੰਘਰਸ਼ ਕਰਨਾ ਪੈ ਰਿਹਾ ਹੈ, ਉਦਯੋਗ ਇੱਕ ਵੱਡੀ ਰੁਕਾਵਟ ਦਾ ਸਾਹਮਣਾ ਕਰ ਰਿਹਾ ਹੈ: ਭਰੋਸੇਯੋਗਤਾ। Pramaana Labs ਦਾ ਉਦੇਸ਼ Large Language Models (LLMs) ਦੀ ਅਨਿਸ਼ਚਿਤ ਪ੍ਰਕਿਰਤੀ 'ਤੇ formal verification ਦੀ ਗਣਿਤਕ ਸਖ਼ਤੀ ਲਾਗੂ ਕਰਕੇ ਇਸ ਪਾੜੇ ਨੂੰ ਪੂਰਾ ਕਰਨਾ ਹੈ।
Probabilistic ਅਤੇ Deterministic AI ਵਿਚਕਾਰ ਪਾੜੇ ਨੂੰ ਪੂਰਾ ਕਰਨਾ
ਆਧੁਨਿਕ AI ਵਿੱਚ ਮੂਲ ਤਣਾਅ probabilistic ਤਰਕ ਅਤੇ deterministic ਸੱਚਾਈ ਵਿਚਕਾਰ ਅੰਤਰ ਵਿੱਚ ਹੈ। ਹਾਲਾਂਕਿ LLMs ਕੁਦਰਤੀ ਭਾਸ਼ਾ ਨੂੰ ਪ੍ਰੋਸੈਸ ਕਰਨ ਅਤੇ ਗੁੰਝਲਦਾਰ, ਅਣ-ਰਚਿਤ (unstructured) ਡੇਟਾ ਨੂੰ ਸੰਭਾਲਣ ਵਿੱਚ ਮਾਹਰ ਹਨ, ਪਰ ਉਹਨਾਂ ਵਿੱਚ hallucinations ਅਤੇ ਤਰਕ ਦੀਆਂ ਗਲਤੀਆਂ ਹੋਣ ਦੀ ਸੰਭਾਵਨਾ ਰਹਿੰਦੀ ਹੈ। ਉਹਨਾਂ ਉਦਯੋਗਾਂ ਲਈ ਜਿੱਥੇ ਇੱਕ ਇਕਲੌਤੀ ਗਲਤੀ ਕਾਨੂੰਨੀ ਜਾਂ ਵਿੱਤੀ ਤਬਾਹੀ ਦਾ ਕਾਰਨ ਬਣ ਸਕਦੀ ਹੈ, ਇਹ ਗਲਤੀਆਂ ਅਸਵੀਕਾਰਯੋਗ ਹਨ।
Pramaana Labs ਇੱਕ ਹਾਈਬ੍ਰਿਡ ਆਰਕੀਟੈਕਚਰ ਬਣਾ ਕੇ ਇਸ ਦਾ ਹੱਲ ਕਰ ਰਿਹਾ ਹੈ। ਉਹਨਾਂ ਦਾ ਸਿਸਟਮ ਕੁਦਰਤੀ ਭਾਸ਼ਾ ਦੀ ਆਪਸੀ ਕਿਰਿਆ ਲਈ ਲੋੜੀਂਦੀ ਲਚਕਤਾ ਬਣਾਈ ਰੱਖਣ ਲਈ ਇੱਕ ਰਵਾਇਤੀ LLM ਇੰਜਣ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ, ਪਰ ਇਸ ਦੇ ਉੱਪਰ ਇੱਕ deterministic verification layer ਲਗਾਈ ਜਾਂਦੀ ਹੈ। ਇਹ ਲੇਅਰ ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦੀ ਹੈ ਕਿ LLM ਦੁਆਰਾ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਆਉਟਪੁੱਟ ਸਖ਼ਤ, ਕੋਡਿਫਾਈਡ ਨਿਯਮਾਂ ਦੀ ਪਾਲਣਾ ਕਰੇ, ਜੋ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਗਲਤੀਆਂ ਵਿਰੁੱਧ ਇੱਕ ਗਣਿਤਕ ਗਾਰਡਰੇਲ ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਹੈ।
ਉੱਚ-ਜੋਖਮ ਵਾਲੇ ਉਦਯੋਗਿਕ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ LEAN ਦੀ ਵਰਤੋਂ ਕਰਨਾ
ਸਟੈਂਡਰਡ ਸੌਫਟਵੇਅਰ ਟੈਸਟਿੰਗ ਦੇ ਉਲਟ, Pramaana Labs formal verification ਦੇ ਸਾਧਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰ ਰਿਹਾ ਹੈ, ਖਾਸ ਤੌਰ 'ਤੇ ਓਪਨ-ਸੋਰਸ LEAN ਪ੍ਰੋਗਰਾਮਿੰਗ ਭਾਸ਼ਾ ਤੋਂ ਪ੍ਰੇਰਨਾ ਲੈ ਰਿਹਾ ਹੈ। LEAN ਦੀ ਵਰਤੋਂ ਰਵਾਇਤੀ ਤੌਰ 'ਤੇ ਗੁੰਝਲਦਾਰ ਗਣਿਤਕ ਸਬੂਤਾਂ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਲਈ ਕੀਤੀ ਜਾਂਦੀ ਹੈ, ਅਤੇ Pramaana ਇਸ ਤਕਨਾਲੋਜੀ ਨੂੰ ਵਿਸ਼ੇਸ਼ ਪੇਸ਼ੇਵਰ ਖੇਤਰਾਂ ਦੇ "ਨਿਯਮਾਂ" ਨੂੰ ਕੋਡਿਫਾਈ ਕਰਨ ਲਈ ਅਪਣਾਉਣ ਦੀ ਯੋਜਨਾ ਬਣਾ ਰਿਹਾ ਹੈ।
ਕੰਪ
$27 ਮਿਲੀਅਨ ਦਾ ਸੀਡ ਰਾਊਂਡ—ਜਿਸ ਦੀ ਅਗਵਾਈ Khosla Ventures ਕਰ ਰਿਹਾ ਹੈ ਅਤੇ ਜਿਸ ਵਿੱਚ Accel, Boldcap, Nexus Venture Partners, Premji Invest, ਅਤੇ Unbound ਨੇ ਹਿੱਸਾ ਲਿਆ ਹੈ—AI ਨਿਵੇਸ਼ ਵਿੱਚ ਇੱਕ ਵੱਡੇ ਬਦਲਾਅ ਦਾ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ। ਜਨਰੇਟਿਵ AI ਦਾ "ਤੇਜ਼ੀ ਨਾਲ ਕੰਮ ਕਰਨ ਅਤੇ ਗਲਤੀਆਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਨ" (move fast and break things) ਵਾਲਾ ਦੌਰ ਹੁਣ ਉੱਦਮ ਸੰਸਾਰ (enterprise world) ਦੀਆਂ "ਪੁਸ਼ਟੀ ਅਤੇ ਪ੍ਰਮਾਣਿਤ" (verify and validate) ਕਰਨ ਦੀਆਂ ਲੋੜਾਂ ਨਾਲ ਮਿਲ ਰਿਹਾ ਹੈ।
ਗੈਰ-ਰਸਮੀ ਗਿਆਨ ਨੂੰ ਚਲਾਉਣਯੋਗ ਅਤੇ ਪ੍ਰਮਾਣਿਤ ਕੋਡ (ਫਰਾਂਸ ਦੇ CATALA ਪ੍ਰੋਜੈਕਟ ਵਾਂਗ) ਵਿੱਚ ਬਦਲ ਕੇ, Pramaana Labs ਇੱਕ ਨਮੂਨਾ (blueprint) ਪ੍ਰਦਾਨ ਕਰ ਰਿਹਾ ਹੈ ਕਿ ਕਿਵੇਂ ਨਿਯਮਤ ਖੇਤਰਾਂ ਵਿੱਚ AI ਨੂੰ ਲਾਗੂ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਜੇਕਰ ਇਹ ਸਫਲ ਹੁੰਦਾ ਹੈ, ਤਾਂ ਇਹ ਪਹੁੰਚ AI ਨੂੰ ਮਨੁੱਖੀ ਸਿਹਤ, ਕਾਨੂੰਨੀ ਅਧਿਕਾਰਾਂ ਅਤੇ ਵਿਸ਼ਾਲ ਵਿੱਤੀ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਸੁਰੱਖਿਅਤ ਰੂਪ ਵਿੱਚ ਪ੍ਰਬੰਧਿਤ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦੇ ਕੇ ਟ੍ਰਿਲੀਅਨਾਂ ਡਾਲਰਾਂ ਦੀ ਕੀਮਤ ਖੋਲ੍ਹ ਸਕਦੀ ਹੈ।
ਮੁੱਖ ਨੁਕਤੇ
- Hybrid Architecture: Pramaana Labs ਹਲੂਸੀਨੇਸ਼ਨ (hallucinations) ਨੂੰ ਖਤਮ ਕਰਨ ਲਈ LLMs ਦੀ ਲਚਕਤਾ ਨੂੰ LEAN-ਸ਼ੈਲੀ ਦੀ ਫਾਰਮਲ ਵੈਰੀਫਿਕੇਸ਼ਨ ਦੁਆਰਾ ਸੰਚਾਲਿਤ ਇੱਕ ਡਿਟਰਮਨਿਸਟਿਕ ਲੇਅਰ (deterministic layer) ਨਾਲ ਜੋੜਦਾ ਹੈ।
- High-Stakes Focus: ਇਹ ਸਟਾਰਟਅੱਪ ਉਨ੍ਹਾਂ ਉਦਯੋਗਾਂ ਨੂੰ ਤਰਜੀਹ ਦੇ ਰਿਹਾ ਹੈ ਜਿੱਥੇ ਗਲਤੀਆਂ ਦੇ ਗੰਭੀਰ ਨਤੀਜੇ ਹੋ ਸਕਦੇ ਹਨ, ਜਿਸ ਵਿੱਚ ਕਾਨੂੰਨ, ਟੈਕਸ, ਦਵਾਈ ਦੀ ਖੋਜ (drug discovery), ਅਤੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ (cybersecurity) ਸ਼ਾਮਲ ਹਨ।
- Major Institutional Backing: Khosla Ventures ਦੀ ਅਗਵਾਈ ਵਿੱਚ $27 ਮਿਲੀਅਨ ਦਾ ਸੀਡ ਰਾਊਂਡ ਪ੍ਰਮਾਣਿਤ ਅਤੇ ਭਰੋਸੇਮੰਦ AI ਪ੍ਰਣਾਲੀਆਂ ਲਈ ਵਧਦੀ ਬਾਜ਼ਾਰ ਦੀ ਮੰਗ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ।