OpenAI ನ ಆಂತರಿಕ Astra ವ್ಯವಸ್ಥೆಯು ಹತ್ತು ದೀರ್ಘಕಾಲದ ಗಣಿತದ ಸಮಸ್ಯೆಗಳಿಗೆ ಔಪಚಾರಿಕ ಪುರಾವೆಗಳನ್ನು (formal proofs) ಸಿದ್ಧಪಡಿಸಿದೆ ಎಂದು ಘೋಷಿಸಿದೆ ಮತ್ತು ಪ್ರತಿ ವಾದವನ್ನೂ Lean 4 ನಲ್ಲಿ ಯಂತ್ರ-ಪರಿಶೀಲಿತ (machine-checked) ದೃಢೀಕರಣದೊಂದಿಗೆ ಬೆಂಬಲಿಸಿದೆ. ತಂಡವು ತಾಂತ್ರಿಕ ಪ್ರಬಂಧ ಮತ್ತು ಮುಕ್ತ-ಮೂಲ (open-source) ರೆಪೊಸಿಟರಿಯನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿದೆ, ಇದು ಯಾವುದೇ ವ್ಯಕ್ತಿಯು ಕೇವಲ ತರ್ಕವನ್ನು ಕಾಂಪೈಲರ್ ಸ್ವೀಕರಿಸುವ ಅಥವಾ ತಿರಸ್ಕರಿಸುವ ಪುರಾವೆಯಾಗಿ ಪರಿವರ್ತಿಸುವ ಕೋಡ್ ಅನ್ನು ನೋಡಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ. ಹೆಚ್ಚಿನ ಅಪಾಯವಿರುವ ಕ್ಷೇತ್ರಗಳಲ್ಲಿ AI ಸಹಾಯವನ್ನು ಬಯಸುವ ಡೆವಲಪರ್ಗಳಿಗೆ, ಇದು ಮಾದರಿಯು ಕೇವಲ ಕಲ್ಪನೆಗಳನ್ನು ಸೃಷ್ಟಿಸುವ ಆದರೆ ಯಾವುದು ಸತ್ಯ ಎಂದು ನಿರ್ಧರಿಸದ ಕೆಲಸದ ಪ್ರಕ್ರಿಯೆಗಳನ್ನು (workflows) ನಿರ್ಮಿಸಲು ಒಂದು ನಿರ್ದಿಷ್ಟ ಮಾದರಿಯಾಗಿದೆ.
Astra ನ ಈ ಮಹತ್ವದ ಬೆಳವಣಿಗೆ ಏಕೆ ಮುಖ್ಯ
Large language models (LLMs) ನಂಬಲರ್ಹವಾಗಿ ಕಾಣುವ ಪಠ್ಯವನ್ನು ಸೃಷ್ಟಿಸುತ್ತವೆ, ಆದರೆ ಅವು ಪದೇ ಪದೇ ತಪ್ಪು ಮಾಹಿತಿಗಳನ್ನು ಸೃಷ್ಟಿಸುತ್ತವೆ (hallucinate) ಅಥವಾ ತಾರ್ಕಿಕವಾಗಿ ಸರಿಯಲ್ಲದ ಹಂತಗಳನ್ನು ಜೋಡಿಸುತ್ತವೆ. ಕಡಿಮೆ ಅಪಾಯವಿರುವ ಸಂದರ್ಭಗಳಲ್ಲಿ ಮಾನವ ವಿಮರ್ಶಕರು ಹೆಚ್ಚಿನ ತಪ್ಪುಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಬಹುದು, ಆದರೆ ಹಣಕಾಸು, ವೈದ್ಯಕೀಯ ಅಥವಾ ವೈಜ್ಞಾನಿಕ ಸಂಶೋಧನೆಯಲ್ಲಿ ಪತ್ತೆಹಚ್ಚದ ತಪ್ಪಿನ ವೆಚ್ಚವು ವಿನಾಶಕಾರಿಯಾಗಬಹುದು. Astra ಎಂಬುದು LLM ನ ಸೃಜನಶೀಲ ಶಕ್ತಿಯನ್ನು ಉಳಿಸಿಕೊಳ್ಳುವ ಜೊತೆಗೆ ಅದರ ಫಲಿತಾಂಶವನ್ನು ಕುರುಡಾಗಿ ನಂಬುವ ಅಗತ್ಯವನ್ನು ತೆಗೆದುಹಾಕುವ ಮಾರ್ಗವನ್ನು ತೋರಿಸುತ್ತದೆ.
ದೃಢೀಕರಿಸಲ್ಪಟ್ಟ ಫಲಿತಾಂಶಕ್ಕೆ ಕಾರಣವಾದ ಹಾದಿ
OpenAI ನ ಎಂಜಿನಿಯರ್ಗಳು ಮೂರು ಹಂತಗಳ ಪೈಪ್ಲೈನ್ ಸುತ್ತ Astra ಅನ್ನು ನಿರ್ಮಿಸಿದ್ದಾರೆ:
- Generation (ಸೃಷ್ಟಿ) – ಮಾದರಿಯು ಪುರಾವೆಯ ಹಂತಗಳನ್ನು ಪ್ರಸ್ತಾಪಿಸುವ ಮೂಲಕ ಪುನರಾವರ್ತಿತ ತರ್ಕದ ಲೂಪ್ಗಳನ್ನು (reasoning loops) ನಡೆಸುತ್ತದೆ.
- Exposition (ವಿವರಣೆ) – ಆ ಹಂತಗಳನ್ನು ಓದುವಿಕೆಗೆ ಸುಲಭವಾಗುವಂತೆ ರೂಪಿಸಲು ಮಾನವರು ಮತ್ತು ಮಾದರಿಯು ಸಹಕರಿಸುತ್ತವೆ.
- Formalization (ಔಪಚಾರಿಕೀಕರಣ) – ವಿವರಣೆಯನ್ನು Lean 4 ಕೋಡ್ ಆಗಿ ಪರಿವರ್ತಿಸಲಾಗುತ್ತದೆ, ಇದನ್ನು ಕಾಂಪೈಲರ್ ಸಾಲು ಸಾಲಾಗಿ ಪರಿಶೀಲಿಸುತ್ತದೆ.
ಮುಖ್ಯವಾದ ಬದಲಾವಣೆಯೆಂದರೆ Lean 4 ಗೆ ಹಸ್ತಾಂತರಿಸುವುದು. ಸಾಮಾನ್ಯ ಪಠ್ಯ ವಿವರಣೆಯಂತೆ ಅಲ್ಲದೆ, Lean 4 ಪ್ರತಿಯೊಂದು ಅನುಮಾನಾಸ್ಪದ ತರ್ಕವನ್ನೂ (inference) ಕಟ್ಟುನಿಟ್ಟಾದ ತಾರ್ಕಿಕ ಕರ್ನಲ್ (logical kernel) ಪ್ರಕಾರ ಸಮರ್ಥಿಸಬೇಕೆಂದು ಒತ್ತಾಯಿಸುತ್ತದೆ. ಕಾಂಪೈಲರ್ನಲ್ಲಿ ವ್ಯತ್ಯಾಸ ಕಂಡುಬಂದರೆ, ಪೈಪ್ಲೈನ್ ಆ ತಪ್ಪನ್ನು ತಿದ್ದುಪಡಿ ಮಾಡಲು ಮಾದರಿಗೆ ಮರಳಿ ಕಳುಹಿಸುತ್ತದೆ. ಅಂತಿಮ ತೀರ್ಪನ್ನು LLM ಅಲ್ಲ, ಬದಲಾಗಿ ವೆರಿಫೈಯರ್ (verifier) ನೀಡುತ್ತದೆ.
ಡೆವಲಪರ್ಗಳು ಮತ್ತು ಸಂಸ್ಥೆಗಳಿಗೆ ಇರುವ ಜವಾಬ್ದಾರಿಗಳು
- Reliability (ನಂಬಿಕಾರ್ಹತೆ) – AI-ಸೃಷ್ಟಿತ ಅಂಶವು ನಿಯಂತ್ರಕ ಅಥವಾ ಸುರಕ್ಷತಾ ಮಾನದಂಡಗಳನ್ನು ಪೂರೈಸಬೇಕಾದಾಗ, ಔಪಚಾರಿಕ ವೆರಿಫೈಯರ್ ಕೇವಲ ಮೂಲ ಡೆವಲಪರ್ ಮಾತ್ರವಲ್ಲದೆ ಆಡಿಟರ್ಗಳು ಪರಿಶೀಲಿಸಬಹುದಾದ ಆಡಿಟ್ ಟ್ರೈಲ್ ಅನ್ನು ಒದಗಿಸುತ್ತದೆ.
ಈ ವಿಧಾನವು ಹೆಚ್ಚಿನ ಕೆಲಸದ ಹೊರೆಯನ್ನು (overhead) ತರುತ್ತದೆ. ವೆರಿಫೈಯರ್ ಅರ್ಥಮಾಡಿಕೊಳ್ಳಬಲ್ಲ ವಿಶೇಷಣಗಳನ್ನು (specifications) ಬರೆಯುವುದು, ಔಪಚಾರಿಕ ಪುರಾವೆ ಪರಿಸರವನ್ನು ನಿರ್ವಹಿಸುವುದು ಮತ್ತು ವೆರಿಫಾಸಿಕೇಶನ್ ವೈಫಲ್ಯಗಳನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಎಂಜಿನಿಯರ್ಗಳಿಗೆ ತರಬೇತಿ ನೀಡುವುದು ಇವೆಲ್ಲವೂ ಹೂಡಿಕೆಯನ್ನು ಬಯಸುತ್ತವೆ. ಪ್ರತಿಯೊಂದು ಕ್ಷೇತ್ರದಲ್ಲೂ ಅಂತಿಮ ತೀರ್ಪುಗಾರನಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಪರಿಪೂರ್ಣ ಥಿಯರಮ್ ಪ್ರೂವರ್ (theorem prover) ಅಥವಾ ಟೈಪ್ ಸಿಸ್ಟಮ್ ಇರುವುದಿಲ್ಲ.
ಹೆಚ್ಚಿನ ಲೇಖನಗಳು ಬಿಟ್ಟುಬಿಡುವ ವಿವರಗಳು
- ಯಂತ್ರ-ಓದಬಲ್ಲ ಔಟ್ಪುಟ್ ಅತ್ಯಗತ್ಯ. Astra ಮಾದರಿಯಿಂದ ಮುಕ್ತ ರೂಪದ ಗದ್ಯವನ್ನು (free-form prose) ಕೇಳಲಿಲ್ಲ; ಬದಲಾಗಿ Lean 4 ಕಾಂಪೈಲರ್ ಬಳಸಬಹುದಾದ ಕೋಡ್ ಸ್ನಿಪ್ಪೆಟ್ಗಳು ಮತ್ತು ಸ್ಕೀಮಾ ವ್ಯಾಖ್ಯಾನಗಳನ್ನು (schema definitions) ಸ್ಪಷ್ಟವಾಗಿ ವಿನಂತಿಸಿತು.
- ಫೀಡ್ಬ್ಯಾಕ್ ಲೂಪ್ಗಳು ಅಂತರವನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತವೆ. ಕಾಂಪೈಲರ್ ಟೈಪ್ ಎರರ್ ಅಥವಾ ಸಾಬೀತುಪಡಿಸದ ಲೆಮ್ಮಾವನ್ನು (unproven lemma) ವರದಿ ಮಾಡಿದಾಗ, ಆ ರೋಗನಿರ್ಣಯವನ್ನು (diagnostic) ಜನರೇಷನ್ ಲೂಪ್ಗೆ ಮರಳಿ ಕಳುಹಿಸಲಾಗುತ್ತದೆ, ಇದು ಮಾದರಿಯು ತನ್ನ ಕಲ್ಪನೆಯನ್ನು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ತಿದ್ದುಪಡಿ ಮಾಡಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.
- Human-in-the-loop ಕಾರ್ಯತಂತ್ರದಂತೆಯೇ ಇರುತ್ತದೆ.
ನಿಮ್ಮದೇ ಆದ ದೃಢೀಕರಿಸಬಹುದಾದ AI ವರ್ಕ್ಫ್ಲೋ ಅನ್ನು ನಿರ್ಮಿಸುವುದು
- Generation ಮತ್ತು Validation ಅನ್ನು ಪ್ರತ್ಯೇಕಿಸಿ. ಪ್ರತಿಯೊಂದು ವಾದವನ್ನು ಸ್ವತಂತ್ರವಾಗಿ ದೃಢೀಕರಿಸಬಲ್ಲ ಕಾಂಪೈಲರ್, ಸ್ಟ್ಯಾಟಿಕ್ ಅನಲೈಸರ್ ಅಥವಾ ಯುನಿಟ್-ಟೆಸ್ಟ್ ಹಾರ್ನೆಸ್ನಂತಹ ನಿರ್ಧಾರಿತ ಸಾಧನವನ್ನು (deterministic tool) LLM ಜೊತೆಗೆ ಜೋಡಿಸಿ.
- ರಚನಾತ್ಮಕ ಅಂಶಗಳನ್ನು (structured artifacts) ಕೇಳಿ. "ಅಲ್ಗಾರಿದಮ್ ಅನ್ನು ವಿವರಿಸಿ" ಎನ್ನುವ ಬದಲು, ಯಂತ್ರವು ಪಾರ್ಸ್ ಮಾಡಬಹುದಾದ ಕೋಡ್ ಫೈಲ್, JSON ಸ್ಕೀಮಾ ಅಥವಾ ಪುರಾವೆ ಸ್ಕ್ರಿಪ್ಟ್ ಅನ್ನು ವಿನಂತಿಸಿ.
- ತಪ್ಪುಗಳ ಫೀಡ್ಬ್ಯಾಕ್ ಅನ್ನು ಮಾದರಿಗೆ ಲೂಪ್ ಮಾಡಿ. ವೆರಿಫೈಯರ್ನ ಎರರ್ ಸಂದೇಶಗಳನ್ನು ಸೆರೆಹಿಡಿದು ಅವುಗಳನ್ನು ಪ್ರಾಂಪ್ಟ್ಗಳಾಗಿ ಮರಳಿ ಕಳುಹಿಸಿ, ಇದರಿಂದ ಮಾನವ ಹಸ್ತಕ್ಷೇಪವಿಲ್ಲದೆ ಮಾದರಿಯು ತಿದ್ದುಪಡಿ ಮಾಡಲು ಪ್ರಯತ್ನಿಸುತ್ತದೆ.
- ಮುಂಚಿತವಾಗಿಯೇ ನಿಖರವಾದ ವಿಶೇಷಣಗಳನ್ನು (specifications) ವ್ಯಾಖ್ಯಾನಿಸಿ. ನೀವು ನೀಡುವ ನಿಯಮಗಳ ವಿರುದ್ಧ ಮಾತ್ರ ವೆರಿಫೈಯರ್ ಪರಿಶೀಲಿಸಲು ಸಾಧ್ಯ; ವಿಶೇಷಣವು ಅಸ್ಪಷ್ಟವಾಗಿದ್ದರೆ ಅಥವಾ ತಪ್ಪಾಗಿದ್ದರೆ, ಪುರಾವೆಯು ಅರ್ಥಹೀನವಾಗುತ್ತದೆ.
ವಿರೋಧಾಭಾಸಗಳು ಮತ್ತು ಮಿತಿಗಳು
ಮುಂದೆ ಏನನ್ನು ಗಮನಿಸಬೇಕು
ಸಾರಾಂಶ
LLM ಅನ್ನು ಕೇವಲ ಒಂದು ಬ್ರೈನ್ ಸ್ಟಾರ್ಮಿಂಗ್ ಪಾಲುದಾರನಾಗಿ ಪರಿಗಣಿಸಿ, ತೀರ್ಪುಗಾರನನ್ನಾಗಿ ಅಲ್ಲ. ಕಾಂಪೈಲರ್, ಲಿಂಟರ್ ಅಥವಾ ಔಪಚಾರಿಕ ಪುರಾವೆ ಇಂಜಿನ್ ಆಗಿರಲಿ, ಒಂದು ನಿರ್ಧಾರಿತ ವೆರಿಫೈಯರ್ ಅನ್ನು ಅಂತಿಮ ತೀರ್ಪು ನೀಡಲು ಬಿಡಿ. ಇವೆರಡನ್ನೂ ಸರಿಯಾಗಿ ಜೋಡಿಸಿದಾಗ, ನೀವು ತಪಾಸಣೆಯಿಲ್ಲದ ಹ್ಯಾಲ್ಯುಸಿನೇಶನ್ಗಳ (hallucinations) ಗುಪ್ತ ಅಪಾಯವಿಲ್ಲದೆ ಜನರೇಟಿವ್ AI ನ ವೇಗವನ್ನು ಪಡೆಯಬಹುದು.