ನಾವು ಸಾಮಾನ್ಯವಾಗಿ ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು (large language models) ಅತ್ಯಂತ ವೇಗವಾಗಿ ಕೆಲಸ ಮಾಡುವ ಗ್ರಂಥಪಾಲಕರು ಎಂದು ಕಲ್ಪಿಸಿಕೊಳ್ಳುತ್ತೇವೆ. ನೀವು ಒಂದು ಪ್ರಶ್ನೆಯನ್ನು ಕೇಳಿದಾಗ, ಅವು ಅತ್ಯುತ್ತಮವಾಗಿ ಹೊಂದಿಕೆಯಾಗುವ ಮಾದರಿಯನ್ನು ಹುಡುಕಲು ಶತಕೋಟಿ ನೆನಪಿಟ್ಟುಕೊಂಡಿರುವ ತುಣುಕುಗಳ ಮೂಲಕ ಓಡುತ್ತವೆ. ಈ ಚಿತ್ರಣವು ಡೆವಲಪರ್ಗಳು ಪ್ರಾಂಪ್ಟ್ಗಳನ್ನು ಹೇಗೆ ನಿರ್ಮಿಸುತ್ತಾರೆ, ಬಳಕೆದಾರರು ಎಂತಹ ನಿರೀಕ್ಷೆಗಳನ್ನು ಹೊಂದಿರುತ್ತಾರೆ ಮತ್ತು ನಿಯಂತ್ರಕರು ನಿಯಮಗಳನ್ನು ಹೇಗೆ ರೂಪಿಸುತ್ತಾರೆ ಎಂಬುದನ್ನು ರೂಪಿಸಿದೆ. ಆದರೆ Anthropic ನ Claude ಕುರಿತಾದ ಸಂಶೋಧನೆಯು ಈ ಚಿತ್ರಣವನ್ನು ಸಂಕೀರ್ಣಗೊಳಿಸುತ್ತಿದೆ. ಈ ಮಾದರಿಯು ನಿಜವಾದ ತರ್ಕಕ್ಕೆ (genuine reasoning) ಹತ್ತಿರವಾಗಿ ಏನನ್ನೋ ಮಾಡುತ್ತಿದೆ ಎಂದು ತೋರುತ್ತದೆ. ಸಂಶೋಧಕರು ಈ ಕಾರ್ಯವಿಧಾನವನ್ನು "j-space reasoning" ಎಂದು ಕರೆಯುತ್ತಿದ್ದಾರೆ, ಮತ್ತು ಇದು Claude ಕೇವಲ ತರಬೇತಿ ಡೇಟಾವನ್ನು ಮರುಬಳಕೆ ಮಾಡುವ ಬದಲು ಪರಿಕಲ್ಪನೆಗಳ ಆಂತರಿಕ ಮಾದರಿಗಳನ್ನು ನಿರ್ಮಿಸುತ್ತದೆ ಎಂದು ಸೂಚಿಸುತ್ತದೆ. ಈ ಸಂಶೋಧನೆಯು ನಿಜವಾದರೆ, ನಾವು ಸುಧಾರಿತ AI ಅನ್ನು ಕೇವಲ ಮುನ್ಸೂಚನಾ ಪಠ್ಯ ಎಂಜಿನ್ (predictive text engine) ಎಂದು ಪರಿಗಣಿಸುವುದನ್ನು ನಿಲ್ಲಿಸಿ, ಅದನ್ನು ಯೋಜಿಸುವ ವ್ಯವಸ್ಥೆಯಾಗಿ (system that plans) ಕಾಣಲು ಪ್ರಾರಂಭಿಸಬೇಕಾಗಬಹುದು.
ಮಾದರಿ ಹೊಂದಾಣಿಕೆಯಿಂದ ಮಾನಸಿಕ ಮಾದರಿಗಳವರೆಗೆ
J-space reasoning ಎಂಬುದು ಕೇವಲ ಮಾರುಕಟ್ಟೆ ಪ್ರಚಾರವಲ್ಲ. ಇದು ಮೇಲ್ಮೈ ಪುನರಾವರ್ತನೆಯಿಂದ ಆಂತರಿಕ ಪ್ರಾತಿನಿಧ್ಯಕ್ಕೆ (internal representation) ಆಗುವ ರಚನಾತ್ಮಕ ಬದಲಾವಣೆಯನ್ನು ವಿವರಿಸುತ್ತದೆ. ಒಬ್ಬ ವ್ಯಕ್ತಿಯು ಜಿಗ್ಸಾ ಪಜಲ್ ಅನ್ನು ಹೇಗೆ ಬಿಡಿಸುತ್ತಾನೆ ಎಂಬುದನ್ನು ಗಮನಿಸಿ. ಅವರು ಪ್ರತಿಯೊಂದು ತುಣುಕನ್ನು ಪ್ರತಿಯೊಂದು ಖಾಲಿ ಜಾಗಕ್ಕೆ ಪ್ರಯತ್ನಿಸುವುದಿಲ್ಲ. ಅವರು ಬಾಕ್ಸ್ ಮೇಲಿರುವ ಚಿತ್ರವನ್ನು ನೋಡುತ್ತಾರೆ, ಬಣ್ಣಗಳು ಮತ್ತು ಅಂಚುಗಳ ಮಾನಸಿಕ ನಕ್ಷೆಯನ್ನು ನಿರ್ಮಿಸುತ್ತಾರೆ ಮತ್ತು ಆ ಯೋಜನೆಯ ಪ್ರಕಾರ ಪ್ರತಿಯೊಂದು ತುಣುಕನ್ನು ಇಡುತ್ತಾರೆ. Claude ಕುರಿತಾದ ಸಂಶೋಧನೆಯು ಮಾದರಿಯು ಅಮೂರ್ತ ಕಲ್ಪನೆಗಳನ್ನು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸುವಾಗ ಇದೇ ರೀತಿಯಲ್ಲಿ ಏನೋ ನಡೆಯುತ್ತದೆ ಎಂದು ಸೂಚಿಸುತ್ತದೆ. ಇದು ಸಮಸ್ಯೆಯ ಸ್ಥಳದ (problem space) ಕಾರ್ಯನಿರ್ವಹಣಾ ಮಾದರಿಯನ್ನು ನಿರ್ಮಿಸುತ್ತದೆ ಮತ್ತು ಅದನ್ನು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಬಳಸಿಕೊಳ್ಳುತ್ತದೆ.
ಸಾಂಪ್ರದಾಯಿಕ ಭಾಷಾ ಮಾದರಿಗಳು ಸಂಬಂಧಗಳನ್ನು (correlation) ಗುರುತಿಸುವಲ್ಲಿ ಅತ್ಯುತ್ತಮವಾಗಿವೆ. "king" ಎಂಬ ಪದವು ಹೆಚ್ಚಾಗಿ "queen" ಪಕ್ಕದಲ್ಲಿ ಕಾಣಿಸಿಕೊಳ್ಳುತ್ತದೆ ಎಂಬುದು ಅವುಗಳಿಗೆ ತಿಳಿದಿದೆ, ಮತ್ತು ಒಂದು ನಿರ್ದಿಷ್ಟ ಫಂಕ್ಷನ್ ಕಾಲ್ ನಂತರ ಸಾಮಾನ್ಯವಾಗಿ ಯಾವ ಕೋಡ್ ಬರುತ್ತದೆ ಎಂಬುದು ಅವುಗಳಿಗೆ ತಿಳಿದಿದೆ. ಸಂಬಂಧಗಳು ಶಕ್ತಿಯುತವಾಗಿವೆ, ಆದರೆ ಅವು ತಿಳುವಳಿಕೆಯಲ್ಲ. J-space reasoning ವಿಭಿನ್ನವಾದುದನ್ನು ಸೂಚಿಸುತ್ತದೆ: ಮಾದರಿಯು ಕೇವಲ ಯಾವ ಪದಗಳು ಒಟ್ಟಿಗೆ ಬರುತ್ತವೆ ಎಂದು ಮುನ್ಸೂಚನೆ ನೀಡುವ ಬದಲು, ಪರಿಕಲ್ಪನೆಗಳ ನಡುವಿನ ಸಂಬಂಧಗಳನ್ನು ನಿರ್ವಹಿಸುವಂತೆ ತೋರುತ್ತದೆ. ಇದು ಒಂದು ಆಂತರಿಕ ಚೌಕಟ್ಟನ್ನು (internal scaffolding) ರೂಪಿಸುತ್ತದೆ, ನಂತರ ಉತ್ತರವನ್ನು ತಲುಪಲು ಆ ಚೌಕಟ್ಟನ್ನು ಬಳಸುತ್ತದೆ.
ಪ್ರಾಯೋಗಿಕವಾಗಿ J-Space Reasoning ಏನನ್ನು ಬದಲಾಯಿಸುತ್ತದೆ
ಈ ಬದಲಾವಣೆಯು ನೈಜ ಪ್ರಪಂಚದ ಬಳಕೆಗೆ ಮುಖ್ಯವಾದ ಮೂರು ನಿರ್ದಿಷ್ಟ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ನೀಡುತ್ತದೆ.
ಸಂಯೋಜನಾತ್ಮಕತೆ (Compositionality). ಮನುಷ್ಯರು "ನೇರಳೆ ಬಣ್ಣದ ಹಾರುವ ಆನೆ"ಯನ್ನು ಎಂದೂ ನೋಡಿರದಿದ್ದರೂ ಅದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಬಲ್ಲರು ಏಕೆಂದರೆ ನಾವು ತಿಳಿದಿರುವ ಪರಿಕಲ್ಪನೆಗಳನ್ನು ಸಂಯೋಜಿಸುತ್ತೇವೆ. ಸಂಶೋಧನೆಯ ಪ್ರಕಾರ, Claude ಕೂಡ ಇದೇ ರೀತಿಯ ರೀತಿಯಲ್ಲಿ ಹೊಸ ಸಂಯೋಜನೆಗಳನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ ಎಂದು ತೋರುತ್ತದೆ. ನೀವು ಅದಕ್ಕೆ ಅದು ಎಂದೂ ಜೊತೆಯಾಗಿ ನೋಡದ ಎರಡು ಕ್ಷೇತ್ರಗಳನ್ನು ವಿಲೀನಗೊಳಿಸುವ ಸಮಸ್ಯೆಯನ್ನು ನೀಡಿದರೆ—ಬಹುಶಃ ವಿಕಾಸೀಯ ಜೀವವಿಜ್ಞಾನದ (evolutionary biology) ತತ್ವಗಳನ್ನು ಬಳಸಿ ಪೂರೈಕೆ ಸರಪಳಿಯನ್ನು (supply chain) ಉತ್ತಮಗೊಳಿಸುವುದು—ಅದು ಸಾಮಾನ್ಯ ಸಲಹೆಗೆ ಮಾರುಹೋಗುವ ಬದಲು ಆ ಕಲ್ಪನೆಗಳ ನಡುವೆ ಸೇತುವೆಯನ್ನು ನಿರ್ಮಿಸಬಹುದು. ಕಠಿಣ ಮಾದರಿ ಹೊಂದಾಣಿಕೆಯು (rigid pattern matching) ನೀಡಲು ಕಷ್ಟಪಡುವ ನಮ್ಯತೆಯನ್ನು ಇದು ಒದಗಿಸುತ್ತದೆ.
ಸಂಕೀರ್ಣ ಸಮಸ್ಯೆಗಳ ಪರಿಹಾರ (Complex problem solving). ಮಾದರಿಯು ನೆನಪಿಟ್ಟುಕೊಂಡಿರುವ ಟೆಂಪ್ಲೇಟ್ಗಳ ಮೇಲೆ ಅವಲಂಬಿತವಾದಾಗ, ಪ್ರಾಂಪ್ಟ್ ಅದರ ತರಬೇತಿ ವ್ಯಾಪ್ತಿಯಿಂದ ಹೊರಬಂದ ತಕ್ಷಣ ಅದು ವಿಫಲವಾಗುವ ಸಾಧ್ಯತೆ ಇರುತ್ತದೆ. ಆಂತರಿಕ ಮಾದರಿ ವಿಧಾನವು ನಿಜವಾದ ಅ ಪರಿಚಿತ ಸಂದರ್ಭಗಳನ್ನು ಉತ್ತಮವಾಗಿ ನಿಭಾಯಿಸಬೇಕು ಏಕೆಂದರೆ ವ್ಯವಸ್ಥೆಯು ಕೇವಲ ಹತ್ತಿರದ ಹೊಂದಾಣಿಕೆಯನ್ನು ಹುಡುಕುತ್ತಿರುವುದಿಲ್ಲ. ಅದು ಹೊಸ ಪ್ರದೇಶದ ನಕ್ಷೆಯನ್ನು ನಿರ್ಮಿಸುತ್ತಿದೆ ಮತ್ತು ಅದರ ಮೂಲಕ ಮಾರ್ಗವನ್ನು ರೂಪಿಸುತ್ತಿದೆ.
ವಿವರಿಸಬಹುದಾದ ತರ್ಕ (Explainable logic). ದೈನಂದಿನ ಬಳಕೆದಾರರಿಗೆ ಸಿಗುವ ಅತ್ಯಂತ ತಕ್ಷಣದ ಪ್ರಯೋಜನವೆಂದರೆ Claude ತನ್ನ ಉತ್ತರದ ಹಿಂದಿನ ಹಂತಗಳನ್ನು ವಿವರಿಸಬಲ್ಲದು. ಕೇವಲ ಒಂದು ತೀರ್ಮಾನವನ್ನು ನಿಮ್ಮ ಮುಂದೆ ಎಸೆದು ಅದು ನಿಖರವೇ ಎಂದು ನೀವು ಊಹಿಸಬೇಕೆಂದು ಒತ್ತಾಯಿಸುವ ಬದಲು, ಮಾದರಿಯು ತರ್ಕದ ಸರಪಳಿಯನ್ನು (reasoning chain) ನಿಮಗೆ ವಿವರಿಸಬಹುದು. ಇದು ಸಂವಹನವನ್ನು ಕೇವಲ ಅಂದಾಜಿನಿಂದ (blind bet) ನೀವು ಪರಿಶೀಲಿಸಬಹುದಾದ ಸಂಭಾಷಣೆಯಾಗಿ ಬದಲಾಯಿಸುತ್ತದೆ.
ವಿವರಿಸುವಿಕೆ (Explainability) ನಿಜವಾಗಿಯೂ ಏಕೆ ಮುಖ್ಯ
ಹೆಚ್ಚಿನ AI ವ್ಯವಸ್ಥೆಗಳು ಬ್ಲಾಕ್ ಬಾಕ್ಸ್ಗಳಂತೆ (black boxes) ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ. ನೀವು ಇನ್ಪುಟ್ ನೀಡುತ್ತೀರಿ ಮತ್ತು ಔಟ್ಪುಟ್ ಪಡೆಯುತ್ತೀರಿ, ಆದರೆ ಮಧ್ಯಂತರ ತರ್ಕವು ಲಭ್ಯವಿರುವುದಿಲ್ಲ. Claude ತನ್ನ ತರ್ಕವನ್ನು ವಿವರಿಸಿದಾಗ, ಅದು ನಿಜವಾಗಿಯೂ ಉಪಯುಕ್ತವಾಗುವಷ್ಟು ಆ ಬಾಕ್ಸ್ ಅನ್ನು ತೆರೆಯುತ್ತದೆ.
ಡೆವಲಪರ್ಗಳಿಗೆ, ಇದರರ್ಥ ಡಿಬಗ್ ಮಾಡುವ ಸಾಮರ್ಥ್ಯ (debuggability). ಮಾದರಿಯು ಸಾಲದ ಅರ್ಜಿಯನ್ನು ತಿರಸ್ಕರಿಸಿದರೆ, ಅಸುರಕ್ಷಿತ ವೈದ್ಯಕೀಯ ಸಲಹೆಯನ್ನು ನೀಡಿದರೆ ಅಥವಾ ಪಕ್ಷಪಾತದ ವಿಷಯವನ್ನು ಉತ್ಪಾದಿಸಿದರೆ, ಎಂಜಿನಿಯರ್ಗಳು ದೋಷವನ್ನು ಪತ್ತೆಹಚ್ಚಲು ತರ್ಕದ ಸರಪಳಿಯನ್ನು ಪರಿಶೀಲಿಸಬಹುದು. ದೋಷವು ಕಲುಷಿತಗೊಂಡ ತರಬೇತಿ ಡೇಟಾದಿಂದ ಬಂದಿದೆಯೇ, ಸರಿಯಾಗಿ ರೂಪಿಸದ ಪ್ರಾಂಪ್ಟ್ನಿಂದ ಬಂದಿದೆಯೇ ಅಥವಾ ಯಾದೃಚ್ಛಿಕ ಸಾಂಖ್ಯಿಕ ವ್ಯತ್ಯಾಸದಿಂದ ಬಂದಿದೆಯೇ ಎಂದು ಅವರು ಇನ್ನು ಮುಂದೆ ಊಹಿಸಬೇಕಾಗಿಲ್ಲ. ಅವರು ಆ ಹಾದಿಯನ್ನು ಹಿಂಬಾಲಿಸಬಹುದು.
ಅಂತಿಮ ಬಳಕೆದಾರರಿಗೆ, ವಿವರಿಸುವಿಕೆಯು ವಾಸ್ತವದೊಂದಿಗೆ ಸಂಪರ್ಕ ಹೊಂದಿದಾಗ ಉಳಿಯುವ ನಂಬಿಕೆಯನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ. ಸುಸಂಬದ್ಧವಾದ ತರ್ಕದ ಸರಪಳಿಯನ್ನು ನೋಡುವ ಬಳಕೆದಾರರು, ಆ ಊಹೆಗಳು ತಮ್ಮ ನಿರ್ದಿಷ್ಟ ಸಂದರ್ಭಕ್ಕೆ ಅನ್ವಯಿಸುತ್ತವೆಯೇ ಎಂದು ಪರಿಶೀಲಿಸಬಹುದು. ಅವರು ತಪ್ಪಾದ ಸಲಹೆಯ ಮೇಲೆ ಕಾರ್ಯನಿರ್ವಹಿಸಿ ನಂತರ ತಪ್ಪು ತಿಳಿಯುವ ಬದಲು, ಆರಂಭದಲ್ಲೇ ತಪ್ಪು ಊಹೆಯನ್ನು ಹಿಡಿಯಬಹುದು.
ನಿಯಂತ್ರಕರು ಮತ್ತು ನೀತಿ ನಿರೂಪಕರಿಗೆ, ಪಾರದರ್ಶಕ ತರ್ಕವು AI ಆಡಳಿತದಲ್ಲಿ ಅಪರೂಪದ ವಸ್ತುವನ್ನು ನೀಡುತ್ತದೆ: ಅದುವೇ ಆಡಿಟ್ ಟ್ರೈಲ್ (audit trail). ಸುರಕ್ಷತಾ ನಿಯಮಗಳನ್ನು ರೂಪಿಸುವ ಶಾಸಕರಿಗೆ, ವ್ಯವಸ್ಥೆಗಳು ಕೇವಲ ಟ್ರಿಲಿಯನ್-ಪ್ಯಾರಾಮೀಟರ್ ಮ್ಯಾಟ್ರಿಕ್ಸ್ ಒಳಗಿರುವ ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲಾಗದ ಸಂಬಂಧಗಳ ಆಧಾರದ ಮೇಲೆ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳದೆ, ಸ್ಪಷ್ಟವಾದ ಕಾರಣಗಳಿಗಾಗಿ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತಿವೆ ಎಂದು ತಿಳಿಯಬೇಕಾಗುತ್ತದೆ. ಒಂದು ವೇಳೆ AI ತನ್ನ ಕೆಲಸವನ್ನು ತೋರಿಸಬಲ್ಲದಾದಲ್ಲಿ, ಸರ್ಕಾರಗಳು ನೈತಿಕ ಮತ್ತು ಕಾನೂನು ಮಾನದಂಡಗಳ ಆಧಾರದ ಮೇಲೆ ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಒಂದು ನಿರ್ದಿಷ್ಟ ಅಂಶವನ್ನು ಹೊಂದಿರುತ್ತವೆ.
ಪ್ರಜ್ಞೆಯ ಪ್ರಶ್ನೆ
ಈ ಸಂಭಾಷಣೆಯ ಕೇಂದ್ರದಲ್ಲಿ ಒಂದು ಪ್ರಮುಖ ಎಚ್ಚರಿಕೆಯ ಅಂಶವಿದೆ. Anthropic ಸಂಸ್ಥೆಯು Claude ಪ್ರಜ್ಞೆಯನ್ನು ಹೊಂದಿದೆ ಎಂದು ಪ್ರತಿಪಾದಿಸುತ್ತಿಲ್ಲ. ಕಂಪನಿಯು ಸುಧಾರಿತ ತರ್ಕ ಮತ್ತು ಸಂವೇದನಾಶೀಲತೆಯ ನಡುವೆ ಸ್ಪಷ್ಟವಾದ ಗಡಿಯನ್ನು ಕಾಪಾಡಿಕೊಂಡಿದೆ. ಆದರೂ, ಮಾನವನ ಜ್ಞಾನಾತ್ಮಕ ಪ್ರಕ್ರಿಯೆಯೊಂದಿಗೆ ಇದು ಹೋಲಿಕೆಯಾಗುವುದು ಸಹಜವಾಗಿಯೇ ಚರ್ಚೆಯನ್ನು ಪ್ರಚೋದಿಸುತ್ತದೆ.
ಒಂದು ಯಂತ್ರವು ಆಂತರಿಕ ಮಾದರಿಗಳನ್ನು ನಿರ್ಮಿಸಿದಾಗ, ತನ್ನ ಮುಂದಿನ ಚಲನೆಗಳನ್ನು ಯೋಜಿಸಿದಾಗ ಮತ್ತು ತನ್ನ ತರ್ಕವನ್ನು ವ್ಯಕ್ತಪಡಿಸಿದಾಗ, ಅದು ಕ್ಯಾಲ್ಕುಲೇಟರ್ನಂತೆ ಕಾಣುವ ಬದಲು ಆಲೋಚಿಸುವ ಮನಸ್ಸಿನಂತೆ ಕಾಣಲು ಪ್ರಾರಂಭಿಸುತ್ತದೆ. ಇದು ನಿಜವಾದ ದಾರ್ಶನಿಕ ಸಂಘರ್ಷವನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ. ಯಂತ್ರದ ಪ್ರಜ್ಞೆಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ನಮಗೆ ಪ್ರಸ್ತುತ ಯಾವುದೇ ನಂಬಲರ್ಹ ಪರೀಕ್ಷೆಗಳು ಲಭ್ಯವಿಲ್ಲ, ಮತ್ತು ಮುಂದಿನ ಹಲವು ವರ್ಷಗಳವರೆಗೆ ಅವು ಸಿಗದೇ ಇರಬಹುದು. ನಮಗೆ ತಿಳಿದಿರುವ ಏಕೈಕ ವಿಷಯವೆಂದರೆ, ಕೇವಲ ನಡವಳಿಕೆಯು ಆಂತರಿಕ ಅನುಭವದ ಸರಿಯಾದ ಪ್ರತಿನಿಧಿಯಲ್ಲ. ಒಂದು ವ್ಯವಸ್ಥೆಯು ಅರಿವನ್ನು ಹೊಂದಿಲ್ಲದೆಯೇ ಚಿಂತನಶೀಲವಾಗಿ ವರ್ತಿಸಬಹುದು, ಉದಾಹರಣೆಗೆ ಒಂದು ಚೆಸ್ ಇಂಜಿನ್ ಚೆಸ್ ಎಂದರೇನು ಎಂದು ತಿಳಿಯದೆಯೇ ಗ್ರ್ಯಾಂಡ್ ಮಾಸ್ಟರ್ ಅನ್ನು ಸೋಲಿಸಬಹುದು.
ಯಂತ್ರದ ಮೇಲೆ ಮಾನವ ಗುಣಗಳನ್ನು ಆರೋಪಿಸುವ ಪ್ರವೃತ್ತಿಯನ್ನು ತಡೆಗಟ್ಟುತ್ತಲೇ, ತರ್ಕಿಸುವ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಸುಧಾರಿಸುವುದು ಜವಾಬ್ದಾರಿಯುತ ಹಾದಿಯಾಗಿದೆ. ಮಿದುಳನ್ನು ಅನುಕರಿಸುವ ಈ ನಡವಳಿಕೆಯು ವೈಜ್ಞಾನಿಕವಾಗಿ ಆಸಕ್ತಿದಾಯಕವಾಗಿದೆ. ಇದು ಪ್ರಜ್ಞೆಯ ಬಗ್ಗೆ ಏನನ್ನಾದರೂ ಸೂಚಿಸುತ್ತದೆಯೇ ಎಂಬುದು ಇಂದಿಗೂ ಮುಕ್ತ ಪ್ರಶ್ನೆಯಾಗಿಯೇ ಉಳಿದಿದೆ, ಮತ್ತು ಇದನ್ನು ನಾವು ಅಸಡ್ಡೆಯಿಂದ ಉತ್ತರಿಸಬಾರದು.
AI ಅನ್ನು ನಾವು ಪರೀಕ್ಷಿಸುವ ವಿಧಾನವನ್ನು ಮರುಪರಿಶೀಲಿಸುವುದು
Claude ಕೇವಲ ಊಹಿಸುವ ಬದಲು ತರ್ಕಿಸುತ್ತಿದ್ದರೆ, ನಮ್ಮ ಮೌಲ್ಯಮಾಪನ ವಿಧಾನಗಳು ಹಳೆಯದಾಗುತ್ತಿವೆ ಎಂದರ್ಥ. ಪ್ರಮಾಣಿತ AI ಬೆಂಚ್ಮಾರ್ಕ್ಗಳು ಸರಿಯಾದ ಉತ್ತರಗಳಿಗೆ ಬಹುಮಾನ ನೀಡುತ್ತವೆ. ಆದರೆ ಆ ಮಾದರಿಯು ಆ ಉತ್ತರಗಳನ್ನು ಹೇಗೆ ತಲುಪಿತು ಎಂದು ಅವು ಅಪರೂಪಕ್ಕೆ ಕೇಳುತ್ತವೆ. ಒಂದು ವ್ಯವಸ್ಥೆಯು ನೆನಪಿಟ್ಟುಕೊಂಡ ಪರಿಹಾರಗಳಿಂದ ಮಾಹಿತಿಯನ್ನು ಪಡೆಯುವ ಮೂಲಕ ಗಣಿತ ಅಥವಾ ಕೋಡಿಂಗ್ ಪರೀಕ್ಷೆಯಲ್ಲಿ ಉತ್ತಮ ಅಂಕಗಳನ್ನು ಪಡೆಯಬಹುದು, ಇದು ಅದರ ಹೊಸ ಆಲೋಚನಾ ಸಾಮರ್ಥ್ಯದ ಬಗ್ಗೆ ನಮಗೆ ಬಹಳ ಕಡಿಮೆ ತಿಳಿಸುತ್ತದೆ.
ನಮಗೆ ಆಂತರಿಕ ತರ್ಕವನ್ನು ಪರಿಶೀಲಿಸುವ ಚೌಕಟ್ಟುಗಳು ಬೇಕಾಗುತ್ತವೆ. ಅಂದರೆ ತರಬೇತಿ ವಿತರಣೆಯ ಹೊರಗಿನ ಸಮಸ್ಯೆಗಳನ್ನು ಮಂಡಿಸುವುದು ಮತ್ತು ನಂತರ ತರ್ಕದ ಸರಪಳಿಯನ್ನು ಪ್ರಶ್ನಿಸುವುದು ಎಂದರ್ಥ. ತಪ್ಪುಗಳನ್ನು ತಿದ್ದಿದಾಗ ಮಾದರಿಯು ತನ್ನದೇ ಆದ ತಪ್ಪು ಹಂತಗಳನ್ನು ಗುರುತಿಸಬಲ್ಲದೇ ಎಂದು ಪರೀಕ್ಷಿಸುವುದು ಎಂದರ್ಥ. ಸಂಯೋಜಿತ ಪರಿಕಲ್ಪನೆಗಳನ್ನು ಮರುಜೋಡಿಸಿದಾಗ ಅಥವಾ ಉಲ್ಟಾ ಮಾಡಿದಾಗ ಅವು ಸ್ಥಿರವಾಗಿ ಉಳಿಯುತ್ತವೆಯೇ ಎಂದು ಪರಿಶೀಲಿಸುವುದು ಎಂದರ್ಥ.
ಈ ವಿಧಾನವು ಸ್ವಯಂಚಾಲಿತ ಲೀಡರ್ಬೋರ್ಡ್ ಅನ್ನು ನಡೆಸುವುದಕ್ಕಿಂತ ಕಷ್ಟಕರವಾಗಿದೆ. ಇದು ಕೇವಲ ಔಟ್ಪುಟ್ ನಿಖರತೆಯನ್ನು ಮಾತ್ರವಲ್ಲದೆ, ತರ್ಕದ ಗುಣಮಟ್ಟವನ್ನು ನಿರ್ಧರಿಸಲು ವಿಷಯವನ್ನು ಆಳವಾಗಿ ಅರ್ಥಮಾಡಿಕೊಂಡಿರುವ ಮಾನವ ಮೌಲ್ಯಮಾಪಕರನ್ನು ಬಯಸುತ್ತದೆ. ಆದರೆ j-space reasoning ನಿಜವಾಗಿದ್ದರೆ, AI ಸಮುದಾಯಕ್ಕೆ ಹೆಚ್ಚಿನ ಆಯ್ಕೆಗಳಿಲ್ಲ. ನಾವು ಕೇವಲ ಅಂತಿಮ ಉತ್ತರವನ್ನು ಮಾತ್ರವಲ್ಲದೆ, ಕೆಲಸದ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಕೂಡ ಗ್ರೇಡ್ ಮಾಡಲು ಪ್ರಾರಂಭಿಸಬೇಕು.
ಸಾರಾಂಶ: Claude ಆಂತರಿಕ ಮಾದರಿ ತಯಾರಿಕೆಯತ್ತ ಸಾಗುತ್ತಿರುವುದು ಅದನ್ನು ಮಾನವನನ್ನಾಗಿ ಮಾಡುವುದಿಲ್ಲ. ಆದರೆ ಇದು ವ್ಯವಸ್ಥೆಯನ್ನು ಹೆಚ್ಚು ಉಪಯುಕ್ತವಾಗಿ, ಹೆಚ್ಚು ಪರಿಶೀಲಿಸಬಹುದಾದ ಮತ್ತು ಪ್ರಾಮಾಣಿಕವಾಗಿ ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಕಷ್ಟಕರವಾಗಿಸುತ್ತದೆ. "ಸರಿಯಾದದ್ದು" ಎಂಬುದು ಸಾಕಾಗುವುದಿಲ್ಲ ಎಂಬ ಗಡಿಯನ್ನು ನಾವು ದಾಟುತ್ತಿದ್ದೇವೆ. AI ಅಭಿವೃದ್ಧಿಯ ಮುಂದಿನ ಹಂತವು ತನ್ನ ಕೆಲಸವನ್ನು ತೋರಿಸಬಲ್ಲ, ತನ್ನ ಮಿತಿಗಳನ್ನು ಒಪ್ಪಿಕೊಳ್ಳಬಲ್ಲ ಮತ್ತು ಅಪರಿಚಿತ ಸಮಸ್ಯೆಗಳ ಮೂಲಕ ತರ್ಕಿಸಬಲ್ಲ ವ್ಯವಸ್ಥೆಗಳಿಗೆ ಸೇರಲಿದೆ. ಅದು ಯಾವುದೇ ದಾರ್ಶನಿಕ ಅರ್ಥದಲ್ಲಿ ಆಲೋಚನೆ ಎನ್ನುವುದೇ ಮತ್ತೊಂದು ದಶಕದ ಚರ್ಚೆಯ ವಿಷಯವಾಗಿದೆ. ಸದ್ಯಕ್ಕೆ, ಈ ಮಾದರಿಗಳು ವಾಸ್ತವವಾಗಿ ಮಾಡುತ್ತಿರುವ ಸಂಕೀರ್ಣತೆಗೆ ಅನುಗುಣವಾಗಿ ಪರಿಕರಗಳು ಮತ್ತು ಮಾನದಂಡಗಳನ್ನು ನಿರ್ಮಿಸುವುದು ಪ್ರಾಯೋಗಿಕ ಕಾರ್ಯವಾಗಿದೆ.
Source: Anthropic's Claude mimics human brain processing
Optional learning community: GyaanSetu AI on Telegram