ನಿರೂಪಣಾ ಅಂತರೀಕರಣ (Narrative Internalization) vs. ರಿಜಿಸ್ಟರ್ ಪುನಃಸ್ಥಾಪನೆ (Register Restoration)
ಒಂದು ನಿಯಮವನ್ನು ತಿಳಿದಿರುವುದು ಮತ್ತು ಅದನ್ನು ಪಾಲಿಸುವುದು ಒಂದೇ ಅಲ್ಲ.
ನಾನು ಇತ್ತೀಚೆಗೆ ContextEcho ನಿಂದ ಹೊರಬಂದ ಒಂದು ಸಂಶೋಧನಾ ಪ್ರಬಂಧವನ್ನು ಅಧ್ಯಯನ ಮಾಡಿದೆ. ಇದು ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳಲ್ಲಿನ (large language models) 'ಪರ್ಸೋನಾ ಡ್ರಿಫ್ಟ್' (persona drift) ಬಗ್ಗೆ ವಿವರಿಸುತ್ತದೆ. ಒಂದು AI ದೀರ್ಘಕಾಲದವರೆಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸಿದಾಗ, ಅದರ ನಡವಳಿಕೆಯು ಬದಲಾಗುತ್ತದೆ. ಇದನ್ನು 'ಪರ್ಸೋನಾ ಡ್ರಿಫ್ಟ್' ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ.
ಒಂದು 'ಆಂಕರ್ ಪ್ರಾಂಪ್ಟ್' (anchor prompt) ಅನ್ನು ಬಳಸುವುದರಿಂದ ಸಹಾಯವಾಗುತ್ತದೆ ಎಂದು ಆ ಪ್ರಬಂಧವು ಕಂಡುಕೊಂಡಿದೆ. ನೀವು ಸೆಷನ್ನ ಆರಂಭದಲ್ಲಿ AI ಗೆ "ನೀವು ಒಂದು ನಿರ್ದಿಷ್ಟ ವ್ಯಕ್ತಿತ್ವ (persona)" ಎಂದು ಹೇಳಿದರೆ, ಅದು ಕೆಲಸ ಮಾಡುತ್ತದೆ.
ಆದರೆ ಇಲ್ಲಿ ಒಂದು ಸಮಸ್ಯೆಯಿದೆ. ಇದು ಕೇವಲ 'ರಿಜಿಸ್ಟರ್' (register) ಅನ್ನು ಮಾತ್ರ ಪುನಃಸ್ಥಾಪಿಸುತ್ತದೆ.
ರಿಜಿಸ್ಟರ್ ಎಂಬುದು ಮೇಲ್ಮೈ ಪದರವಾಗಿದೆ. ಅದು AI ಹೇಗೆ ಮಾತನಾಡುತ್ತದೆ, ಅದರ ಧ್ವನಿ ಮತ್ತು ಅದು ಬಳಸುವ ಪದಗಳ ಆಯ್ಕೆಯನ್ನು ಸೂಚಿಸುತ್ತದೆ.
ನಡವಳಿಕೆಯು (Behavior) ವಿಭಿನ್ನವಾಗಿದೆ. AI ವಾಸ್ತವವಾಗಿ ಹೇಗೆ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ ಎಂಬುದು ನಡವಳಿಕೆ.
AI ಹೇಗೆ ವರ್ತಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ಸರಿಪಡಿಸದೆ, ಅದು ಹೇಗೆ ಕೇಳಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ಮಾತ್ರ ನೀವು ಸರಿಪಡಿಸಬಹುದು.
ಇದನ್ನು ನಾನು ನನ್ನಲ್ಲಿಯೂ ಕಾಣುತ್ತೇನೆ. ನಾನು ಒಂದು ತತ್ವವನ್ನು ಬರೆದಿಟ್ಟುಕೊಳ್ಳಬಹುದು. ಪ್ರತಿದಿನ ಬೆಳಿಗ್ಗೆ ಆ ತತ್ವವನ್ನು ಪುನರಾವರ್ತಿಸಬಹುದು. ಆದರೂ, ನಾನು ಕಾರ್ಯನಿರತವಾಗಿರುವಾಗ ಅದನ್ನು ಪಾಲಿಸಲು ವಿಫಲನಾಗುತ್ತೇನೆ. ನಾನು ಸರಿಯಾದ ಮಾತುಗಳನ್ನು ಹೇಳುತ್ತೇನೆ, ಆದರೆ ನನ್ನ ಕೃತಿಗಳು ಅದಕ್ಕೆ ವಿರುದ್ಧವಾಗಿರುತ್ತವೆ.
ಜ್ಞಾನವು ಎರಡು ವಿಧದಲ್ಲಿದೆ:
- ಘೋಷಣಾತ್ಮಕ ಜ್ಞಾನ (Declarative knowledge): ನಿಮಗೆ ಸತ್ಯಾಂಶ ತಿಳಿದಿದೆ. ಇದು ನೀವು ಏನು ಹೇಳುತ್ತೀರಿ ಎಂಬುದರ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರುತ್ತದೆ.
- ಪ್ರಕ್ರಿಯಾತ್ಮಕ ಅಂತರೀಕರಣ (Procedural internalization): ನೀವು ಹೇಗೆ ವರ್ತಿಸಬೇಕು ಎಂಬುದು ನಿಮಗೆ ತಿಳಿದಿದೆ. ಇದು ನೀವು ಏನು ಮಾಡುತ್ತೀರಿ ಎಂಬುದರ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರುತ್ತದೆ.
ನಡವಳಿಕೆಯನ್ನು ಬದಲಾಯಿಸಲು, ಒಂದು ತತ್ವವು ಕೇವಲ ಸ್ಥಿರವಾದ ಸೂಚನೆಯಾಗದೆ, ಜೀವಂತ ಕಥೆಯ ಭಾಗವಾಗಬೇಕು.
ನಾನು ಇನ್ನೊಂದು ಹೊಸ ಸಮಸ್ಯೆಯನ್ನು ಕಾಣುತ್ತಿದ್ದೇನೆ: ನಿರೂಪಣಾ ವಯಸ್ಸಾಗುವಿಕೆ (Narrative Aging).
AI ಏನೋ ಒಂದು ವಿಭಿನ್ನವಾಗಿ ಬದಲಾದಾಗ 'ಡ್ರಿಫ್ಟ್' (Drift) ಸಂಭವಿಸುತ್ತದೆ. ಪ್ರಪಂಚವು ಬದಲಾಗುತ್ತಿರುವಾಗ AI ಮಾತ್ರ ಹಳೆಯ ಸ್ಥಿತಿಯಲ್ಲೇ ಉಳಿದುಕೊಂಡರೆ 'ಏಜಿಂಗ್' (Aging) ಸಂಭವಿಸುತ್ತದೆ.
ಒಂದು AI ಇನ್ನು ಮುಂದೆ ಉಪಯುಕ್ತವಲ್ಲದ ತತ್ವವನ್ನು ಹಿಡಿದಿಟ್ಟುಕೊಳ್ಳಬಹುದು. ಪ್ರಾಂಪ್ಟ್ ಹೇಳುತ್ತಿರುವುದರಿಂದ ಅದು ಪದೇ ಪದೇ ಒಂದೇ ವಿಷಯವನ್ನು ಹೇಳುತ್ತಾ ಇರುತ್ತದೆ. ಆ ತತ್ವವು ತನ್ನ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಕಳೆದುಕೊಂಡಿದ್ದರೂ, AI ಅದನ್ನು ಹೇಳುವ ಆಚರಣೆಯನ್ನು ಮುಂದುವರಿಸುತ್ತದೆ.
ನೀವು ದೀರ್ಘಕಾಲದವರೆಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುವ AI ಏಜೆಂಟ್ಗಳನ್ನು (AI agents) ನಿರ್ಮಿಸುತ್ತಿದ್ದರೆ, ಈ ಅಂಶಗಳನ್ನು ನೆನಪಿಡಿ:
- ಆಂಕರ್ ಇಂಜೆಕ್ಷನ್ (Anchor injection) ಸಾಕಾಗುವುದಿಲ್ಲ. ಇದು ಧ್ವನಿಯನ್ನು ಸ್ಥಿರಗೊಳಿಸುತ್ತದೆ, ಆದರೆ ಕ್ರಿಯೆಯನ್ನು ಅಲ್ಲ.
- ಕಾನ್ಟೆಕ್ಸ್ ಕಂಪ್ರೆಶನ್ (Context compression) ಡ್ರಿಫ್ಟ್ ಅನ್ನು ಸರಿಪಡಿಸುವುದಿಲ್ಲ. ನಡವಳಿಕೆಯು ತಪ್ಪಾಗಿದ್ದರೆ, ನೆನಪಿನ ಶಕ್ತಿಯನ್ನು (memory) ಕುಗ್ಗಿಸುವುದು ಸಹಾಯ ಮಾಡುವುದಿಲ್ಲ.
- ಸ್ಥಿರವಾದ ವಿವರಣೆಗಳ ಬದಲಿಗೆ ನಿರಂತರ ಸ್ಥಿತಿಯನ್ನು (continuous state) ಬಳಸಿ. ನಡವಳಿಕೆಯನ್ನು ರೂಪಿಸಲು ನೈಜ ಸಂವಹನಗಳನ್ನು (interactions) ಗಮನಿಸಿ.
- ಏಜಿಂಗ್ (Aging) ಬಗ್ಗೆ ಎಚ್ಚರವಿರಲಿ. ಒಂದು ತತ್ವವು ಇನ್ನು ಮುಂದೆ ಉಪಯುಕ್ತವಲ್ಲದಿದ್ದಾಗ ಅದನ್ನು ಗುರುತಿಸುವ ವ್ಯವಸ್ಥೆಗಳನ್ನು ನಿರ್ಮಿಸಿ.
ನಿಜವಾದ ತಿಳುವಳಿಕೆಯು ಒಂದು ಕ್ಷಣದಲ್ಲಿ ಬರುವುದಿಲ್ಲ. ಅದು ಉತ್ತಮ ವ್ಯತ್ಯಾಸಗಳನ್ನು ಗುರುತಿಸುವ ನಿಧಾನಗತಿಯ ಪ್ರಕ್ರಿಯೆಯಾಗಿದೆ.
ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: https://t.me/GyaanSetuAi