ಎಐ ಆರ್ಕಿಟೆಕ್ಚರ್ ಅನ್ನು ನಿರ್ಮಿಸುವ ಸರಿಯಾದ ಮಾರ್ಗ
ನನ್ನ ಎಐ ಅಸಿಸ್ಟೆಂಟ್ ಅನ್ನು ಹೆಚ್ಚು ಬುದ್ಧಿವಂತಗೊಳಿಸುವುದು ಎಂದರೆ ಅದೇ ಲೂಪ್ಗೆ ಹೆಚ್ಚಿನ ಪರಿಕರಗಳನ್ನು (tools) ಸೇರಿಸುವುದು ಎಂದು ನಾನು ಭಾವಿಸುತ್ತಿದ್ದೆ. ಅದು ಸ್ವಲ್ಪ ಸಮಯದವರೆಗೆ ಕೆಲಸ ಮಾಡಿತು. ಆದರೆ ನಂತರ ನನ್ನ ಅಸಿಸ್ಟೆಂಟ್ ಚಾಟ್ನಿಂದ ಒಂದು ಕಾರ್ಯವನ್ನು ಮುಂದುವರಿಸುವುದು, ಸ್ಥಿತಿಯ (status) ಪ್ರಶ್ನೆಗೆ ಉತ್ತರಿಸುವುದು ಅಥವಾ ವರ್ಕ್ಫ್ಲೋವನ್ನು (workflow) ನೆನಪಿಟ್ಟುಕೊಳ್ಳುವುದು ಅಂತಹ ಸಾಮಾನ್ಯ ಬಳಕೆದಾರರ ಕಾರ್ಯಗಳನ್ನು ಮಾಡಬೇಕಾಯಿತು.
ಸಮಸ್ಯೆಯೆಂದರೆ ನನ್ನ ಅಸಿಸ್ಟೆಂಟ್ ಎಷ್ಟು ಪರಿಕರಗಳನ್ನು ಬಳಸಬಹುದು ಎಂಬುದರಲ್ಲಲ್ಲ, ಬದಲಾಗಿ ಅದರ ಆರ್ಕಿಟೆಕ್ಚರ್ನಲ್ಲಿತ್ತು. ಹಳೆಯ ಆರ್ಕಿಟೆಕ್ಚರ್ ಸರಳವಾಗಿತ್ತು: ಬಳಕೆದಾರರ ಸಂದೇಶ -> ಅಸಿಸ್ಟೆಂಟ್ ಲೂಪ್ -> ಪರಿಕರಗಳು -> ಉತ್ತರ. ಇದು ಡೆಮೋಗೆ (demo) ಸರಿಹೊಂದಬಹುದು, ಆದರೆ ರೆಸಿಡೆಂಟ್ ಅಸಿಸ್ಟೆಂಟ್ಗೆ (resident assistant) ಇದು ಸರಿಯಲ್ಲ.
ಒಂದು ಸಂದೇಶವು ಹೊಸ ಕಾರ್ಯವೇ, ಫಾಲೋ-ಅಪ್ (follow-up) ಆಗಿದೆಯೇ ಅಥವಾ ರದ್ದತಿಯೇ ಎಂಬುದನ್ನು ರೆಸಿಡೆಂಟ್ ಅಸಿಸ್ಟೆಂಟ್ ತಿಳಿಯಬೇಕಾಗುತ್ತದೆ. ಇದು ಮತ್ತೊಂದು ಕಾರ್ಯದಿಂದ ಡೆಸ್ಕ್ಟಾಪ್ ಅನ್ನು ಕಬಳಿಸುವುದನ್ನು ತಪ್ಪಿಸಬೇಕು ಮತ್ತು ಹಳೆಯ ಟ್ರಾನ್ಸ್ಕ್ರಿಪ್ಟ್ಗಳನ್ನು ಬಳಸದೆ ಪ್ರಕ್ರಿಯೆಗಳನ್ನು ನೆನಪಿಟ್ಟುಕೊಳ್ಳಬೇಕು.
ಆದ್ದರಿಂದ ನಾನು ನನ್ನ ಅಸಿಸ್ಟೆಂಟ್ ಅನ್ನು ಕೇವಲ ಒಂದು ಏಜೆಂಟ್ ಎಂದು ಭಾವಿಸುವುದನ್ನು ನಿಲ್ಲಿಸಿ, ಅದನ್ನು ಲೋಕಲ್ ಕಂಟ್ರೋಲ್ ಪ್ಲೇನ್ (local control plane) ಎಂದು ಪರಿಗಣಿಸಲು ಪ್ರಾರಂಭಿಸಿದೆ. ಈಗ ನನ್ನ ಆರ್ಕಿಟೆಕ್ಚರ್ ಹೀಗಿದೆ:
- Experience Plane: ಬಳಕೆದಾರರು ಎಲ್ಲಿಂದ ಮಾತನಾಡುತ್ತಿದ್ದಾರೆ ಎಂಬುದನ್ನು ಇದು ನಿರ್ವಹಿಸುತ್ತದೆ
- Assistant Control Plane: ಇದು ಯಾವ ರೀತಿಯ ಕೆಲಸ ಎಂದು ನಿರ್ಧರಿಸುತ್ತದೆ
- Runtime Execution Plane: ಇಲ್ಲಿ ಕೋಡಿಂಗ್ ಕೆಲಸಗಳು ನಡೆಯುತ್ತವೆ
- Proxy / Model Access Plane: ಇದು ಪ್ರೊವೈಡರ್ ಕೆಲಸಗಳನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ
ನನ್ನ ಬಳಿ Observation Plane ಮತ್ತು Memory / Policy Plane ಕೂಡ ಇವೆ. ಈ ಪ್ಲೇನ್ಗಳು ನನ್ನ ಅಸಿಸ್ಟೆಂಟ್ ಗೊಂದಲವಿಲ್ಲದೆ ತನ್ನ ಕಾರ್ಯಗಳ ಮೇಲೆ ಗಮನ ಕೇಂದ್ರೀಕರಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತವೆ.
ನನ್ನ ಅಸಿಸ್ಟೆಂಟ್ ಕೇವಲ ರಾಗ್ ಲಾಗ್ಗಳ (raw logs) ಬದಲಿಗೆ ಅಬ್ಸರ್ವೇಶನ್ಗಳನ್ನು (observations) ಬಳಸುವಂತೆ ಮಾಡುವುದರಿಂದ ದೊಡ್ಡ ಸುಧಾರಣೆ ಕಂಡುಬಂದಿತು. ಇದು ನನ್ನ ಅಸಿಸ್ಟೆಂಟ್ ದೊಡ್ಡ ಟ್ರಾನ್ಸ್ಕ್ರಿಪ್ಟ್ ಅನ್ನು ಓದುವ ಬದಲು "ಕಾರ್ಯ X ಅನುಮೋದನೆಗಾಗಿ ಕಾಯುತ್ತಿದೆ" ಎಂಬಂತಹ ಸಂಕ್ಷಿಪ್ತ ಸತ್ಯಗಳನ್ನು ನೋಡಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ.
"ನೆನಪಿಟ್ಟುಕೊಳ್ಳುವುದು" ಎಂದರೆ ಪ್ರಾಂಪ್ಟ್ಗೆ (prompt) ಹೆಚ್ಚಿನ ಚಾಟ್ ಇತಿಹಾಸವನ್ನು ತುಂಬುವುದು ಎಂದಲ್ಲ ಎಂಬುದನ್ನು ನಾನು ಕಲಿತೆ. ನನ್ನ ಅಸಿಸ್ಟೆಂಟ್ಗೆ, ಮೆಮೊರಿ ಫೈಲ್-ಆಧಾರಿತ ಮತ್ತು ಸ್ಕೋಪ್ಡ್ (scoped) ಆಗಿದೆ. ಇದು ಒಂದು ವರ್ಕ್ಫ್ಲೋ, ಒಂದು ಸತ್ಯ ಅಥವಾ ಒಂದು ರೆಫರೆನ್ಸ್ ಅನ್ನು ಸಂಗ್ರಹಿಸಿಡಬಹುದು ಮತ್ತು ಅಗತ್ಯವಿದ್ದಾಗ ಅದನ್ನು ನೆನಪಿಸಿಕೊಳ್ಳಬಹುದು.
ನೀವು ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಪರಿಕರಗಳ ಸುತ್ತ ಏಜೆಂಟ್ಗಳನ್ನು ನಿರ್ಮಿಸುತ್ತಿದ್ದರೆ, ನೀವು ಎಲ್ಲವನ್ನೂ ಒಂದೇ ಲೂಪ್ನೊಳಗೆ ಇಡುತ್ತಿದ್ದೀರಾ ಅಥವಾ ಕಂಟ್ರೋಲ್, ಎಕ್ಸಿಕ್ಯೂಷನ್, ಅಬ್ಸರ್ವೇಶನ್ ಮತ್ತು ಮೆಮೊರಿಯನ್ನು ವಿಭಜಿಸಲು ಪ್ರಾರಂಭಿಸಿದ್ದೀರಾ?
Source: https://dev.to/codekingai/my-ai-assistant-needed-a-control-plane-not-a-bigger-loop-15aa Optional learning community: https://t.me/GyaanSetuAi