ಏಜೆಂಟ್ ಸೆಷನ್ ಮೆಮೊರಿ ಎಂಬುದು ಕೇವಲ ಒಂದು ಫೀಚರ್ ಅಲ್ಲ. ಅದು ನಿಮ್ಮ ಕಂಟ್ರೋಲ್ ಪ್ಲೇನ್.
ಹೆಚ್ಚಿನ ತಂಡಗಳು ಏಜೆಂಟ್ ಮೆಮೊರಿ ಎಂದರೆ ವೆಕ್ಟರ್ ಡೇಟಾಬೇಸ್ಗಳ ಬಗ್ಗೆ ಎಂದು ಭಾವಿಸುತ್ತವೆ. ಅವರು ತಪ್ಪು ಮಾಡುತ್ತಿದ್ದಾರೆ.
ನಿಜವಾದ ಸಮಸ್ಯೆ ಸಂಭಾಷಣೆಯ ಸ್ಥಿತಿ (conversation state). ನಿಮ್ಮ ಏಜೆಂಟ್ ಮರುಪ್ರಾರಂಭವಾದಾಗ (restarts), ಸಂದರ್ಭವನ್ನು (context) ಯಾರು ಹಿಡಿದಿಟ್ಟುಕೊಳ್ಳುತ್ತಾರೆ?
ಇದು ಬಳಕೆದಾರರ ಅನುಭವದ (user experience) ಸಮಸ್ಯೆಯಲ್ಲ. ಇದು ಮೂಲಸೌಕರ್ಯದ (infrastructure) ಸಮಸ್ಯೆ.
ವ್ಯರ್ಥವಾಗುವ ಸಮಯದ ಲೆಕ್ಕಾಚಾರ ಇಲ್ಲಿದೆ: ನೀವು ಒಂದು ಕೋಡಿಂಗ್ ಏಜೆಂಟ್ ಅನ್ನು ಪ್ರಾರಂಭಿಸುತ್ತೀರಿ. ಅದು ನಿಮ್ಮ ರೆಪೊಸಿಟರಿಯನ್ನು ಓದಲು ಮತ್ತು ಒಂದು ಮಾನಸಿಕ ಮಾದರಿಯನ್ನು (mental model) ನಿರ್ಮಿಸಲು 45 ಸೆಕೆಂಡುಗಳನ್ನು ವ್ಯಯಿಸುತ್ತದೆ. ನಂತರ, ಒಂದು ಪಾಡ್ (pod) ಮರುಪ್ರಾರಂಭವಾಗುತ್ತದೆ, ಒಂದು ಕಂಟೇನರ್ ಕ್ರ್ಯಾಶ್ ಆಗುತ್ತದೆ ಅಥವಾ ನೀವು ಪರಿಕರಗಳನ್ನು (tools) ಬದಲಾಯಿಸುತ್ತೀರಿ. ನಿಮ್ಮ ಮುಂದಿನ ಸೆಷನ್ ಅದೇ ಮಾದರಿಯನ್ನು ಮರುನಿರ್ಮಿಸಲು ಮತ್ತೆ 45 ಸೆಕೆಂಡುಗಳನ್ನು ವ್ಯರ್ಥ ಮಾಡುತ್ತದೆ.
10 ಅಭಿವೃದ್ಧಿ ຊಾಲಕರು (developers) ಇದನ್ನು ದಿನಕ್ಕೆ 3 ಬಾರಿ ಮಾಡಿದರೆ, ನೀವು ಪ್ರತಿ ವ್ಯಕ್ತಿಗೆ ಪ್ರತಿದಿನ 225 ಸೆಕೆಂಡುಗಳನ್ನು ಕಳೆದುಕೊಳ್ಳುತ್ತೀರಿ. ದೊಡ್ಡ ಮಟ್ಟದಲ್ಲಿ ನೋಡಿದಾಗ, ಸ್ಟೇಟ್ಲೆಸ್ ಅಮ್ನೆಸಿಯಾ (stateless amnesia) ಕಾರಣದಿಂದ ನೀವು ನೂರಾರು ಇಂಜಿನಿಯರಿಂಗ್ ಗಂಟೆಗಳನ್ನು ಕಳೆದುಕೊಳ್ಳುತ್ತೀರಿ.
ಮೆಮೊರಿಯನ್ನು ಒಂದು ಸಿಂಗಲ್ ಫ್ರೇಮ್ವರ್ಕ್ನ ಒಳಗಿನ ಫೀಚರ್ ಎಂದು ಪರಿಗಣಿಸುವುದು ತಪ್ಪು. ಅದು ಹಾಗಲ್ಲ. ಸೆಷನ್ ಮೆಮೊರಿಯು ನಿಮ್ಮ ರನ್ಟೈಮ್ಗಳ (runtimes) ಮೇಲಿರುವ ಇನ್ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್ ಲೇಯರ್ಗೆ ಸೇರಿದ್ದಾಗಿದೆ.
LangGraph ಅಥವಾ AutoGen ನಂತಹ ಫ್ರೇಮ್ವರ್ಕ್ಗಳು ತಮ್ಮದೇ ಆದ ಮಿತಿಯೊಳಗೆ ಮೆಮೊರಿಯನ್ನು ನೀಡುತ್ತವೆ. ಆದರೆ ನೀವು ಈ ಕೆಳಗಿನವುಗಳನ್ನು ಮಾಡಬೇಕಾದಾಗ ಅವು ವಿಫಲವಾಗುತ್ತವೆ:
- Claude ಮತ್ತು Cursor ನಂತಹ ವಿವಿಧ ರನ್ಟೈಮ್ಗಳಲ್ಲಿ ಏಜೆಂಟ್ಗಳನ್ನು ಚಲಾಯಿಸುವುದು.
- ತಂಡದ ಸದಸ್ಯರ ನಡುವೆ ಸ್ಟೇಟ್ (state) ಅನ್ನು ಹಂಚಿಕೊಳ್ಳುವುದು.
- ಸಂದರ್ಭವನ್ನು (context) ಕಳೆದುಕೊಳ್ಳದೆ ಮರುಪ್ರಾರಂಭಗಳನ್ನು (restarts) ಎದುರಿಸುವುದು.
- ಒಂದು ಪ್ರಾಜೆಕ್ಟ್ನಾದ್ಯಂತ ಏಜೆಂಟ್ ಕ್ರಮಗಳನ್ನು ಆಡಿಟ್ (audit) ಮಾಡುವುದು.
ನೀವು ಮೆಮೊರಿಯ ಮೂರು ವಿಧಗಳನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಬೇಕು:
- ಸೆಷನ್ ಮೆಮೊರಿ (Session Memory): ಒಂದು ಸಂವಹನದ ಇತಿಹಾಸ.
- ಎಪಿಸೋಡಿಕ್ ಮೆಮೊರಿ (Episodic Memory): ವಾರಗಳು ಅಥವಾ ತಿಂಗಳುಗಳ ಕಾಲ ಸಂಗ್ರಹಿಸಲಾದ ಘಟನೆಗಳು.
- ಸೆಮ್ಯಾಂಟಿಕ್ ಮೆಮೊರಿ (Semantic Memory): ಡೇಟಾಬೇಸ್ಗಳಲ್ಲಿ ಸಂಗ್ರಹಿಸಲಾದ ಸತ್ಯಗಳು ಮತ್ತು ಮಾದರಿಗಳು.
ಪ್ರೊಡಕ್ಷನ್ ತಂಡಗಳು ಏಜೆಂಟ್ ಮೆದುಳನ್ನು (brain) ರನ್ಟೈಮ್ನಿಂದ ಪ್ರತ್ಯೇಕಿಸುವ ಮೂಲಕ ಇದನ್ನು ಪರಿಹರಿಸುತ್ತವೆ. ಮೆದುಳು ಪರ್ಸಿಸ್ಟೆಂಟ್ ಪಾಡ್ನಲ್ಲಿ (persistent pod) ತರ್ಕವನ್ನು (reasoning) ನಿರ್ವಹಿಸುತ್ತದೆ. ಸ್ಯಾಂಡ್ಬಾಕ್ಸ್ (sandbox) ಎಫೆಮರಲ್ ಎನ್ವಿರಾನ್ಮೆಂಟ್ನಲ್ಲಿ (ephemeral environment) ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆಯನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ.
2026 ರಲ್ಲಿ, ತಂಡಗಳು ಒಂದೇ ಪ್ಲಾಟ್ಫಾರ್ಮ್ ಅನ್ನು ಬಳಸುವುದಿಲ್ಲ. ಅವು ಅನೇಕಗಳನ್ನು ಬಳಸುತ್ತವೆ. ಇದು ವಿಭಜನೆಯನ್ನು (fragmentation) ಉಂಟುಮಾಡುತ್ತದೆ. ಒಂದು ಸೆಷನ್ Claude ನಲ್ಲಿ ಇರುತ್ತದೆ. ಇನ್ನೊಂದು ಲೋಕಲ್ ಫೈಲ್ನಲ್ಲಿ ಇರುತ್ತದೆ. ಮತ್ತೊಂದು ಡೇಟಾಬೇಸ್ನಲ್ಲಿ ಇರುತ್ತದೆ. ಇದರಿಂದ ನೀವು ಕೆಲಸವನ್ನು ಹುಡುಕುವ ಅಥವಾ ಹಸ್ತಾಂತರಿಸುವ (hand off) ಸಾಮರ್ಥ್ಯವನ್ನು ಕಳೆದುಕೊಳ್ಳುತ್ತೀರಿ.
ದೊಡ್ಡ ಮಾಡೆಲ್ ಬಳಸಿ ಇದನ್ನು ಸರಿಪಡಿಸಲು ಪ್ರಯತ್ನಿಸುವುದನ್ನು ನಿಲ್ಲಿಸಿ. ಉತ್ತಮ ಮೂಲಸೌಕರ್ಯದೊಂದಿಗೆ (infrastructure) ಇದನ್ನು ಸರಿಪಡಿಸಿ.
ಈ ಮೂರು ಪ್ರಶ್ನೆಗಳನ್ನು ನಿಮ್ಮನ್ನು ನೀವೇ ಕೇಳಿಕೊಳ್ಳಿ:
- ನನ್ನ ಏಜೆಂಟ್ ಮರುಪ್ರಾರಂಭವನ್ನು (restart) ಎದುರಿಸಬಲ್ಲದೇ?
- ನನ್ನ ತಂಡವು ಏಜೆಂಟ್ ಸೆಷನ್ಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳಬಲ್ಲದೇ?
- ನನ್ನ ಏಜೆಂಟ್ಗಳು ವಿವಿಧ ರನ್ಟೈಮ್ಗಳಲ್ಲಿ ಸಂದರ್ಭವನ್ನು (context) ಹಂಚಿಕೊಳ್ಳುತ್ತವೆಯೇ?
ನೀವು 'ಹೌದು' ಎಂದು ಉತ್ತರಿಸಲು ಸಾಧ್ಯವಾಗದಿದ್ದರೆ, ನೀವು ಉತ್ಪಾದಕತೆಯನ್ನು (productivity) ವ್ಯರ್ಥ ಮಾಡುತ್ತಿದ್ದೀರಿ.
ಸೆಷನ್ ಸ್ಟೇಟ್ ಅನ್ನು ಬಾಳಿಕೆ ಬರುವಂತೆ (durable), ಹುಡುಕಲು ಸಾಧ್ಯವಾಗುವಂತೆ (searchable) ಮತ್ತು ಹಂಚಿಕೊಳ್ಳಲು ಸಾಧ್ಯವಾಗುವಂತೆ (shareable) ಮಾಡುವ ಕಂಟ್ರೋಲ್ ಪ್ಲೇನ್ ಅನ್ನು ನಿರ್ಮಿಸಿ.
Source: https://dev.to/paultwist/agent-session-memory-isnt-a-feature-its-your-control-plane-1c2p
Optional learning community: https://t.me/GyaanSetuAi