GraphRAG ಮತ್ತು ಸ್ಥಿರವಾದ ಸಂದರ್ಭೋಚಿತ ನೆನಪನ್ನು (persistent contextual memory) ಈಗ AI ಚಾಟ್ಬಾಟ್ಗಳಿಗೆ ಜೋಡಿಸಲಾಗುತ್ತಿದೆ, ಇದರಿಂದಾಗಿ ಪೇಜ್ ರಿಫ್ರೆಶ್ ಮಾಡಿದರೂ ಅಥವಾ ಹೊಸ ಬ್ರೌಸರ್ ಟ್ಯಾಬ್ ತೆರೆದರೂ ಸಂಭಾಷಣೆಯು ಮುಂದುವರಿಯುತ್ತದೆ. ಹೆಚ್ಚಿನ ಸಂಭಾಷಣಾ ಸಹಾಯಕರ (conversational assistants) ಬಳಕೆದಾರರನ್ನು ಹತಾಶಗೊಳಿಸುತ್ತಿದ್ದ "ಟ್ಯಾಬ್-ಕಿಲ್" (tab-kill) ಮರೆವನ್ನು ಈ ಸಂಯೋಜನೆಯು ನಿವಾರಿಸುತ್ತದೆ ಎಂದು ಡೆವಲಪರ್ಗಳು ಹೇಳುತ್ತಾರೆ.
ಹಳೆಯ ವಿಧಾನವು ಏಕೆ ಅಸಮರ್ಥವಾಗಿದೆ
ಹೆಚ್ಚಿನ ಚಾಟ್-ಆಧಾರಿತ AI ವ್ಯವಸ್ಥೆಗಳು ಪ್ರಮಾಣಿತ Retrieval-Augmented Generation (RAG) ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿವೆ. ಈ ಪೈಪ್ಲೈನ್ ಪ್ರಸ್ತುತ ಪ್ರಶ್ನೆಗೆ ಹೋಲುವ ಪಠ್ಯದ ತುಣುಕುಗಳನ್ನು ಹೊರತೆಗೆಯುತ್ತದೆ, ಅವುಗಳನ್ನು ಭಾಷಾ ಮಾದರಿಗೆ (language model) ನೀಡುತ್ತದೆ ಮತ್ತು ಉತ್ತರವನ್ನು ಹಿಂತಿರುಗಿಸುತ್ತದೆ. "ಫ್ರಾನ್ಸ್ನ ರಾಜಧಾನಿ ಯಾವುದು?" ಎಂಬಂತಹ ಏಕ-ಸತ್ಯದ ಹುಡುಕಾಟಕ್ಕೆ ಈ ವಿಧಾನವು ಚೆನ್ನಾಗಿ ಕೆಲಸ ಮಾಡುತ್ತದೆ.
ಆದರೆ RAG ಪ್ರತಿಯೊಂದು ಬಳಕೆದಾರರ ಇನ್ಪುಟ್ ಅನ್ನು ಪ್ರತ್ಯೇಕ ವಿನಂತಿಯೆಂದು ಪರಿಗಣಿಸುತ್ತದೆ. ಮುಂದಿನ ಪ್ರಶ್ನೆಯು ಕೆಲವು ನಿಮಿಷಗಳ ಹಿಂದೆ ಹೇಳಿದ ವಿಷಯದ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿದ್ದಾಗ, ಮಾದರಿಗೆ ಆ ಸಂದರ್ಭದ ನೆನಪಿರುವುದಿಲ್ಲ. ಇದರ ಪರಿಣಾಮವಾಗಿ, ಚಾಟ್ಬಾಟ್ ನಿಮ್ಮನ್ನು ಮತ್ತೆ ಹೇಳಲು ಕೇಳಬಹುದು ಅಥವಾ ಹಿಂದಿನ ವಿವರಗಳನ್ನು ನಿರ್ಲಕ್ಷಿಸಿ ಉತ್ತರ ನೀಡಬಹುದು. ಸಮಸ್ಯೆ ಬುದ್ಧಿವಂತಿಕೆಯ ಕೊರತೆಯಲ್ಲ; ಅದು ಸ್ಥಿತಿಯ (state) ಕೊರತೆ.
GraphRAG: ಸಮತಟ್ಟಾದ ಪಠ್ಯವನ್ನು ನೆಟ್ವರ್ಕ್ ಆಗಿ ಪರಿವರ್ತಿಸುವುದು
GraphRAG ಮಾಹಿತಿಯನ್ನು ಪಡೆಯುವ ಹಂತವನ್ನು ಮರುರೂಪಿಸುತ್ತದೆ. ಸಂಬಂಧವಿಲ್ಲದ ಪಠ್ಯದ ತುಣುಕುಗಳ ಪಟ್ಟಿಯ ಬದಲಿಗೆ, ಇದು ಒಂದು ಗ್ರಾಫ್ ಅನ್ನು ನಿರ್ಮಿಸುತ್ತದೆ:
- ನೋಡ್ಗಳು (Nodes) ವ್ಯಕ್ತಿಗಳು, ಉತ್ಪನ್ನಗಳು ಅಥವಾ ಘಟನೆಗಳಂತಹ ಘಟಕಗಳನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತವೆ.
- ಎಡ್ಜ್ಗಳು (Edges) ಅವುಗಳ ನಡುವಿನ ಸಂಬಂಧಗಳನ್ನು ಸೆರೆಹಿಡಿಯುತ್ತವೆ—ಯಾರು ಏನನ್ನು ಪೂರೈಸುತ್ತಾರೆ, ಯಾವ ಯೋಜನೆಯು ಯಾವ ಘಟಕದ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿದೆ ಇತ್ಯಾದಿ.
ಗ್ರಾಫ್ ಸಂಪರ್ಕಗಳನ್ನು ಎನ್ಕೋಡ್ ಮಾಡುವುದರಿಂದ, ವ್ಯವಸ್ಥೆಯು ಮಲ್ಟಿ-ಹೋಪ್ ರೀಸನಿಂಗ್ (multi-hop reasoning) ಮಾಡಬಲ್ಲದು: ಇದು ಸಮತಟ್ಟಾದ ಪಠ್ಯದ ಹುಡುಕಾಟಕ್ಕೆ ಅಸಾಧ್ಯವಾದ ಪ್ರಶ್ನೆಗೆ ಉತ್ತರಿಸಲು ಹಲವಾರು ದಾಖಲೆಗಳ ಮೂಲಕ ಸತ್ಯಗಳ ಸರಪಳಿಯನ್ನು ಅನುಸರಿಸಬಹುದು. ಇದು ಸಂಪೂರ್ಣ ಸಬ್-ಗ್ರಾಫ್ಗಳ ಸಾರಾಂಶವನ್ನು ಸಹ ರಚಿಸಬಲ್ಲದು, ಇದರಿಂದ ಬಳಕೆದಾರರಿಗೆ ಚದುರಿದ ತುಣುಕುಗಳ ಬದಲು ವಿಷಯದ ಸಂಕ್ಷಿಪ್ತ ಅವಲೋಕನ ಸಿಗುತ್ತದೆ.
ಸಂದರ್ಭೋಚಿತ ನೆನಪು: ಸಂಭಾಷಣೆಯನ್ನು ನೆನಪಿಟ್ಟುಕೊಳ್ಳುವುದು
ಸ್ಥಿರವಾದ ಸಂದರ್ಭೋಚಿತ ನೆನಪು (Persistent contextual memory) ಗ್ರಾಫ್ ಮೇಲೆ ಒಂದು ಕಾಲಾನುಕ್ರಮದ ಪದರವನ್ನು ಸೇರಿಸುತ್ತದೆ. ಇದು ಮೂರು ಭಾಗಗಳಾಗಿ ವಿಂಗಡಿಸಲ್ಪಟ್ಟಿದೆ:
- ಅಲ್ಪಾವಧಿಯ ನೆನಪು (Short-term memory) ಪ್ರಸ್ತುತ ಸಂಭಾಷಣೆಯ ಹಂತಗಳನ್ನು ಹಿಡಿದಿಟ್ಟುಕೊಳ್ಳುತ್ತದೆ, ಇದರಿಂದ ಬಳಕೆದಾರರು ಕೆಲವು ವಾಕ್ಯಗಳ ಹಿಂದೆ ಹೇಳಿದ ವಿಷಯವನ್ನು ಮತ್ತೆ ಹೇಳುವ ಅಗತ್ಯವಿರುವುದಿಲ್ಲ.
- ದೀರ್ಘಾವಧಿಯ ನೆನಪು (Long-term memory) ಬಳಕೆದಾರರ ಬಗ್ಗೆ ಪ್ರಮುಖ ಸತ್ಯಗಳನ್ನು ದಾಖಲಿಸುತ್ತದೆ—ಪರferred ಭಾಷೆ, ಪುನರಾವರ್ತಿತ ಸಮಸ್ಯೆಗಳು ಅಥವಾ ಹಿಂದಿನ ಖರೀದಿಗಳು ಇತ್ಯಾದಿ.
- ಆಯ್ದ ನೆನಪು (Selective memory) ಏನನ್ನು ಉಳಿಸಿಕೊಳ್ಳಬೇಕು ಎಂಬುದನ್ನು ನಿರ್ಧರಿಸುತ್ತದೆ, ಸಂಗ್ರಹಣೆಯನ್ನು ಅತಿಯಾಗಿ ತುಂಬಿಸುವುದನ್ನು ತಪ್ಪಿಸಲು ಅನಗತ್ಯ ಪದಗಳನ್ನು ಮತ್ತು ಅಪ್ರಸ್ತುತ ಮಾತುಗಳನ್ನು ಕೈಬಿಡುತ್ತದೆ.
ಬಳಕೆದಾರರು ಟ್ಯಾಬ್ ಅನ್ನು ಮುಚ್ಚಿದ ನಂತರ ಮರಳಿ ಬಂದಾಗ, ದೀರ್ಘಾವಧಿಯ ಸಂಗ್ರಹವು ಸಂಬಂಧಿತ ಹಿನ್ನೆಲೆಯನ್ನು ಒದಗಿಸುತ್ತದೆ, ಇದು ಚಾಟ್ಬಾಟ್ ಕೊನೆಯ ಸೆಷನ್ ಎಲ್ಲಿಗೆ ತಲುಪಿತೋ ಅಲ್ಲಿಂದಲೇ ಮುಂದುವರಿಯಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ.
ಯಾವಾಗ ಯಾವ ಸಾಧನವನ್ನು ಬಳಸಬೇಕು
- ಕೇವಲ ಸರಳ ಸತ್ಯಗಳ ಪರಿಶೀಲನೆಗೆ, ಅಲ್ಲಿ ತಪ್ಪಾದ ಸಂಪರ್ಕದ ಪರಿಣಾಮ ಕಡಿಮೆ ಇರುತ್ತದೆ ಎಲ್ಲಿ ಪ್ರಮಾಣಿತ RAG ಅನ್ನು ಬಳಸಿ.
- ತಪ್ಪು ಉತ್ತರದ ಪರಿಣಾಮ ಹೆಚ್ಚಿದ್ದಾಗ ಅಥವಾ ಉತ್ತರವು ಹಲವಾರು ದಾಖಲೆಗಳಲ್ಲಿ ಹರಡಿರುವ ಮಾಹಿತಿಯನ್ನು ಜೋಡಿಸಬೇಕಾದಾಗ GraphRAG ಅನ್ನು ಅಳವಡಿಸಿ.
- ಅಪ್ಲಿಕೇಶನ್ ಮರಳಿ ಬರುವ ಬಳಕೆದಾರರನ್ನು ಗುರುತಿಸಬೇಕಾದಲ್ಲಿ ಅಥವಾ ದಿನಗಳು ಅಥವಾ ವಾರಗಳ ಕಾಲ ವೈಯಕ್ತಿಕ ಸಂಭಾಷಣೆಯನ್ನು ಕಾಪಾಡಿಕೊಳ್ಳಬೇಕಾದಲ್ಲಿ ಸಂದರ್ಭೋಚಿತ ನೆನಪನ್ನು ಸೇರಿಸಿ.
ಈ ಪದರಗಳನ್ನು ನಿರ್ಮಿಸುವುದು ಸುಲಭವಾದ ಪ್ಲಗ್-ಅಂಡ್-ಪ್ಲೇ (plug-and-play) ವ್ಯಾಯಾಮವಲ್ಲ. ಮೂಲ ಡೇಟಾ ಬದಲಾದಂತೆ GraphRAG ಇಂಡೆಕ್ಸ್ ಅನ್ನು ನವೀಕರಿಸಬೇಕು ಮತ್ತು ಮೆಮೊರಿ ಸ್ಟೋರ್ನಲ್ಲಿ ಪ್ರಸ್ತುತತೆ ಮತ್ತು ಸಂಗ್ರಹಣಾ ವೆಚ್ಚದ ನಡುವೆ ಸಮತೋಲನವನ್ನು ಕಾಪಾಡಿಕೊಳ್ಳುವ ನೀತಿಗಳು ಬೇಕಾಗುತ್ತವೆ. ಅತಿಯಾದ ಉಳಿಕೆ—ಹೇಳಿದ ಪ್ರತಿಯೊಂದು ಪದವನ್ನು ಸಂಗ್ರಹಿಸುವುದು—ವೇಗವಾಗಿ ಮಾಹಿತಿಯ ಹುಡುಕಾಟವನ್ನು ನಿಧಾನಗೊಳಿಸುತ್ತದೆ ಮತ್ತು ಮಾದರಿಯನ್ನು ಗೊಂದಲದಲ್ಲಿ ಎಬ್ಬಿಸುತ್ತದೆ.
ವಿನಿಮಯ (The trade-off)
ಸಂದರ್ಭೋಚಿತ ನೆನಪು ಮರೆವಿನ ಸಮಸ್ಯೆಯನ್ನು ಪರಿಹರಿಸುತ್ತದೆ. ಆದರೆ ಇದರ ಅನಾನುಕೂಲವೆಂದರೆ ಕಾರ್ಯಾಚರಣೆಯ ಸವಾಲು: ಲೈವ್ ಗ್ರಾಫ್ ಮತ್ತು ಆಯ್ದ ಮೆಮೊರಿ ಕ್ಯಾಶ್ ಅನ್ನು ನಿರ್ವಹಿಸಲು ನಿರಂತರ ಎಂಜಿನಿಯರಿಂಗ್ ಪ್ರಯತ್ನದ ಅಗತ್ಯವಿದೆ.
ಮುಂದೆ ಏನನ್ನು ಗಮನಿಸಬೇಕು
ಮುಖ್ಯ ಅಂಶ: GraphRAG ಸಂಬಂಧಾತ್ಮಕ ಬೆನ್ನೆಲುಬನ್ನು ಒದಗಿಸಿದರೆ, ಸ್ಥಿರವಾದ ಸಂದರ್ಭೋಚಿತ ನೆನಪು ಕಾಲಾನುಕ್ರಮದ ಅಂಟನ್ನು (temporal glue) ಒದಗಿಸುತ್ತದೆ. ಇವೆರಡೂ ಒಟ್ಟಾಗಿ ಚಾಟ್ಬಾಟ್ಗಳು ಟ್ಯಾಬ್ಗಳು ಮತ್ತು ಸೆಷನ್ಗಳ ನಡುವೆಯೂ ಸಂಭಾಷಣೆಯನ್ನು ಜೀವಂತವಾಗಿಡಲು ಸಹಾಯ ಮಾಡುತ್ತವೆ, ಹತಾಶಗೊಳಿಸುವ ರೀಸೆಟ್ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಸುಗಮ ಸಂಭಾಷಣೆಯನ್ನಾಗಿ ಪರಿವರ್ತಿಸುತ್ತವೆ.