𝗔𝗜 𝗠𝗲𝗺𝗼𝗿𝘆 ಎಂಬುದು ಒಂದು ಪ್ರಾಡಕ್ಟ್ ಸ್ಟೇಟ್ (Product State) ಆಗಿರಬೇಕೇ ಹೊರತು ಪ್ರಾಂಪ್ಟ್ ಟ್ರಿಕ್ (Prompt Trick) ಅಲ್ಲ
ಮೆಮೊರಿಯೊಂದಿಗೆ AI ಉತ್ಪನ್ನಗಳನ್ನು ನಿರ್ಮಿಸುವುದು ಕಷ್ಟದ ಕೆಲಸ.
ಸುಲಭವಾದ ದಾರಿ ಎಂದರೆ ಸತ್ಯಾಂಶಗಳನ್ನು (facts) ಉಳಿಸಿಕೊಳ್ಳುವುದು ಮತ್ತು ಅವುಗಳನ್ನು ಮುಂದಿನ ಪ್ರಾಂಪ್ಟ್ನಲ್ಲಿ ಸೇರಿಸುವುದು. ಬಳಕೆದಾರರ ಆದ್ಯತೆಗಳನ್ನು (user preference) ನೆನಪಿಟ್ಟುಕೊಳ್ಳುವಂತಹ ಸರಳ ಕೆಲಸಗಳಿಗೆ ಇದು ಕೆಲಸ ಮಾಡುತ್ತದೆ.
ಆದರೆ ಬಳಕೆದಾರರು ವೈಯಕ್ತಿಕ ಡೇಟಾವನ್ನು ಹಂಚಿಕೊಂಡಾಗ ಇದು ವಿಫಲವಾಗುತ್ತದೆ. ನಿಮ್ಮ ಉತ್ಪನ್ನವು ಕನಸುಗಳು, ಮನಸ್ಥಿತಿಗಳು ಅಥವಾ ಖಾಸಗಿ ಆಲೋಚನೆಗಳನ್ನು ನಿರ್ವಹಿಸುವುದಾದರೆ, ಮೆಮೊರಿಯನ್ನು ಕೇವಲ ಒಂದು ಬಕೆಟ್ನಂತೆ ಪರಿಗಣಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ.
ಮೆಮೊರಿಗಾಗಿ ಕೇವಲ ಒಂದು "on/off" ಸ್ವಿಚ್ ಇಡುವುದು ಅತಿಯಾದ ಸಂಕೀರ್ಣತೆಯನ್ನು ಮರೆಮಾಚುತ್ತದೆ. ಬಳಕೆದಾರರಿಗೆ ಸೇರಿರುವ ವಿಷಯ ಮತ್ತು ಮಾಡೆಲ್ ಬಳಸುವ ವಿಷಯವನ್ನು ನೀವು ಪ್ರತ್ಯೇಕಿಸಬೇಕು.
ನಾನು ಒಂದು ರಿಫ್ಲೆಕ್ಟಿವ್ (reflective) AI ಉತ್ಪನ್ನವನ್ನು ನಿರ್ಮಿಸುವಾಗ ಇದನ್ನು ಕಲಿತೆ. ಮೆಮೊರಿ ಎಂಬುದು ಕೇವಲ ಒಂದು ವಿಷಯವಲ್ಲ ಎಂಬುದು ನನಗೆ ಅರಿವಾಯಿತು. ಅದು ಹಲವಾರು ವಿಭಿನ್ನ ಪದರಗಳನ್ನು (layers) ಹೊಂದಿದೆ:
- ಸಂಭಾಷಣೆ (Conversation): ಕಚ್ಚಾ ಚಾಟ್ ಇತಿಹಾಸ (raw chat history).
- ಸೆಷನ್ ನೋಟ್ಸ್ (Session notes): ಚಾಟ್ ನಂತರ ರಚಿಸಲಾದ ಸಾರಾಂಶಗಳು.
- ಮೆಮೊರಿ ಐಟಂಗಳು (Memory items): ಬಳಕೆದಾರರು ಅನುಮೋದಿಸಿದ ನಿರ್ದಿಷ್ಟ ಸತ್ಯಾಂಶಗಳು.
- ಬಳಕೆದಾರರ ಸಂದರ್ಭ (User context): ಬಳಕೆದಾರರು ಸ್ವತಃ ಬರೆದ ಹಿನ್ನೆಲೆ ಮಾಹಿತಿ.
- ರಿಟ್ರಿವಲ್ ಎವಿಡೆನ್ಸ್ (Retrieval evidence): ಒಂದು ನಿರ್ದಿಷ್ಟ ಹಂತಕ್ಕಾಗಿ ಸಿಸ್ಟಮ್ ಆಯ್ಕೆ ಮಾಡುವ ಡೇಟಾ.
- ಪ್ರಾಂಪ್ಟ್ ಸಂದರ್ಭ (Prompt context): ಮಾಡೆಲ್ ವಾಸ್ತವವಾಗಿ ನೋಡುವ ಅಂತಿಮ ಡೇಟಾ.
ಪ್ರತಿ ಪದರಕ್ಕೂ ತನ್ನದೇ ಆದ ನಿಯಮಗಳ ಅಗತ್ಯವಿದೆ.
ಸಂಗ್ರಹಿಸಿದ ಮೆಮೊರಿಯನ್ನು (stored memory) ಪ್ರಾಂಪ್ಟ್ ಸಮಯದಲ್ಲಿ ಬಳಸುವ ಮೆಮೊರಿಯೊಂದಿಗೆ (prompt-time memory) ಬೆರೆಸುವುದು ದೊಡ್ಡ ತಪ್ಪು. ಬಳಕೆದಾರರು ಒಂದು ಮೆಮೊರಿ ಆಸ್ತಿಯನ್ನು ಹೊಂದಿರಬಹುದು, ಆದರೆ ಮಾಡೆಲ್ ಅದನ್ನು ಈಗಲೇ ಬಳಸಬೇಕೆಂದು ಬಯಸದಿರಬಹುದು.
ಇದನ್ನು ನಿರ್ವಹಿಸಲು ನಿಮಗೆ ಒಂದು ಅಕ್ಸೆಸ್ ಲೇಯರ್ (access layer) ಬೇಕು. ಕೇವಲ "is memory on" ಎಂದು ಕೇಳುವ ಬದಲು, "can this memory enter the prompt?" ಎಂದು ಕೇಳಿ.
ಈ ವ್ಯತ್ಯಾಸವು ಅನೇಕ ಸಮಸ್ಯೆಗಳನ್ನು ಪರಿಹರಿಸುತ್ತದೆ:
- ಉಚಿತ ಬಳಕೆದಾರರು ಪ್ರತಿ ಚಾಟ್ನಲ್ಲಿ ಅದು ಸಕ್ರಿಯವಾಗದಂತೆ ಡೇಟಾವನ್ನು ಉಳಿಸಿಕೊಳ್ಳಬಹುದು.
- ಬಳಕೆದಾರರು ತಮ್ಮ ಇತಿಹಾಸವನ್ನು ಅಳಿಸದೆ ಮೆಮೊರಿಯನ್ನು ಸ್ಥಗಿತಗೊಳಿಸಬಹುದು (pause).
- ಸಬ್ಸ್ಕ್ರಿಪ್ಷನ್ ಬದಲಾವಣೆಯು ಡೇಟಾವನ್ನು ಸುರಕ್ಷಿತವಾಗಿ ಇರಿಸಿಕೊಳ್ಳುವಾಗ ಮಾಡೆಲ್ ಡೇಟಾವನ್ನು ಬಳಸದಂತೆ ತಡೆಯಬಹುದು.
AI ಏಕೆ ವಿಷಯಗಳನ್ನು ನೆನಪಿಟ್ಟುಕೊಳ್ಳುತ್ತಿದೆ ಎಂಬುದನ್ನು ನೀವು ವಿವರಿಸಬೇಕಾಗುತ್ತದೆ. ಒಂದು ವೇಳೆ AI ಎರಡು ವಾರಗಳ ಹಿಂದಿನ ಕನಸಿನ ಬಗ್ಗೆ ಮಾತನಾಡಿದರೆ, ಅದು ಏಕೆ ಹಾಗೆ ಮಾಡಿತು ಎಂದು ವಿವರಿಸಲು ಸಾಧ್ಯವಾಗದಿದ್ದರೆ ಅದು ಅಸಹಜವಾಗಿ ಅಥವಾ ಭಯಾನಕವಾಗಿ (creepy) ಕಾಣಿಸಬಹುದು.
ನಿಮ್ಮ ಸಿಸ್ಟಮ್ ಮೆಟಾಡೇಟಾವನ್ನು (metadata) ಹೊಂದಿರಬೇಕು. ಒಂದು ಮೆಮೊರಿಯು ಬಳಕೆದಾರರ ನೇರ ಟಿಪ್ಪಣಿಯೇ ಅಥವಾ ಮಾಡೆಲ್ನ ಅನ್ವಯವೇ (model inference) ಎಂಬುದನ್ನು ಅದು ತಿಳಿಸಬೇಕು.
ಮೆಮೊರಿಯನ್ನು ಪ್ರಾಂಪ್ಟ್ ಟ್ರಿಕ್ ಆಗಿ ಪರಿಗಣಿಸುವುದನ್ನು ನಿಲ್ಲಿಸಿ. ಅದನ್ನು ಒಂದು ಪ್ರಾಡಕ್ಟ್ ಸ್ಟೇಟ್ ಆಗಿ ಪರಿಗಣಿಸಿ.
ನೀವು ಸೂಕ್ಷ್ಮ ಅಥವಾ ವೈಯಕ್ತಿಕ ಡೇಟಾಕ್ಕಾಗಿ ನಿರ್ಮಿಸುತ್ತಿದ್ದರೆ, ಈ ನಿಯಮಗಳನ್ನು ಅನುಸರಿಸಿ:
- ಕಚ್ಚಾ ಟ್ರಾನ್ಸ್ಕ್ರಿಪ್ಟ್ಗಳನ್ನು (raw transcripts) ದೀರ್ಘಕಾಲದ ಮೆಮೊರಿಯಾಗಿ ಬಳಸಬೇಡಿ.
- ಪ್ರಮುಖ ಮೆಮೊರಿ ಐಟಂಗಳಿಗೆ ಬಳಕೆದಾರರ ಅನುಮೋದನೆಯನ್ನು ಪಡೆಯಿರಿ.
- ಸಂಗ್ರಹಿಸಿದ ಡೇಟಾವನ್ನು ಪ್ರಾಂಪ್ಟ್ಗೆ ಸೇರುವ ಡೇಟಾದಿಂದ ಪ್ರತ್ಯೇಕಿಸಿ.
- ಬಳಕೆದಾರರಿಗೆ ಇಡೀ ಖಾತೆಯನ್ನು ಅಳಿಸುವ ಬದಲು ವೈಯಕ್ತಿಕ ಐಟಂಗಳನ್ನು ಅಳಿಸಲು ಅವಕಾಶ ನೀಡಿ.
- ಡೇಟಾ ಉಳಿಸಿಕೊಳ್ಳುವಿಕೆ (retention) ಮತ್ತು ಅಳಿಸುವಿಕೆಯ ನಿಯಮಗಳನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ಮತ್ತು ಸರಳವಾಗಿ ಇರಿಸಿ.
ಮೆಮೊರಿ ಶಕ್ತಿಯುತವಾಗುವ ಮೊದಲು ಅದನ್ನು ಪರಿಶೀಲಿಸಲು ಸಾಧ್ಯವಾಗುವಂತಿರಬೇಕು.
ಮೂಲ: https://dev.to/woshiliyana/ai-memory-should-be-a-product-state-not-a-prompt-trick-4m20