AI Avatars Must Add RAG or Risk Brand-Killing Hallucinations

ಗ್ರಾಹಕ-ಮುಖಿ AI ಅವತಾರಗಳನ್ನು (AI avatars) ನಿರ್ಮಿಸುವ ಡೆವಲಪರ್‌ಗಳು ಒಂದು ನಿರ್ಣಾಯಕ ಅಡೆತಡೆಯನ್ನು ಎದುರಿಸುತ್ತಾರೆ: ಅದು ಲಾರ್ಜ್ ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್‌ಗಳು (LLMs) ಭ್ರಮೆ (hallucinating) ಮಾಡುವುದನ್ನು ತಡೆಯುವುದು. ಒಂದು ಸುಲಲಿತವಾದ ಧ್ವನಿಯು ಒಂದು ಸಣ್ಣ ತಪ್ಪು ಮಾಹಿತಿಯನ್ನು ಮನವೊಲಿಸುವ ಸುಳ್ಳನ್ನಾಗಿ ಪರಿವರ್ತಿಸಬಹುದು, ಇದು ಬ್ರ್ಯಾಂಡ್ ಮೇಲಿನ ನಂಬಿಕೆಯನ್ನು ಹಾಳುಮಾಡಬಹುದು ಮತ್ತು ಕಂಪನಿಗಳನ್ನು ನಿಯಂತ್ರಕ ಅಪಾಯಗಳಿಗೆ (regulatory risk) ಒಡ್ಡಬಹುದು.

ಭ್ರಮೆಗಳು (hallucinations) ಏಕೆ ಮುಖ್ಯ

ಒಂದು ಕಚ್ಚಾ LLM ಕರೆ, ಮೂಲಭೂತ ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್ ಹೊಂದಿದ್ದರೂ ಸಹ, ಆಗಾಗ್ಗೆ ಬೆಲೆ, ನೀತಿ ಅಥವಾ ಉತ್ಪನ್ನದ ವೈಶಿಷ್ಟ್ಯಗಳ ಬಗ್ಗೆ ತಪ್ಪು ವಿವರಗಳನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ. ಉತ್ತರವು ನೈಸರ್ಗಿಕವಾಗಿ ಕೇಳಿಸುವ ಅವತಾರದಿಂದ ಹೇಳಲ್ಪಟ್ಟಾಗ, ಬಳಕೆದಾರರು ಅದನ್ನು ಪ್ರಶ್ನಿಸುವ ಸಾಧ್ಯತೆ ಕಡಿಮೆ ಇರುತ್ತದೆ. ಸಮಸ್ಯೆ ಧ್ವನಿ ಸಂಶ್ಲೇಷಣೆ (voice synthesis) ಅಥವಾ ದೃಶ್ಯ ಪ್ರದರ್ಶನದಲ್ಲಲ್ಲ (visual rendering); ಬದಲಾಗಿ, ಮಾಡೆಲ್ ತನ್ನ ಅರಿವಿಲ್ಲದ ಅಂತರಗಳನ್ನು ಆತ್ಮವಿಶ್ವಾಸದಿಂದ ಕೂಡಿದ ಅರ್ಥಹೀನ ಮಾತುಗಳಿಂದ ತುಂಬಿಸುವ ಅಭ್ಯಾಸದಲ್ಲಿದೆ. ಬ್ಯಾಂಕುಗಳು, ವಿಮಾಗ ಕಂಪನಿಗಳು, ಟೆಲಿಕಾಂ ಮತ್ತು ನಿಖರ ಮಾಹಿತಿಯನ್ನು ಅವಲಂಬಿಸಿರುವ ಯಾವುದೇ ವ್ಯವಹಾರಕ್ಕೆ, ಒಂದು ತಪ್ಪಾದ ಉತ್ತರವು ದೂರುಗಳು, ಮರುಪಾವತಿಗಳು ಅಥವಾ ಕಾನೂನು ಕ್ರಮಗಳಿಗೆ ಕಾರಣವಾಗಬಹುದು.

ಮೂರು ಹಂತದ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳು (guardrail)

1. ಕಟ್ಟುನಿಟ್ಟಾದ Retrieval-Augmented Generation (RAG)

RAG ಎಂಬುದು LLM ಅನ್ನು ಒಂದು ಪರಿಶೀಲಿಸಿದ ಜ್ಞಾನದ ತಳಪಾಯದೊಂದಿಗೆ (knowledge base) ಜೋಡಿಸುತ್ತದೆ ಮತ್ತು ಮಾಡೆಲ್ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಸೃಷ್ಟಿಸುವ ಮೊದಲು ಸಂಬಂಧಿತ ದಾಖಲೆಗಳನ್ನು ಪಡೆಯುತ್ತದೆ. ಇಲ್ಲಿ ಪ್ರಮುಖ ಅಂಶವೆಂದರೆ ಸ್ಪಷ್ಟವಾದ ಪರ್ಯಾಯ ಸೂಚನೆಗಳನ್ನು (fallback instructions) ನೀಡುವುದು: ಅಂದಾಜಿಸುವ ಬದಲು "ನನಗೆ ಗೊತ್ತಿಲ್ಲ" ಎಂದು ಉತ್ತರಿಸಲು ಮಾಡೆಲ್‌ಗೆ ಸೂಚಿಸುವುದು. ಮಾಡೆಲ್‌ನ "ಸಹಾಯ ಮಾಡುವ" (helpfulness) ಅಭ್ಯಾಸದ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುವ ಪರೋಕ್ಷ ಪ್ರಾಂಪ್ಟ್‌ಗಳು ವಿಫಲವಾಗುತ್ತವೆ, ಏಕೆಂದರೆ ಮಾಹಿತಿಯು ಅಪ್ರಸ್ತುತವಾಗಿದ್ದರೂ ಸಹ LLM ಉತ್ತರಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತದೆ.

2. ಕಾನ್ಫಿಡೆನ್ಸ್ ಥ್ರೆಶೋಲ್ಡಿಂಗ್ (Confidence thresholding)

ಬಳಕೆದಾರರ ಪ್ರಶ್ನೆಯನ್ನು LLM ನೋಡುವ ಮೊದಲು, ಪಡೆಯಲಾದ ಮಾಹಿತಿಯ ಪ್ರಸ್ತುತತೆಯನ್ನು ಅಳೆಯಿರಿ. ಹೊಂದಾಣಿಕೆಯು ಮೊದಲೇ ನಿಗದಿಪಡಿಸಿದ ಕಾನ್ಫಿಡೆನ್ಸ್ ಮಟ್ಟಕ್ಕಿಂತ ಕಡಿಮೆಯಿದ್ದರೆ, ಮಾಹಿತಿಯನ್ನು ಸೃಷ್ಟಿಸುವ ಹಂತವನ್ನು ರದ್ದುಗೊಳಿಸಿ. ಬಳಕೆದಾರರನ್ನು ಒಬ್ಬ ಮಾನವ ಏಜೆಂಟ್ ಅಥವಾ ಲೀಡ್-ಕ್ಯಾಪ್ಚರ್ ಫಾರ್ಮ್‌ಗೆ ವರ್ಗಾಯಿಸಿ. ಇದು ತಪ್ಪು ಮಾಹಿತಿಯನ್ನು ತಡೆಯುತ್ತದೆ ಮತ್ತು ಅನಗತ್ಯ LLM ಕರೆಗಳನ್ನು ತಪ್ಪಿಸುವ ಮೂಲಕ ಕಂಪ್ಯೂಟ್ ವೆಚ್ಚವನ್ನು ಉಳಿಸುತ್ತದೆ.

3. ಸುಗಮ ಹ್ಯಾಂಡ್‌ಆಫ್‌ಗಳು (Graceful handoffs)

ಯಶಸ್ಸಿನ ಹಾದಿಯಷ್ಟೇ ಅಚ್ಚುಕಟ್ಟಾಗಿ ವೈಫಲ್ಯದ ಹಾದಿಯನ್ನು ಸಹ ವಿನ್ಯಾಸಗೊಳಿಸಿ. ಕಡಿಮೆ ಕಾನ್ಫಿಡೆನ್ಸ್ ಇರುವ ಸಂದರ್ಭಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಿ, ಅವುಗಳನ್ನು ಲಾಗ್ ಮಾಡಿ ಮತ್ತು ಜ್ಞಾನದ ತಳಪಾಯದಲ್ಲಿನ ಕೊರತೆಗಳನ್ನು ಗುರುತಿಸಲು ಆ ಲಾಗ್‌ಗಳನ್ನು ಬಳಸಿ. ನಂತರ ಮಾನವ ನಿರ್ವಾಹಕರಿಗೆ (human operator) ವರ್ಗಾಯಿಸಲು ಸ್ಪಷ್ಟವಾದ ಮಾರ್ಗವನ್ನು ರೂಪಿಸಿ. AI ಉತ್ತರಿಸಲು ಸಾಧ್ಯವಾಗದಿದ್ದಾಗಲೂ, ಸರಿಯಾಗಿ ನಿರ್ವಹಿಸಿದ ಹ್ಯಾಂಡ್‌ಆಫ್ ಬಳಕೆದಾರರ ಅನುಭವವನ್ನು ಕಾಪಾಡುತ್ತದೆ.

ಅವತಾರ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳನ್ನು ಪರಿಶೀಲಿಸುವಾಗ ಏನು ಕೇಳಬೇಕು

ನೀವು HeyGen ಅಥವಾ D-ID ನಂತಹ ಸೇವೆಗಳನ್ನು ಹೋಲಿಕೆ ಮಾಡುವುದಾದರೆ, ಅವುಗಳ ಭ್ರಮೆ ತಡೆಗಟ್ಟುವ (hallucination safeguards) ಸುರಕ್ಷತಾ ಕ್ರಮಗಳ ಬಗ್ಗೆ ವಿಚಾರಿಸಿ:

• ಸಿಸ್ಟಮ್ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ನಿರ್ದಿಷ್ಟ ಜ್ಞಾನದ ತಳಪಾಯಕ್ಕೆ ಸೀಮಿತಗೊಳಿಸುತ್ತದೆಯೇ?
• ಕಾನ್ಫಿಡೆನ್ಸ್ ಕಡಿಮೆಯಾದಾಗ ಅದು ಹೇಗೆ ವರ್ತಿಸುತ್ತದೆ—ಮೌನವಾಗಿರುತ್ತದೆಯೇ, ಭ್ರಮೆ ಉಂಟಿಸುತ್ತದೆಯೇ ಅಥವಾ ಹ್ಯಾಂಡ್‌ಆಫ್ ಮಾಡುತ್ತದೆಯೇ?
• ಕಡಿಮೆ ಕಾನ್ಫಿಡೆನ್ಸ್ ಇರುವ ಸಂವಹನಗಳನ್ನು ಲಾಗ್ ಮಾಡುವ ಮತ್ತು ಸುಧಾರಿಸುವ ಕಾರ್ಯವಿಧಾನಗಳು ಯಾವುವು?

ಧ್ವನಿಯ ಗುಣಮಟ್ಟವು ಈಗ ವ್ಯತ್ಯಾಸವನ್ನು ಉಂಟುಮಾಡುವ ಅಂಶವಲ್ಲ; ಅವತಾರವನ್ನು ಪ್ರಾಮಾಣಿಕವಾಗಿಡುವ ಸಾಮರ್ಥ್ಯವೇ ಮುಖ್ಯವಾಗಿದೆ.

ಸಾರಾಂಶ (Takeaway)

ಪರಿಪೂರ್ಣವಾಗಿ ಕೇಳಿಸುವ ಆದರೆ ಸತ್ಯಗಳನ್ನು ತಪ್ಪಾಗಿ ಹೇಳುವ AI ಅವತಾರವು ಒಂದು ಅಪಾಯಕಾರಿ ಹೊರೆ. ಮಾಡೆಲ್ ಅನ್ನು ಪರಿಶೀಲಿಸಿದ ಜ್ಞಾನದ ತಳಪಾಯಕ್ಕೆ ಜೋಡಿಸುವ ಮೂಲಕ, ಕಾನ್ಫಿಡೆನ್ಸ್ ಕಡಿಮೆಯಿದ್ದಾಗ ಉತ್ತರಿಸಲು ನಿರಾಕರಿಸುವ ಮೂಲಕ ಮತ್ತು ವೈಫಲ್ಯಗಳನ್ನು ಮಾನವ ಏಜೆಂಟ್‌ಗಳಿಗೆ ವರ್ಗಾಯಿಸುವ ಮೂಲಕ, ಡೆವಲಪರ್‌ಗಳು ಮನವೊಲಿಸುವ ಧ್ವನಿಯನ್ನು ವಿಶ್ವಾಸಾರ್ಹ ಧ್ವನಿಯನ್ನಾಗಿ ಪರಿವರ್ತಿಸಬಹುದು. ನಿಜವಾದ ಸ್ಪರ್ಧಾತ್ಮಕ ಬಲವು ಈಗ ಸಿಸ್ಟಮ್ ಎಷ್ಟು ನೈಸರ್ಗಿಕವಾಗಿ ಮಾತನಾಡುತ್ತದೆ ಎಂಬುದರಲ್ಲಲ್ಲ, ಬದಲಾಗಿ ಅದು ಭ್ರಮೆಗಳನ್ನು (hallucinations) ಎಷ್ಟು ಚೆನ್ನಾಗಿ ತಡೆಯುತ್ತದೆ ಎಂಬುದರಲ್ಲಿದೆ.