एक नए WhatsApp-आधारित RAG (retrieval-augmented generation) असिस्टेंट ने हर उत्तर के लिए JSON-encoded साइटेशन (citation) की मांग करके भ्रम (hallucination) पैदा करना बंद कर दिया। जब मॉडल किसी विशिष्ट चंक (chunk) की ओर इशारा नहीं कर सका, तो उसने "मेरे पास इसका उत्तर देने के लिए पर्याप्त जानकारी नहीं है" वापस दिया, जिससे एक आत्मविश्वास से भरे झूठ बोलने वाले सिस्टम को एक भरोसेमंद "मुझे नहीं पता" वाले सिस्टम में बदल दिया गया।

RAG में भरोसा क्यों मायने रखता है

RAG पर अधिकांश ट्यूटोरियल रिट्रीवल (retrieval) पर बहुत अधिक ध्यान केंद्रित करते हैं—जैसे एम्बेडिंग्स (embeddings) चुनना, दस्तावेज़ों को चंक्स (chunks) में काटना, और परिणामों को री-रैंक (re-ranking) करना। वे इस बात को छोड़ देते हैं कि प्रासंगिक टेक्स्ट मिलने के बाद क्या होता है। जब असिस्टेंट एक ऐसा निश्चित उत्तर देता है जिसे रिट्रीव किया गया संदर्भ (context) वास्तव में समर्थन नहीं देता, तो उपयोगकर्ता का विश्वास उठ जाता है।

कॉन्फिडेंस गैप (The confidence gap)

PostgreSQL और pgvector एक्सटेंशन के साथ बनाए गए एक प्रोटोटाइप में, रिट्रीवल पाइपलाइन सीधी और सरल थी। असली चुनौती प्रोडक्शन में सामने आई: भाषा मॉडल तब भी निश्चित लग रहा था जब रिट्रीव किए गए स्निपेट (snippet) में आवश्यक जानकारी की कमी थी। एक डेमो समस्या को छिपा सकता था, लेकिन वास्तविक उपयोगकर्ताओं ने आत्मविश्वास से बोलने और सही होने के बीच के अंतर को उजागर कर दिया।

JSON के साथ साइटेशन (citations) लागू करना

मॉडल को "केवल तभी उत्तर दें जब आपके पास संदर्भ हो" जैसे प्रॉम्प्ट्स से मनाने के बजाय, लेखक ने आउटपुट फॉर्मेट बदल दिया। सिस्टम अब एक JSON ऑब्जेक्ट की मांग करता है जहाँ प्रत्येक दावे में उस सटीक चंक का संदर्भ शामिल होता है जो उसका समर्थन करता है। यदि मॉडल साइटेशन नहीं जोड़ पाता है, तो रिस्पॉन्स को खारिज कर दिया जाता है और उपयोगकर्ता को स्पष्ट रूप से "मुझे नहीं पता" का संदेश दिखाई देता है।

प्रवर्तन (enforcement) प्राकृतिक-भाषा निर्देशों से बदलकर स्कीमा वैलिडेशन (schema validation) पर आ गया। मॉडल अभी भी टेक्स्ट जेनरेट करता है, लेकिन आसपास का कोड यह जांचता है कि उपयोगकर्ता तक पहुँचने से पहले JSON आवश्यक संरचना से मेल खाता है या नहीं।

क्या बदला

  • चंकिंग (Chunking) अधिक रूढ़िवादी हो गई। अस्पष्ट या बहुत व्यापक चंक्स अब बिना साइटेशन के दावे जेनरेट करते हैं, जिससे "मुझे नहीं पता" वाला फ़ॉलबैक (fallback) सक्रिय हो जाता है।
  • सिस्टम प्रॉम्प्ट छोटा हो गया। मॉडल के व्यवहार को नियंत्रित करने की कोशिश करने वाले भारी-भरकम प्रॉम्प्ट को निर्देशों के एक छोटे सेट से बदल दिया गया, जिससे स्कीमा को मुख्य काम (heavy lifting) करने दिया गया।
  • विफलताएं अब दिखाई देती हैं। जब रिट्रीवल अप्रासंगिक सामग्री वापस करता है, तो असिस्टेंट अब आत्मविश्वास भरे लेकिन गलत उत्तर के साथ त्रुटि को नहीं छिपाता है; यह खुले तौर पर अनिश्चितता स्वीकार करता है।

निष्कर्ष (Takeaway): RAG असिस्टेंट के लिए, यह सुनिश्चित करना कि प्रत्येक दावे को रिट्रीव किए गए स्रोत से ट्रैक किया जा सके, केवल रिट्रीवल स्टेप को बेहतर बनाने की तुलना में उपयोगकर्ता का विश्वास अधिक विश्वसनीय रूप से बनाता है। गायब साइटेशन को एक दृश्यमान "मुझे नहीं पता" में बदलकर, डेवलपर्स सिस्टम को उत्तर गढ़ने के बजाय अपनी सीमाओं को स्वीकार करने देते हैं।