సాంప్రదాయ రిట్రీవల్-ఆగ్మెంటెడ్ జనరేషన్ (RAG) పైప్‌లైన్‌ల తర్వాత తదుపరి దశగా ఏజెంటిక్ రిట్రీవల్ (Agentic retrieval) ప్రచారంలో ఉంది. ఇది తప్పుడు సమాచారాన్ని సృష్టించడం (hallucinating) ఆపి, సమాచారాన్ని ఎలా సేకరించాలో "ఆలోచించే" ప్రొడక్షన్ AI వ్యవస్థలను అందిస్తుందని వాగ్దానం చేస్తోంది. దీనిని సమర్థించేవారు, ఒక మోడల్ యొక్క కాంటెక్స్ట్ విండోలోకి మొత్తం సమాచార నిధిని (corpus) పంపడం కంటే, ఈ విధానం ద్వారా పెద్ద డాక్యుమెంట్ కలెక్షన్‌లపై క్వెరీకి సమాధానం ఇచ్చే ఖర్చును 82 రెట్లు వరకు తగ్గించవచ్చని చెబుతున్నారు. జనరేటివ్ AIని విస్తరిస్తున్న ఏ బిజినెస్‌కైనా ఈ ఆదా చాలా కీలకం.

పాత RAG పైప్‌లైన్ ఎందుకు సరిపోదు

క్లాసిక్ RAG వర్క్‌ఫ్లో అనేది ఒక నిర్ణీత క్రమం: పత్రాలను చిన్న చిన్న భాగాలుగా (chunks) విభజించడం, ప్రతి భాగాన్ని డెన్స్ వెక్టర్ స్పేస్‌లో ఎంబెడ్ చేయడం, ఆపై యూజర్ క్వెరీ కోసం టాప్-స్కోరింగ్ వెక్టర్లను పొందడం. డెమోలలో ఈ పద్ధతి చక్కగా కనిపిస్తుంది—మోడల్ కొన్ని "సంబంధిత" పేరాగ్రాఫ్‌లను అందుకుని నమ్మకంగా సమాధానం ఇస్తుంది. అయితే, ప్రొడక్షన్‌లో, ఆ నమ్మకం తరచుగా తప్పు కావచ్చు.

మూడు వ్యవస్థాగత లోపాలు ఈ సమస్యకు కారణమవుతున్నాయి:

  • వెక్టర్ సారూప్యత ≠ సందర్భోచితం (Vector similarity ≠ relevance). రెండు పేరాగ్రాఫ్‌లు గణితపరంగా దగ్గరగా ఉండవచ్చు, కానీ అవి వ్యతిరేక వాస్తవాలను తెలియజేయవచ్చు, దీనివల్ల మోడల్ తప్పు క్లెయిమ్‌ను పేర్కొనే అవకాశం ఉంది.
  • విచ్ఛిన్నం వాస్తవాలను దెబ్బతీస్తుంది (Fragmentation breaks facts). ఫిక్స్‌డ్ చంకింగ్ (Fixed chunking) తరచుగా ఒకే స్టేట్‌మెంట్‌ను రెండుగా విడగొడుతుంది. మోడల్‌కు ఒక భాగం మాత్రమే అందితే, అది మిగిలిన భాగాన్ని తిరిగి నిర్మించలేదు.
  • అస్పష్టమైన క్వెరీలు (Messy queries). వాస్తవ ప్రపంచంలోని ప్రశ్నలు చాలా ఎంబెడ్డింగ్ మోడల్స్ యొక్క శిక్షణ డేటా నుండి భిన్నంగా ఉంటాయి, కాబట్టి సిమిలారిటీ సెర్చ్ సంబంధం లేని చంక్స్‌ను తిరిగి ఇస్తుంది.

పైప్‌లైన్ తప్పు కాంటెక్స్ట్‌ను అందించినప్పుడు, డౌన్‌స్ట్రీమ్ లాంగ్వేజ్ మోడల్ ఇప్పటికీ సమాధానాన్ని ఇస్తుంది, అది తరచుగా అధిక నమ్మకంతో ఉంటుంది, మరియు సిస్టమ్ ఎటువంటి లోపాన్ని (error) చూపించదు. దీని ఫలితం "సైలెంట్ హాలూసినేషన్" (silent hallucination)—లైవ్ సర్వీస్‌లో దీనిని గుర్తించడం కష్టమైన ఒక నిశ్శబ్ద వైఫల్యం.

హైబ్రిడ్ రిట్రీవల్: ఒక క్రమబద్ధమైన పరిష్కారం

దీనికి సాధారణ స్పందన ఏమిటంటే, డెన్స్ వెక్టర్లపై కీవర్డ్ సెర్చ్‌ను జోడించడం, తద్వారా ఎంబెడ్డింగ్స్ ద్వారా మిస్ అయిన ఖచ్చితమైన పదాలను పట్టుకోగల హైబ్రిడ్ రిట్రీవర్‌ను సృష్టించడం. రీర్యాంకర్ (reranker)—అంటే నేర్చుకున్న రిలెవెన్స్ స్కోర్ ఆధారంగా రిట్రీవ్ చేసిన జాబితాను తిరిగి క్రమబద్ధీకరించే రెండవ మోడల్‌ను జోడించడం వల్ల ఖచ్చితత్వం మరింత పెరుగుతుంది.

హైబ్రిడ్ రిట్రీవల్ కూడా ఇంకా ఒక స్టాటిక్ స్క్రిప్ట్‌నే అనుసరిస్తుంది: క్వెరీ యొక్క కష్టతరం లేదా అనిశ్చితితో సంబంధం లేకుండా ప్రతి క్వెరీ ఒకే విధమైన దశలను ప్రేరేపిస్తుంది. దానికి మరిన్ని డేటా అవసరమా, ఒక సంక్లిష్టమైన ప్రశ్నను ఉప-ప్రశ్నలుగా ఎలా విభజించాలి, లేదా రిట్రీవ్ చేసిన స్నిప్పెట్ సరిపోలేదా అనేది ఈ పైప్‌లైన్ నిర్ణయించలేదు.

ఏజెంటిక్ రిట్రీవల్ సెర్చ్‌ను ఒక నిర్ణయాత్మక ప్రక్రియగా పరిగణిస్తుంది

ఏజెంటిక్ రిట్రీవల్ ఈ సమస్యను ఒక మానవ పరిశోధకుడిని పోలి ఉండే స్వయంప్రతిపత్తి కలిగిన "ఏజెంట్" చేసే వరుస నిర్ణయాల రూపంలో మళ్ళీ నిర్వచిస్తుంది. ఈ ఏజెంట్ చేయగలిగేవి:

  • క్వెరీని తిరిగి రాయడం (Rewrite the query). సెర్చ్ చేసే ముందు ఇది వాడుక భాషలోని లేదా అస్పష్టమైన పదజాలాన్ని క్రమబద్ధీకరిస్తుంది, తద్వారా రిట్రీవల్ మోడల్స్ ఉద్దేశ్యాన్ని అర్థం చేసుకునే అవకాశాలు పెరుగుతాయి.
  • రిట్రీవల్ అవసరమా కాదా అని అడగడం. సరళమైన ప్రశ్నల కోసం ఏజెంట్ నేరుగా సమాధానం ఇస్తుంది, దీనివల్ల టోకెన్లు ఆదా అవుతాయి మరియు అనవసరమైన శబ్దం (noise) తగ్గుతుంది.
  • మల్టీ-స్టెప్ సెర్చ్‌ను ప్లాన్ చేయడం. సంక్లిష్టమైన ప్రశ్నలను చిన్న చిన్న ఉప-ప్రశ్నలుగా విభజించి, ప్రతి దానిని స్వతంత్రంగా సెర్చ్ చేసి, ఆపై తిరిగి కలుపుతుంది.
  • స్వయంగా సరిదిద్దుకోవడం (Self-correct). ప్రారంభ ఫలితం బలహీనంగా అనిపిస్తే—ఉదాహరణకు, తక్కువ కాన్ఫిడెన్స్ స్కోర్లు లేదా పరస్పర విరుద్ధమైన ఆధారాలు—ఏజెంట్ వేరే ఫార్ములేషన్‌తో క్వెరీని మళ్ళీ పంపుతుంది లేదా సెర్చ్ పరిధిని విస్తరిస్తుంది.

ఖర్చుల వాదనలు: లాంగ్ కాంటెక్స్ట్ వర్సెస్ రిట్రీవల్

పెద్ద కాంటెక్స్ట్ విండోలు రిట్రీవల్‌ను అనవసరంగా మారుస్తాయని కొందరు వాదిస్తారు. దీనికి వ్యతిరేక వాదన వాస్తవికమైనది: ఒక మోడల్ కాంటెక్స్ట్‌లోకి భారీ సమాచార నిధిని పంపడం అనేది ఫోకస్డ్ రిట్రీవల్ కంటే చాలా ఎక్కువ ఖర్చుతో కూడుకున్నది. పెద్ద డేటాసెట్‌ల కోసం రిట్రీవల్ 8 నుండి 82 రెట్లు చౌకగా ఉంటుందని అంచనాలు చెబుతున్నాయి, అదే సమయంలో ఖచ్చితమైన సమాధానాల కోసం అవసరమైన కాంటెక్స్ట్‌ను కూడా అందిస్తుంది. చిన్న, ఎంపిక చేసిన పత్రాల సమూహంపై సూక్ష్మమైన విశ్లేషణ కోసం లాంగ్ కాంటెక్స్ట్ విండోలు ఉపయోగకరంగా ఉంటాయి, కానీ అవి స్కేలబుల్ సెర్చ్‌ను భర్తీ చేయలేవు.

పారదర్శకత మరియు ధృవీకరణ

ప్రొడక్షన్-గ్రేడ్ AI అసిస్టెంట్ తన మూలాలను (sources) వెల్లడించాలి. ఏజెంటిక్ రిట్రీవల్ ప్రతి క్లెయిమ్‌కు ఒక సైటేషన్‌ను (citation) జోడించగలదు, దీనివల్ల మానవ రివ్యూయర్ ఫ్యాక్ట్-చెక్ ప్రక్రియను ధృవీకరించవచ్చు. ఈ "షో-యూర్-వర్క్" (show-your-work) విధానం నమ్మకాన్ని పెంచుతుంది మరియు ఏజెంట్ భవిష్యత్తులో నివారించగలిగే బలహీనమైన రిట్రీవల్ మార్గాలను బయటపెడుతుంది.

తదుపరి గమనించవలసినవి

  • టూలింగ్ (Tooling).
  • ఎవల్యూషన్ ప్రమాణాలు (Evaluation standards).
  • ఎంటర్‌ప్రైజ్ పైలట్లు (Enterprise pilots).

ముగింపు

ఏజెంటిక్ రిట్రీవల్ అనేక డెమోలలో కనిపించే స్టాటిక్, తప్పులకు గురయ్యే RAG పైప్‌లైన్‌ల కంటే మెరుగైనది. AI వ్యవస్థ ఎప్పుడు మరియు ఎలా సెర్చ్ చేయాలో నిర్ణయించుకోవడానికి అనుమతించడం ద్వారా, ఇది టోకెన్ వినియోగాన్ని తగ్గిస్తుంది, ఖర్చులను గణనీయంగా తగ్గిస్తుంది మరియు—ముఖ్యంగా—ప్రతి సమాధానానికి ధృవీకరించదగిన మూలాలను అందిస్తుంది.