LLM + RAG + Function Calling అనేది ఒక AI Agent కాదు

చాలా మంది ఏ AI అప్లికేషన్‌నైనా ఏజెంట్ అని పిలుస్తారు. RAG మరియు function calling ఉపయోగిస్తున్న LLMని చూసి వారు ఆ పేరుతో పిలుస్తారు.

ఇది తప్పు.

ఈ సాధనాలు సామర్థ్యాన్ని (capability) అందిస్తాయి. అవి స్వయంప్రతిపత్తిని (autonomy) అందించవు. స్వయంప్రతిపత్తి లేకపోతే, అది ఏజెంట్ కాదు.

ఒక వ్యవస్థ ఏమి చేయగలదు మరియు అది ఎలా ప్రవర్తిస్తుంది అనే అంశాలను మీరు వేరు చేయాలి.

ఒక LLM సందర్భం (context) నుండి వచనాన్ని (text) రూపొందిస్తుంది. అది వ్యవస్థ యొక్క ప్రవాహాన్ని (flow) నియంత్రించదు.

RAG సమాధానాలను మెరుగుపరచడానికి సమాచారాన్ని సేకరిస్తుంది. అది ప్రణాళికలు వేయదు లేదా నిర్ణయాలు తీసుకోదు.

Function calling ఒక మోడల్ చర్యను (action) కోరడానికి అనుమతిస్తుంది. ఏ ఫంక్షన్లు ఉన్నాయి మరియు వాటిని ఎప్పుడు అమలు చేయాలి అనేది వ్యవస్థ నిర్ణయిస్తుంది. మోడల్ కేవలం అభ్యర్థనను మాత్రమే చేస్తుంది.

మీరు ఈ మూడింటినీ కలిపినా కూడా అది ఏజెంట్ కాకపోవచ్చు. చర్యల క్రమం (sequence of actions) పై మీకు నియంత్రణ ఉండదు.

ప్రస్తుత అప్లికేషన్లలో చాలా వరకు ముందుగా నిర్ణయించిన పైప్‌లైన్‌ను (predefined pipeline) ఉపయోగిస్తాయి. కోడ్ ఈ క్రింది వాటిని నిర్ణయిస్తుంది:

  • RAG ఎప్పుడు ఉపయోగించాలి
  • LLMని ఎప్పుడు పిలవాలి
  • ఫంక్షన్‌ను ఎప్పుడు ప్రారంభించాలి
  • తుది ఫలితాన్ని ఎలా ప్రాసెస్ చేయాలి

ఇది ఒక పరిమిత వర్క్‌ఫ్లో (bounded workflow). మోడల్ ఒక నిర్ణీత మార్గంలో పనిచేస్తుంది. అది ఒక క్రమాన్ని అనుసరించి ఆగిపోతుంది. అది ప్రణాళికలు వేయదు.

ఒక AI ఏజెంట్ భిన్నంగా పనిచేస్తుంది. అది నిర్ణీత మార్గాన్ని అనుసరించదు. ప్రక్రియ జరుగుతున్నప్పుడు ఏమి జరుగుతుందనే దాని ఆధారంగా అది తదుపరి దశను నిర్ణయిస్తుంది.

ఒక సాధారణ వ్యవస్థ ఇలా చెబుతుంది: ఈ వర్క్‌ఫ్లోను అనుసరించండి. ఒక ఏజెంట్ వ్యవస్థ ఇలా చెబుతుంది: ఈ లక్ష్యాన్ని సాధించండి.

ఏజెంట్ దాని ప్రవర్తన ద్వారా నిర్వచించబడుతుంది, దాని సాధనాల ద్వారా కాదు. ఒక ఏజెంట్ తప్పనిసరిగా:

  • తదుపరి చర్యను నిర్ణయించాలి
  • సాధనాలను డైనమిక్‌గా ఎంచుకోవాలి
  • బహుళ దశల ద్వారా పునరావృతం (iterate) కావాలి
  • ఫలితాల ఆధారంగా వ్యూహాన్ని మార్చుకోవాలి
  • లక్ష్యాన్ని చేరుకునే వరకు కొనసాగించాలి

ఈ తేడా బాధ్యతకు (responsibility) సంబంధించినది.

ఒక LLM అప్లికేషన్‌లో, వ్యవస్థ మోడల్‌కు ఏమి చేయాలో చెబుతుంది. ఒక ఏజెంట్‌లో, వ్యవస్థ మోడల్‌కు లక్ష్యాన్ని చెబుతుంది. ఆ లక్ష్యాన్ని ఎలా చేరుకోవాలో మోడల్ నిర్ణయిస్తుంది.

RAG సందర్భాన్ని (context) అందిస్తుంది. Function calling చర్యలను (actions) సాధ్యం చేస్తుంది. LLMs తర్కాన్ని (reasoning) అందిస్తాయి.

కానీ మోడల్ తన స్వంత చర్యల క్రమాన్ని నియంత్రించినప్పుడు మాత్రమే అది ఏజెంట్‌గా మారుతుంది.

Source: https://dev.to/rohith_kn/llm-rag-function-calling-is-not-an-ai-agent-5459

Optional learning community: https://t.me/GyaanSetuAi