𝗜𝗻𝘁𝗿𝗼 𝘁𝗼 𝗚𝗲𝗻 𝗔𝗜 𝗳𝗼𝗿 𝗣𝘆𝘁𝗵𝗼𝗻 𝗕𝗲𝗴𝗶𝗻𝗻𝗲𝗿𝘀
చాలా మంది డెవలపర్లు నిర్ణీత నియమాలను (fixed rules) ఉపయోగించి కోడ్ రాస్తారు. మీరు ఇన్పుట్ను తీసుకుంటారు, if/else స్టేట్మెంట్లు లేదా లూప్లను వర్తింపజేస్తారు మరియు ఊహించదగిన ఫలితాన్ని అందిస్తారు. ఇది JSON లేదా CSV వంటి స్ట్రక్చర్డ్ డేటాకు బాగా పనిచేస్తుంది.
కానీ గందరగోళంగా ఉండే పనుల (messy tasks) సంగతేంటి?
- 100 సపోర్ట్ టికెట్లను సారాంశం చేయడం (Summarizing).
- ఫీచర్ జాబితాను ఈమెయిల్గా మార్చడం.
- బ్లాగ్ పోస్ట్ల నుండి లాభనష్టాలను (pros and cons) పోల్చడం.
మీరు regex లేదా సంక్లిష్టమైన టెంప్లేట్లను ఉపయోగించవచ్చు, కానీ అవి సులభంగా విఫలమయ్యే అవకాశం ఉంది (fragile). Generative AI ఈ అస్పష్టమైన పనులను (fuzzy work) సులభంగా నిర్వహిస్తుంది.
How it works
ఒక జనరేటివ్ మోడల్ ఒక సాధారణ లూప్ను అనుసరిస్తుంది:
- ఇది మీ ప్రాంప్ట్ మరియు మునుపటి టెక్స్ట్ను చూస్తుంది.
- ఇది తదుపరి చిన్న టెక్స్ట్ భాగాన్ని అంచనా వేస్తుంది (predicts).
- ఆ భాగాన్ని టెక్స్ట్కు జోడిస్తుంది.
- పని పూర్తయ్యే వరకు దీనిని పునరావృతం చేస్తుంది.
Large Language Models (LLMs) 'transformer' అని పిలువబడే ఆర్కిటెక్చర్ను ఉపయోగిస్తాయి. ఎడమ నుండి కుడికి చదవడానికి బదులుగా, మోడల్ మీ ఇన్పుట్లోని అన్ని భాగాలను ఒకేసారి చూస్తుంది. తదుపరి అంచనా కోసం ఏ పదాలు అత్యంత ముఖ్యమైనవో ఇది నిర్ణయిస్తుంది.
పైథాన్ డెవలపర్లకు రెండు విషయాలు ముఖ్యమైనవి: tokens మరియు context windows.
Tokens మోడల్లు రా (raw) స్ట్రింగ్లను చదవవు. అవి టెక్స్ట్ను టోకెన్లుగా విడగొడతాయి. ఒక టోకెన్ అనేది పదంలోని ఒక చిన్న భాగం. API ధరలు మరియు పరిమితులు అక్షరాలకు (characters) బదులుగా టోకెన్లను ఉపయోగిస్తాయి.
Context Window ఇది మోడల్ ఒకేసారి చూసే టెక్స్ట్ పరిమాణం. ఇందులో మీ ప్రాంప్ట్, చాట్ హిస్టరీ మరియు మోడల్ అవుట్పుట్ ఉంటాయి. మీరు ఈ పరిమితిని మించితే, మోడల్ సంభాషణలోని పాత భాగాలను మర్చిపోతుంది.
Moving from prompts to agents
మోడల్కు ఒకే ప్రాంప్ట్ను పంపడం అనేది ఒక ప్రారంభం మాత్రమే. మీరు టెక్స్ట్ను సారాంశం చేయవచ్చు లేదా లోపాలను (errors) వివరించవచ్చు. అయితే, ప్రాథమిక LLMకి కొన్ని పరిమితులు ఉన్నాయి:
- ఇది మీ డేటాబేస్లను లేదా APIలను పిలవలేదు (call చేయలేదు).
- ఇది రిక్వెస్ట్ల మధ్య విషయాలను గుర్తుంచుకోదు.
- ఇది తప్పుడు వాస్తవాలను సృష్టించవచ్చు (invent facts).
నిజమైన ఉత్పత్తులను నిర్మించడానికి, మీకు ఏజెంట్లు (agents) అవసరం. ఒక ఏజెంట్ LLMకి మూడు అంశాలను జోడిస్తుంది:
- Tools: వెబ్ సెర్చ్ లేదా కాలిక్యులేటర్ల వంటి ఫంక్షన్లు.
- Memory: గత సంభాషణలు మరియు యూజర్ డేటా కోసం స్టోరేజ్.
- Orchestration: ఏ టూల్ను ఉపయోగించాలో మరియు ఎప్పుడు ఆపాలో నిర్ణయించే లాజిక్.
సాధారణ LLM ఒకే సమాధానాన్ని ఇస్తుంది. ఏజెంట్ ఒక లక్ష్యాన్ని తీసుకుని, నమ్మదగిన ఫలితాన్ని చేరుకోవడానికి టూల్స్ మరియు మెమరీని ఉపయోగిస్తుంది.
Optional learning community: https://t.me/GyaanSetuAi