AIని గుడ్డిగా నమ్మడం ఆపండి: AI ఏజెంట్ హాలూసినేషన్స్ను (Hallucinations) ఎలా తగ్గించాలి
AI ఏజెంట్లు తరచుగా తప్పులు చేస్తాయి. అవి కోడ్ను హాలూసినేట్ చేస్తాయి, వ్యాపార నియమాలను ఉల్లంఘిస్తాయి లేదా తప్పుడు సాధనాలను ఎంచుకుంటాయి.
చాలా మంది మెరుగైన ప్రాంప్ట్లతో (prompts) దీనిని సరిదిద్దడానికి ప్రయత్నిస్తారు. అది ఒక పొరపాటు.
మీకు నమ్మకమైన AI ఏజెంట్లు కావాలంటే, మీరు స్పష్టమైన పరిమితులతో (constraints) వ్యవస్థలను రూపొందించాలి. మీరు ఒక "Typist" నుండి "Architect"గా మారాలి.
Typist వర్సెస్ Architect
చాలా మంది వినియోగదారులు Typists లాగా వ్యవహరిస్తారు:
- మీరు అడుగుతారు: "Implement an authentication system."
- AI ఆ స్ట్రక్చర్, లైబ్రరీలు మరియు ఫోల్డర్ లేఅవుట్ను నిర్ణయిస్తుంది.
- ప్రతి నిర్ణయం హాలూసినేషన్కు ఒక అవకాశం.
ఇంజనీర్లు Architects లాగా వ్యవహరిస్తారు:
- మీరు మొదట స్ట్రక్చర్ మరియు లైబ్రరీలను నిర్వచిస్తారు.
- మీరు పరిమితులను మరియు నియమాలను నిర్ణయిస్తారు.
- AI మీ పరిమితుల్లో మాత్రమే కోడ్ను రాస్తుంది.
AIకి కోడింగ్ నైపుణ్యం లేక హాలూసినేట్ చేయడం లేదు. మీ మనసులో ఉండి, మీరు ఎప్పుడూ పంచుకోని సందర్భాన్ని (context) అది ఊహించడానికి ప్రయత్నించడం వల్లే హాలూసినేట్ చేస్తోంది.
వ్యూహం 1: Context Files
ప్రతి చాట్లో సూచనలను మళ్ళీ మళ్ళీ చెప్పడం ఆపండి. AIకి శాశ్వత ఫ్రేమ్వర్క్ను అందించడానికి కాన్ఫిగరేషన్ ఫైల్లను ఉపయోగించండి. వివిధ సాధనాలు వేర్వేరు ప్రమాణాలను ఉపయోగిస్తాయి:
• Claude Code కోసం CLAUDE.md • ఓపెన్ సోర్స్ ఎకోసిస్టమ్స్ కోసం AGENTS.md • Cursor కోసం .cursorrules • GitHub Copilot కోసం .copilotrules
ప్రో టిప్: ఒక కేంద్ర AGENTS.md ఫైల్ను సృష్టించి, symlinks ఉపయోగించండి, తద్వారా మిగిలిన అన్ని ఫైల్లు ఆటోమేటిక్గా అప్డేట్ అవుతాయి.
వ్యూహం 2: ADR (Architecture Decision Records)
ఏజెంట్ను ఏదైనా నిర్మించమని అడగడానికి ముందు, ఒక ADRని సృష్టించండి. ఈ పత్రం AI "ఊహించాల్సిన" అవసరాన్ని తొలగిస్తుంది.
ఒక మంచి ADR వీటిని కలిగి ఉండాలి:
- ఖచ్చితంగా ఏమి నిర్మించాలి.
- ఏ ఫైల్లను సృష్టించాలి మరియు ఏ ఫైల్లను అస్సలు తాకకూడదు.
- ఉపయోగించాల్సిన నిర్దిష్ట టెక్ స్టాక్ మరియు లైబ్రరీలు.
- స్పష్టమైన పరిమితులు (ఉదాహరణకు, "No state in memory").
- ఏజెంట్ నిర్ణయించడానికి అనుమతి లేని విషయాల జాబితా.
ఒక Orchestrator కి ADR అందినప్పుడు, డిజైన్ నిర్ణయాలు ఇప్పటికే పూర్తయినట్లు లెక్క. Developer ఏజెంట్ కేవలం ఆ స్పెసిఫికేషన్ను కోడ్గా మారుస్తుంది. ఇది తప్పులను తగ్గిస్తుంది మరియు మీ codebase స్థిరంగా ఉండేలా చేస్తుంది.
నమ్మకమైన AI ఏజెంట్ వర్క్ఫ్లోలను నిర్మించడంపై నేను ఒక సిరీస్ను ప్రారంభిస్తున్నాను. తదుపరి భాగాలలో, నేను system prompt composition మరియు అధునాతన ఇంజనీరింగ్ పద్ధతులను వివరిస్తాను.