AI પર આંધળો વિશ્વાસ કરવાનું બંધ કરો: AI એજન્ટના Hallucinations કેવી રીતે ઘટાડવા
AI એજન્ટો ઘણીવાર ભૂલો કરે છે. તેઓ કોડમાં Hallucinate કરે છે, બિઝનેસ નિયમો તોડે છે, અથવા ખોટા સાધનો પસંદ કરે છે.
મોટાભાગના લોકો આને વધુ સારા પ્રોમ્પ્ટ્સ દ્વારા સુધારવાનો પ્રયાસ કરે છે. તે એક ભૂલ છે.
જો તમે વિશ્વસનીય AI એજન્ટો ઈચ્છતા હોવ, તો તમારે સ્પષ્ટ મર્યાદાઓ (constraints) સાથે સિસ્ટમ્સ ડિઝાઇન કરવી જોઈએ. તમારે "Typist" થી "Architect" બનવાની જરૂર છે.
Typist વિરુદ્ધ Architect
મોટાભાગના વપરાશકર્તાઓ Typist ની જેમ વર્તે છે:
- તમે પૂછો છો: "Implement an authentication system."
- AI સ્ટ્રક્ચર, લાઇબ્રેરીઓ અને ફોલ્ડર લેઆઉટ નક્કી કરે છે.
- દરેક નિર્ણય Hallucination માટેની એક તક છે.
એન્જિનિયરો Architect ની જેમ વર્તે છે:
- તમે પહેલા સ્ટ્રક્ચર અને લાઇબ્રેરીઓ વ્યાખ્યાયિત કરો છો.
- તમે મર્યાદાઓ અને નિયમો નક્કી કરો છો.
- AI ફક્ત તમારી મર્યાદાઓની અંદર જ કોડ લખે છે.
AI માં કોડિંગ કૌશલ્યના અભાવે Hallucination થતું નથી. તે Hallucinate એટલા માટે કરે છે કારણ કે તે તમારા મનમાં રહેલા સંદર્ભ (context) નો અંદાજ લગાવવાનો પ્રયાસ કરે છે જે તમે ક્યારેય શેર કર્યો નથી.
વ્યૂહરચના 1: Context Files
દરેક ચેટમાં સૂચનાઓનું પુનરાવર્તન કરવાનું બંધ કરો. AI ને કાયમી ફ્રેમવર્ક આપવા માટે કોન્ફિગરેશન ફાઇલોનો ઉપયોગ કરો. વિવિધ સાધનો વિવિધ ધોરણોનો ઉપયોગ કરે છે:
• Claude Code માટે CLAUDE.md • open source ecosystems માટે AGENTS.md • Cursor માટે .cursorrules • GitHub Copilot માટે .copilotrules
Pro tip: એક કેન્દ્રીય AGENTS.md ફાઇલ બનાવો અને symlinks નો ઉપયોગ કરો જેથી અન્ય તમામ ફાઇલો આપમેળે અપડેટ થાય.
વ્યૂહરચના 2: ARD (Architecture Decision Records)
એજન્ટને કંઈક બનાવવા માટે કહેતા પહેલા, એક ADR બનાવો. આ દસ્તાવેજ AI ને "અંદાજ" લગાવવાની જરૂરિયાત દૂર કરે છે.
એક સારા ADR માં સમાવિષ્ટ છે:
- બરાબર શું બનાવવું તે.
- કઈ ફાઇલો બનાવવી અને કઈ ફાઇલોને ક્યારેય અડવું નહીં.
- ઉપયોગ કરવા માટે ચોક્કસ tech stack અને લાઇબ્રેરીઓ.
- સ્પષ્ટ મર્યાદાઓ (દા.ત., "No state in memory").
- એવી વસ્તુઓની યાદી જે નક્કી કરવાની એજન્ટને પરવાનગી નથી.
જ્યારે Orchestrator ને ADR મળે છે, ત્યારે ડિઝાઇનના નિર્ણયો પહેલેથી જ લેવામાં આવી ગયા હોય છે. Developer એજન્ટ ફક્ત સ્પેસિફિકેશનને કોડમાં રૂપાંતરિત કરે છે. આ ભૂલો ઘટાડે છે અને તમારા codebase ને સુસંગત રાખે છે.
હું વિશ્વસનીય AI એજન્ટ વર્કફ્લો બનાવવાની એક શ્રેણી શરૂ કરી રહ્યો છું. આગામી ભાગોમાં, હું system prompt રચના અને અદ્યતન એન્જિનિયરિંગ તકનીકો વિશે માહિતી આપીશ.