हर कोई AI Agents बना रहा है। कोई भी Technical Debt के बारे में बात नहीं कर रहा है।

अधिकांश डेवलपर्स Technical Debt को जानते हैं। यह वह शॉर्टकट है जो आप आज लेते हैं और जो कल समस्याएँ पैदा करता है। आमतौर पर, यह ऋण आपके कोड में होता है। यह उलझे हुए लॉजिक या पुराने (outdated) लाइब्ररीज के रूप में दिखाई देता है।

AI agents इसे बदल देते हैं।

Agents एक नए प्रकार का ऋण (debt) पैदा करते हैं। यह केवल आपके कोड में नहीं रहता। यह आपके prompts, आपकी memory layers और आपके tool integrations में रहता है। यह ऋण चुपचाप बढ़ता जाता है।

यहाँ agentic debt के चार प्रकार दिए गए हैं जिन पर आपको नज़र रखनी चाहिए:

  1. Prompt Debt एक साधारण दो-लाइन वाला prompt अक्सर 300-लाइन के घोषणापत्र (manifesto) में बदल जाता है। डेवलपर्स छोटी-छोटी गलतियों को ठीक करने के लिए निर्देश जोड़ते रहते हैं। जल्द ही, कोई नहीं जानता कि कुछ खास शब्द वहाँ क्यों हैं। यदि आपको prompt बदलने में डर लगता है, तो आपके पास prompt debt है। यह लागत बढ़ाता है और आपके सिस्टम को धीमा कर देता है।

  2. Context Debt टीमें अक्सर सोचती हैं कि अधिक डेटा का अर्थ बेहतर परिणाम है। वे पूरे डेटाबेस और PDFs को context window में डाल देते हैं। यह एक गलती है। भारी मात्रा में शोर (noise) hallucinations और high latency का कारण बनता है। स्मार्ट सिस्टम डेटा को केवल ग्रहण (ingest) करने के बजाय उसे फ़िल्टर करते हैं।

  3. Evaluation Debt पारंपरिक कोड में स्पष्ट टेस्ट होते हैं। आप X इनपुट करते हैं और Y की अपेक्षा करते हैं। Agents अलग होते हैं। वे probabilistic होते हैं। वे एक ही प्रश्न के अलग-अलग उत्तर दे सकते हैं। यदि आप automated evaluation pipelines के बिना agents लॉन्च करते हैं, तो आप बिना किसी दिशा के काम कर रहे हैं।

  4. Tool Debt किसी agent को अपनी कंपनी के हर API का एक्सेस देना खतरनाक है। यह सुरक्षा जोखिम और जटिल विफलताएं (failures) पैदा करता है। यदि किसी agent के पास 25 tools हैं लेकिन वह केवल पाँच का उपयोग करता है, तो वे अन्य 20 tools शुद्ध ऋण (debt) हैं।

इसे कैसे ठीक करें:

  • Prompts को कोड की तरह मानें। Version control और peer reviews का उपयोग करें।
  • अपने context को व्यवस्थित (curate) करें। केवल डेटा न भरें। जानकारी को साफ रखने के लिए rerankers का उपयोग करें।
  • पहले evaluations बनाएँ। नए फीचर्स जोड़ने से पहले टेस्ट डेटासेट तैयार करें।
  • Least privilege का उपयोग करें। Agents को केवल वही tools दें जिनकी उन्हें काम करने के लिए आवश्यकता है।

जीतने वाली टीमें केवल सबसे अच्छे डेमो ही नहीं बनाएंगी। वे ऐसे सिस्टम बनाएंगी जो स्थिर (stable) और बनाए रखने योग्य (maintainable) रहेंगे।

Source: https://dev.to/reetain_raina/everyone-is-building-ai-agents-nobody-is-talking-about-the-technical-debt-3ljm

Optional learning community: https://t.me/GyaanSetuAi