इस समय का सबसे चर्चित AI फ्रेमवर्क एक घातक कमी से जूझ रहा है
आजकल हर कोई हर चीज़ को 'एजेंट' कह रहा है।
किसी टूल को कॉल करने वाला फंक्शन एक एजेंट है। मेमोरी वाला चैटबॉट एक एजेंट है। लूप वाला एक स्क्रिप्ट एक एजेंट है। यह एक गलती है।
जब आपके पास स्पष्ट परिभाषा की कमी होती है, तो आप सरल कार्यों को ज़रूरत से ज़्यादा जटिल (over-engineer) बना देते हैं। आप जटिल कार्यों को ज़रूरत से कम (under-engineer) रखते हैं। मैं देखता हूँ कि टीमें उन वर्कफ़्लो के लिए 'एजेंटिक ऑर्केस्ट्रेशन' पर हफ़्तों खर्च करती हैं जिन्हें केवल एक अच्छे प्रॉम्प्ट की आवश्यकता होती है।
एक एजेंट को केवल निर्देश नहीं, बल्कि एक उद्देश्य की आवश्यकता होती है। एक एजेंट तय करता है कि आगे क्या करना है। वह विफलता (failure) को संभालता है। उसे पता होता है कि काम कब पूरा हो गया है।
- यदि कोई इंसान सिस्टम को हर कदम बताता है, तो वह एक चैट इंटरफ़ेस है।
- यदि कोई सिस्टम विफल टूल कॉल से उबर जाता है, तो आप प्रगति कर रहे हैं।
- यदि कोई सिस्टम किसी लक्ष्य को उप-कार्यों (subtasks) में तोड़ता है, तो वह एक वास्तविक एजेंट है।
अधिकांश सफल एजेंट 'नैरो' (narrow) होते हैं। वे एक काम अच्छी तरह से करते हैं। वे कस्टमर सपोर्ट या डॉक्यूमेंट एक्सट्रैक्शन संभालते हैं। वे सामान्य रीजनिंग इंजन (general reasoning engines) नहीं होते हैं।
सफल टीमें इन तीन क्षेत्रों पर ध्यान केंद्रित करती हैं:
- टूल डिज़ाइन: इंटरफ़ेस कितना साफ़ है?
- विफलता प्रबंधन (Failure handling): क्या होता है जब कोई टूल कुछ भी वापस नहीं देता?
- ऑब्ज़र्वेबिलिटी (Observability): क्या आप पता लगा सकते हैं कि एजेंट ने कोई निर्णय क्यों लिया?
जो टीमें अपने आर्किटेक्चर को बदले बिना मॉडल बदलती हैं और बेहतर परिणामों की उम्मीद करती हैं, वे विफल हो जाएंगी।
LangChain या CrewAI जैसे फ्रेमवर्क पैटर्न की तुलना में कम महत्वपूर्ण हैं। पैटर्न टूल की परवाह किए बिना काम करते हैं।
इन पैटर्न्स का उपयोग करें:
- पहले योजना बनाएं फिर निष्पादित करें: योजना बनाने के लिए एक चरण और निष्पादित करने के लिए एक अलग चरण का उपयोग करें।
- रिट्रीवल (retrieval) को रीजनिंग (reasoning) से अलग करें: डेटा प्राप्त करना और डेटा का उपयोग करना अलग-अलग काम हैं।
- स्पष्ट हैंडऑफ (Explicit handoffs): जब एक एजेंट दूसरे को काम सौंपता है, तो स्ट्रक्चर्ड लॉग्स का उपयोग करें।
फ्रेमवर्क केवल मचान (scaffolding) है। आर्किटेक्चर इमारत है।
RAG भी विफलता का एक स्रोत है। अधिकांश लोग चंकिंग (chunking) में गलती करते हैं। यदि आप किसी दस्तावेज़ को खराब तरीके से विभाजित करते हैं, तो मॉडल संदर्भ (context) खो देता है।
यदि आपका RAG सही लेकिन बेकार परिणाम देता है, तो अपनी चंकिंग या अपने मेटाडेटा को ठीक करें। एम्बेडिंग मॉडल (embedding model) को दोष न दें।
बेंचमार्क के पीछे भागना बंद करें। ऐसे सिस्टम बनाने पर ध्यान दें जिन पर आप भरोसा कर सकें। गवर्नेंस, ऑब्ज़र्वेबिलिटी और विश्वसनीय टूल के उपयोग पर ध्यान दें।
महत्वपूर्ण इंजीनियर वे होंगे जो ऐसे सिस्टम बनाएंगे जिन्हें दूसरे मेंटेन (maintain) कर सकें। यह सिस्टम डिज़ाइन है, मॉडल रिसर्च नहीं।
Source: https://dev.to/aibughunter/the-hottest-ai-framework-right-now-has-a-fatal-flaw-nobody-mentions-3hd1
Optional learning community: https://t.me/GyaanSetuAi