सध्याचे सर्वात लोकप्रिय AI फ्रेमवर्कमध्ये एक घातक त्रुटी आहे

आता प्रत्येक गोष्टीला 'एजंट' (agent) म्हटले जात आहे.

एखादे टूल कॉल करणारे फंक्शन म्हणजे एजंट. मेमरी असलेला चॅटबॉट म्हणजे एजंट. लूप असलेला स्क्रिप्ट म्हणजे एजंट. ही एक चूक आहे.

जेव्हा तुमच्याकडे स्पष्ट व्याख्या नसते, तेव्हा तुम्ही साध्या कामांसाठी गरजेपेक्षा जास्त तांत्रिक गुंतागुंत (over-engineer) निर्माण करता. आणि जटिल कामांसाठी अपुरी तांत्रिक रचना (under-engineer) करता. मी पाहतोय की अनेक टीम्स अशा वर्कफ्लोसाठी 'एजेंटिक ऑर्केस्ट्रेशन'वर (agentic orchestration) आठवडे घालवतात ज्यासाठी फक्त एका चांगल्या प्रॉम्प्टची गरज असते.

एजंटला केवळ सूचनांची नाही, तर एका उद्दिष्टाची गरज असते. एजंट पुढे काय करायचे हे स्वतः ठरवतो. तो अपयशाचे (failure) व्यवस्थापन करतो. त्याचे काम कधी संपले आहे हे त्याला माहित असते.

  • जर एखादा माणूस सिस्टमला प्रत्येक पायरी सांगत असेल, तर ते फक्त एक चॅट इंटरफेस आहे.
  • जर एखादी सिस्टम फेल झालेल्या टूल कॉल मधून सावरली (recover), तर तुम्ही प्रगती करत आहात.
  • जर एखादी सिस्टम ध्येयाचे उप-कार्यांमध्ये (subtasks) विभाजन करत असेल, तर तो खरा एजंट आहे.

बहुतेक यशस्वी एजंट्स हे विशिष्ट कामासाठी (narrow) असतात. ते एकच काम उत्तम प्रकारे करतात. ते कस्टमर सपोर्ट किंवा डॉक्युमेंट एक्सट्रॅक्शन हाताळतात. ते सामान्य तर्क करणारे इंजिन (general reasoning engines) नसतात.

यशस्वी टीम्स या तीन क्षेत्रांवर लक्ष केंद्रित करतात:

  • टूल डिझाइन: इंटरफेस किती सुटसुटीत आहे?
  • फेल्युअर हँडलिंग: जेव्हा टूल काहीही उत्तर देत नाही, तेव्हा काय होते?
  • ऑब्झर्व्हेबिलिटी (Observability): एजंटने एखादा निर्णय का घेतला, याचा मागोवा तुम्ही घेऊ शकता का?

ज्या टीम्स आपली आर्किटेक्चर न बदलता फक्त मॉडेल्स बदलतात आणि चांगल्या निकालांची अपेक्षा करतात, त्या अपयशी ठरतील.

LangChain किंवा CrewAI सारखी फ्रेमवर्क्स पॅटर्नच्या तुलनेत कमी महत्त्वाचे आहेत. पॅटर्न कोणत्याही टूलसोबत काम करतात.

या पॅटर्नचा वापर करा:

  • आधी नियोजन करा आणि मग अंमलबजावणी करा: नियोजन करण्यासाठी एक पायरी आणि अंमलबजावणीसाठी वेगळी पायरी वापरा.
  • रिट्रिव्हल (retrieval) आणि रिझनिंग (reasoning) वेगळे ठेवा: डेटा मिळवणे आणि डेटा वापरणे ही दोन वेगळी कामे आहेत.
  • स्पष्ट हँडऑफ्स (handoffs): जेव्हा एक एजंट दुसऱ्या एजंटकडे काम सोपवतो, तेव्हा स्ट्रक्चर्ड लॉग्सचा वापर करा.

फ्रेमवर्क हे केवळ मचान (scaffolding) आहे. आर्किटेक्चर ही प्रत्यक्ष इमारत आहे.

RAG देखील अपयशाचे एक कारण आहे. बहुतेक लोक 'चंकिंग' (chunking) चुकीच्या पद्धतीने करतात. जर तुम्ही डॉक्युमेंटचे चुकीच्या पद्धतीने तुकडे केले, तर मॉडेल संदर्भ (context) गमावते.

जर तुमचा RAG अचूक पण निरुपयोगी निकाल देत असेल, तर तुमचे चंकिंग किंवा मेटाडेटा सुधारा. एम्बेडिंग मॉडेलला (embedding model) दोष देऊ नका.

बेंचमार्कच्या मागे लागणे थांबवा. तुम्ही विश्वास ठेवू शकता अशा सिस्टम्स बनवण्यावर लक्ष केंद्रित करा. गव्हर्नन्स (governance), ऑब्झर्व्हेबिलिटी आणि विश्वसनीय टूल वापराकडे लक्ष द्या.

महत्त्वाचे इंजिनिअर्स ते असतील जे अशा सिस्टम्स बनवतील ज्यांचे इतरांकडून देखभाल (maintain) करता येईल. हे सिस्टम डिझाइन आहे, मॉडेल रिसर्च नाही.

स्रोत: https://dev.to/aibughunter/the-hottest-ai-framework-right-now-has-a-fatal-flaw-nobody-mentions-3hd1

पर्यायी लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi