सर्वात लोकप्रिय AI फ्रेमवर्कमध्ये एक गंभीर दोष आहे

लोक प्रत्येक गोष्टीला एजंट म्हणतात.

लूप असलेला स्क्रिप्ट हा एक एजंट आहे. मेमरी असलेला चॅटबॉट हा एक एजंट आहे. या चुकीमुळे खराब इंजिनीअरिंग होते.

साध्या कामांसाठी जटिल ऑर्केस्ट्रेशन तयार करण्यात टीम्स आठवडे वाया घालवतात. एका सिंगल प्रॉम्प्टसाठी तुम्हाला एजंटची गरज नसते.

एका एजंटचे एक उद्दिष्ट असणे आवश्यक आहे. त्याने स्वतःचे पुढील पाऊल ठरवले पाहिजे. त्याने अपयशाचे व्यवस्थापन केले पाहिजे आणि काम कधी पूर्ण झाले हे त्याला माहित असले पाहिजे.

तुमची सिस्टीम तपासण्यासाठी या नियमांचा वापर करा:

  • जर प्रत्येक पाऊलावर मानवाला मार्गदर्शन करावे लागत असेल, तर ते चॅट इंटरफेस आहे.
  • जर तुमची सिस्टीम अयशस्वी टूल कॉल मधून सावरत असेल, तर तुमच्याकडे एजंट आहे.
  • जर तुमची सिस्टीम ध्येयाचे उप-कामांमध्ये (subtasks) विभाजन करत असेल, तर तुमच्याकडे खरा एजंट आहे.

बहुतेक यशस्वी एजंट्स हे विशिष्ट (narrow) कामासाठी असतात. ते डॉक्युमेंट एक्सट्रॅक्शन किंवा कोड रिव्ह्यू सारखे एकच काम करतात. ते जनरल रिझनिंग इंजिन्स नसतात.

सर्वोत्तम टीम्स तीन गोष्टींवर लक्ष केंद्रित करतात:

  • टूल डिझाइन: एजंटसाठी इंटरफेस स्वच्छ/स्पष्ट बनवणे.
  • फेल्युअर हँडलिंग: टूल फेल झाल्यावर काय करायचे हे ठरवणे.
  • ऑब्झर्व्हेबिलिटी: एजंटने एखादा निर्णय का घेतला याचा मागोवा घेणे.

LangChain किंवा CrewAI सारखी फ्रेमवर्क्स पॅटर्नपेक्षा कमी महत्त्वाचे आहेत. मी तीन वेगवेगळ्या फ्रेमवर्क्समध्ये तीच आर्किटेक्चर पुन्हा तयार केली आहे. निकाल सारखेच होते.

या पॅटर्नचे पालन करा:

  • प्लॅन करा आणि मग अंमलबजावणी करा: नियोजनासाठी एक पायरी आणि कामासाठी वेगळी पायरी वापरा.
  • रिट्रिव्हल आणि रिझनिंग वेगळे ठेवा: डेटा मिळवणे आणि त्याचा वापर करणे या दोन वेगळ्या गोष्टी आहेत.
  • स्पष्ट हँडऑफ्स: जेव्हा एक एजंट दुसऱ्या एजंटकडे काम सोपवतो, तेव्हा स्ट्रक्चर्ड लॉग्स वापरा.

RAG सिस्टीम्स अनेकदा चुकीच्या chunking मुळे अपयशी ठरतात. जर तुमचे मॉडेल तांत्रिक तथ्ये अचूक सांगत असेल पण संदर्भ (context) चुकवत असेल, तर तुमच्या chunks मध्ये समस्या आहे. semantic chunking किंवा parent-document retrieval वापरून पहा.

बेंचमार्कच्या मागे लागणे थांबवा. खरी आव्हाने अशी सिस्टीम बनवण्यात आहे ज्यावर तुम्ही लक्ष नसतानाही तुम्ही विश्वास ठेवू शकाल.

गव्हर्नन्स, ऑब्झर्व्हेबिलिटी आणि विश्वसनीय टूल वापरावर लक्ष केंद्रित करा. सर्वोत्तम इंजिनीअर्स केवळ प्रॉम्प्ट इंजिनीअरिंगवर नाही, तर सिस्टीम डिझाइनवर लक्ष केंद्रित करतील.

Source: https://dev.to/aibughunter/the-hottest-ai-framework-right-now-has-a-fatal-flaw-nobody-mentions-2ing

Optional learning community: https://t.me/GyaanSetuAi