𝗕𝘂𝗶𝗹𝗱𝗶𝗻𝗴 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁𝘀 𝗧𝗵𝗮𝘁 𝗗𝗼𝗻'𝘁 𝗛𝗮𝗹𝗹𝘂𝗰𝗶𝗻𝗮𝘁𝗲

बहुतेक AI एजंट्स प्रत्यक्ष वापरामध्ये (production मध्ये) अपयशी ठरतात. ते फंक्शनची नावे स्वतःहून तयार करतात. ते चुकीचे पॅरामीटर्स गृहीत धरतात. ते चुकीची टूल्स वापरतात.

'Function calling' हे हे थांबवण्यासाठी असते. पण प्रत्यक्षात, यामुळे अनेकदा एजंट्स मोठ्या प्रमाणावर आत्मविश्वासाने चुकीची माहिती देतात.

हे सुधारण्यासाठी तुम्हाला मोठ्या मॉडेल्सची गरज नाही. तुम्हाला चांगल्या आर्किटेक्चरची (architecture) गरज आहे.

विश्वसनीय एजंट्स तयार करण्यासाठी या चार पद्धतींचा (patterns) अवलंब करा:

  1. टू-स्टेज राउटरचा (two-stage router) वापर करा एकाच वेळी मॉडेलला १५ टूल्स देऊ नका. यामुळे 'schema bloat' होतो. त्याऐवजी, प्रथम हेतू (intent) वर्गीकृत करण्यासाठी जलद आणि स्वस्त मॉडेल वापरा. एकदा तुम्हाला हेतू समजला की, फक्त संबंधित टूल्सच दाखवा. यामुळे त्रुटी ६०-७०% ने कमी होतात.

  2. स्ट्रक्चर्ड आउटपुट (structured outputs) अनिवार्य करा प्रॉम्प्ट्सद्वारे मॉडेलला वैध JSON परत देण्यास सांगणे थांबवा. API स्तरावर स्कीमा एन्फोर्समेंटचा (schema enforcement) वापर करा. ५०० शब्दांच्या प्रॉम्प्टपेक्षा स्कीमा नेहमीच सरस ठरतो. यामुळे मॉडेलने तुमचे नियम पाळतील याची खात्री मिळते.

  3. व्हॅलिडेशन लेयर्स (validation layers) तयार करा प्रत्येक टूल कॉलसाठी तीन पायऱ्या आवश्यक आहेत:

  • Pre-validation
  • Model execution
  • Post-validation

जर टूल कॉल व्हॅलिडेशनमध्ये अपयशी ठरला, तर ती त्रुटी मॉडेलकडे परत पाठवा. मॉडेल्स दुसऱ्या प्रयत्नात ८०% वेळा स्वतःच्या पॅरामीटरमधील चुका सुधारतात.

  1. हार्ड लिमिट्स (hard limits) सेट करा अनंत लूप्स (infinite loops) तुमचा बजेट संपवू शकतात. मॉडेल टाइमआउट येईपर्यंत लूपमध्ये टूल्स कॉल करत राहू शकते. नेहमी जास्तीत जास्त इटरेशन काउंट (maximum iteration count) सेट करा. हार्ड लिमिट्स ही गरज आहे, पर्याय नाही.

वेगवेगळ्या कामांसाठी वेगवेगळी मॉडेल्स वापरून तुमचा खर्च कमी करा:

  • हेतू राउटिंग (intent routing) आणि आउटपुट फॉरमॅटिंगसाठी लहान मॉडेल्स वापरा.
  • टूल निवडीसाठी (tool selection) मिड-टियर मॉडेल्स वापरा.
  • फक्त जटिल नियोजनासाठी (complex planning) फ्रंटियर मॉडेल्स वापरा.

या पद्धतीमुळे गुणवत्तेत कोणतीही घट न होता खर्च १० ते १५ पटीने कमी होतो.

विश्वसनीय AI हे सिस्टम डिझाइनबद्दल आहे. मर्यादा (constraints), व्हॅलिडेशन आणि ऑर्केस्ट्रेशनवर (orchestration) लक्ष केंद्रित करा.

विश्वसनीय एजंट्स तयार करण्यासाठी तुम्ही कोणत्या पद्धती वापरता?

Source: https://dev.to/aiwave/building-ai-agents-that-dont-hallucinate-a-practical-guide-to-function-calling-in-2026-3dde