आम्ही आमच्या दहा-एजंट्सच्या AI fleet वर $100 ची क्रेडिट मर्यादा (credit limit) सेट केली आणि त्याच दिवशी थ्रॉटल (throttle) सक्रिय झाले, ज्यामुळे आम्ही मर्यादा वाढवण्यापर्यंत प्रत्येक नवीन कार्य थांबवण्यात आले. या घटनेवरून असे दिसून येते की बजेट ओलांडले गेल्यावर कंट्रोल लूप (control loop) त्वरित कार्यान्वित झाला.
AI fleets साठी क्रेडिट मर्यादा का महत्त्वाची आहे
एकाच सर्व्हरवर दहा स्वायत्त (autonomous) एजंट्स चालवल्यामुळे API कॉल्सचा सतत प्रवाह सुरू राहतो, ज्यामध्ये प्रत्येक कॉलसाठी वापरलेल्या टोकन्सनुसार शुल्क आकारले जाते. पारंपारिक लॉग्स (logs) एजंट्सनी काय केले—क्वेरीज, प्रतिसाद, टाइमस्टॅम्प—हे नोंदवतात, परंतु त्या कृतींचा खर्च किती झाला याबद्दल काहीही सांगत नाहीत. जेव्हा एखादी fleet विस्तारते (scales), तेव्हा तो अदृश्य खर्च प्रचंड वाढू शकतो आणि कोणाचेही लक्ष जाण्यापूर्वीच बजेट संपवू शकतो.
लॉग्सचे लेजरमध्ये (ledger) रूपांतर करणे
आमचे पहिले पाऊल म्हणजे लॉग्सकडे केवळ साधे टेक्स्ट म्हणून न पाहता त्यांना आर्थिक लेजर (financial ledger) म्हणून पाहणे हे होते. एजंटचा प्रत्येक सायकल—task → taking → done—आता तीन जर्नल एन्ट्रीज तयार करतो:
- Money – विनंतीच्या टोकन संख्येवरून काढलेली अंदाजित USD मूल्य.
- Promises – सुरू असलेली कामे जी भविष्यातील दायित्व (liability) दर्शवतात, म्हणजेच काम पूर्ण झाल्यावर ज्याचे बिल आकारले जाईल.
- Labour – एजंटने पूर्ण केलेल्या प्रत्यक्ष कामाचे युनिट्स.
लॉग फाईलमध्ये “error” शोधण्याऐवजी, आता आपण खरोखरच आर्थिक क्वेरी (financial query) चालवू शकतो: “ज्या 'promises' चे एकूण मूल्य $100 पेक्षा जास्त आहे ते सर्व दाखवा.” हे लेजर लपलेला खर्च दृश्यमान आणि शोधण्यायोग्य बनवते.
क्लोज्ड-लूप कंट्रोल सिस्टम (closed-loop control system)
क्रेडिट-मर्यादा यंत्रणा चार-टप्प्यांच्या लूपचे अनुसरण करते जे सतत चालते:
- Measure – एजंटच्या प्रत्येक फेरीमध्ये खर्च लॉगमध्ये (spend log) एक ओळ जोडली जाते, ज्यामध्ये टोकन वापर आणि त्यावरून काढलेली डॉलरची रक्कम नोंदवली जाते.
- Price – सिस्टम सध्याच्या दराचा वापर करून टोकन संख्येचे USD मध्ये रूपांतर करते.
- Alert – एक मॉनिटर रोलिंग बजेटवर लक्ष ठेवतो. त्याची स्थिती none (कोणतीही चेतावणी नाही) वरून warn (मर्यादेच्या जवळ) आणि नंतर cap (मर्यादा गाठली) अशी बदलते.
- Throttle – गेट सध्याची स्थिती वाचते आणि जेव्हा 'cap' सक्रिय असते तेव्हा कोणत्याही नवीन कार्याचा डिस्पॅच (dispatch) रोखते.
बजेट विंडो ही पाच तासांचा रोलिंग कालावधी (rolling period) आहे, याचा अर्थ सिस्टम नेहमी गेल्या पाच तासांच्या खर्चाचा विचार करते, कोणत्याही ठराविक कॅलेंडर ब्लॉकचा नाही. यामुळे लूप कामाच्या अचानक वाढलेल्या वेगाला (bursts of activity) प्रतिसाद देण्यास सक्षम राहते आणि एकाच वेळी झालेली वाढ (spike) fleet ला अनिश्चित काळासाठी लॉक होण्यापासून वाचवते.
केवळ खर्च दर्शवणारे डॅशबोर्ड एक कथा सांगतात; परंतु तो आकडा वाचून डिस्पॅच थांबवणारे थ्रॉटल हे खरे नियंत्रण आहे.
डिझाइनद्वारे लवचिकता (Resilience by design)
खर्च-नियंत्रण प्रणाली जर 'सिंगल पॉइंट ऑफ फेल्युअर' (single point of failure) बनली, तर ती उलट परिणामकारक ठरेल. आम्ही तीन सुरक्षा उपाय (safeguards) तयार केले आहेत:
- Fails open – जर बजेट टूल क्रॅश झाले, तरी एजंट्स चालू राहतील. खर्च तपासला जाणार नाही, परंतु fleet कार्यरत राहील.
- Manual bypass – ऑपरेटर्स प्रायोरिटी चॅनेलद्वारे थ्रॉटल बायपास करू शकतात, ज्यामुळे मर्यादा ओलांडली गेली तरी महत्त्वाच्या कामांना पुढे चालू ठेवता येते.
- Auto-resume – जसा रोलिंग विंडो पुढे सरकतो, तसा जुना खर्च गणनेतून बाहेर पडतो. एकदा का एकूण खर्च मर्यादेपेक्षा कमी झाला की, मानवी हस्तक्षेपाशिवाय गेट आपोआप पुन्हा उघडते.
चाचणी: $100 मर्यादा विरुद्ध $156 विद्यमान खर्च
आम्ही $100 च्या मर्यादेसह सिस्टम सुरू केली, तर fleet च्या अलीकडील हालचालींमुळे आधीच $156 चा खर्च झाला होता. थ्रॉटल त्वरित सक्रिय झाले आणि सर्व नवीन कामे थांबली. जेव्हा आम्ही मर्यादा $200 पर्यंत वाढवली, तेव्हा गेट पुन्हा उघडले आणि पुढील कोणत्याही मॅन्युअल स्टेप्सशिवाय काम पुन्हा सुरू झाले.
या प्रयोगातून दोन गोष्टींची पुष्टी झाली:
- कंट्रोल लूप रिअल-टाइममध्ये प्रतिसाद देते; उल्लंघन शोधणे आणि अंमलबजावणी करणे यामध्ये कोणताही विलंब होत नाही.
- ऑपरेटर्स गरजेनुसार मर्यादा बदलू शकतात, ज्यामुळे कमी-प्राधान्य असलेल्या कामांसाठी अनावश्यक डाउनटाइम टाळता येतो.
निष्कर्ष (Takeaway): एजंट लॉग्सना आर्थिक लेजर मानणे आणि डिस्पॅच पाइपलाइनमध्ये रोलिंग-बजेट थ्रॉटल जोडणे तुम्हाला अति-खर्चापासून त्वरित आणि अंमलबजावणीयोग्य संरक्षण देते. हे एक स्वस्त आणि लवचिक नियंत्रण आहे जे आज काम करते; अधिक प्रगत धोरणे नंतर जोडली जाऊ शकतात, परंतु कोणताही AI-agent fleet साठी मूलभूत लूप ही संरक्षणाची पहिली ओळ असायला हवी.