எங்களது பத்து முகவர்கள் கொண்ட AI fleet-க்கு நாங்கள் $100 கடன் வரம்பை (credit limit) நிர்ணயித்தோம்; அந்த வரம்பு எட்டப்பட்ட அதே நாளில் கட்டுப்பாட்டு முறை (throttle) செயல்படத் தொடங்கியது, இதனால் நாங்கள் வரம்பை உயர்த்தும் வரை ஒவ்வொரு புதிய பணியும் நிறுத்தப்பட்டது. பட்ஜெட் மீறப்பட்டவுடன் கட்டுப்பாட்டுச் சுழற்சி (control loop) உடனடியாகச் செயல்பட்டதை இந்தச் சம்பவம் காட்டுகிறது.
AI fleet-களுக்கு கடன் வரம்பு ஏன் முக்கியம்
ஒரே சேவையகத்தில் (server) பத்து தன்னாட்சி முகவர்களை (autonomous agents) இயக்குவது, ஒவ்வொரு டோக்கன் பயன்பாட்டிற்கும் கட்டணம் வசூலிக்கப்படும் API அழைப்புகளின் தொடர்ச்சியான ஓட்டத்தை உருவாக்குகிறது. பாரம்பரியப் பதிவுகள் (logs) முகவர்கள் என்ன செய்தார்கள்—வினவல்கள் (queries), பதில்கள், நேர முத்திரைகள்—என்பதை மட்டுமே பதிவு செய்கின்றன, ஆனால் அந்தச் செயல்களால் எவ்வளவு செலவானது என்பதைப் பற்றி எதுவும் சொல்லவில்லை. ஒரு fleet விரிவடையும் போது, அந்தத் தெரியாத கட்டணம் எதிர்பாராத விதமாகப் பெருகி, யாரும் கவனிப்பதற்கு முன்பே பட்ஜெட்டைத் தீர்த்துவிடக்கூடும்.
பதிவுகளை (logs) ஒரு கணக்குப் புத்தகமாக (ledger) மாற்றுதல்
எங்களது முதல் படி, பதிவுகளை வெறும் உரைத் தரவாக (plain text) பார்ப்பதை நிறுத்திவிட்டு, அவற்றை ஒரு நிதி கணக்குப் புத்தகமாக (financial ledger) கருதத் தொடங்கியது. ஒவ்வொரு முகவர் சுழற்சியும்—task → taking → done—இப்போது மூன்று கணக்கு பதிவுகளை உருவாக்குகிறது:
- Money – கோரிக்கையின் டோக்கன் எண்ணிக்கையிலிருந்து பெறப்பட்ட மதிப்பீடு செய்யப்பட்ட USD மதிப்பு.
- Promises – நிலுவையில் உள்ள பொறுப்புகளைக் குறிக்கும் திறந்த பணிகள், அதாவது பணிகள் முடிவடைந்தவுடன் கட்டணம் வசூலிக்கப்படும்.
- Labour – முகவர் செய்த உண்மையான பணி அலகுகள் (work units).
ஒரு log கோப்பில் “error” என்பதைத் தேடுவதற்குப் பதிலாக (grepping), இப்போது உண்மையான நிதித் தேடலை (financial query) மேற்கொள்ள முடியும்: “பணத்தின் மொத்த மதிப்பு $100-ஐத் தாண்டும் அனைத்து வாக்குறுதிகளையும் (promises) காட்டு.” இந்த கணக்குப் புத்தகம் மறைந்திருக்கும் செலவை வெளிப்படையானதாகவும் தேடக்கூடியதாகவும் மாற்றுகிறது.
மூடிய-சுழற்சி கட்டுப்பாட்டு அமைப்பு (The closed-loop control system)
கடன் வரம்பு நுட்பம் தொடர்ந்து இயங்கும் நான்கு படிநிலைகளைக் கொண்ட ஒரு சுழற்சியைப் பின்பற்றுகிறது:
- Measure – ஒவ்வொரு முகவர் சுழற்சியும் செலவுப் பதிவில் (spend log) ஒரு வரியைச் சேர்க்கிறது, இது டோக்கன் பயன்பாடு மற்றும் அதிலிருந்து பெறப்பட்ட டாலர் அளவைப் பதிவு செய்கிறது.
- Price – தற்போதைய விகிதத்தைப் பயன்படுத்தி, கணினி டோக்கன் எண்ணிக்கையை USD ஆக மாற்றுகிறது.
- Alert – ஒரு கண்காணிப்பு கருவி (monitor) நகரும் பட்ஜெட்டைக் கண்காணிக்கிறது. அதன் நிலை none (எச்சரிக்கை இல்லை) என்பதிலிருந்து warn (வரம்பை நெருங்குகிறது) மற்றும் cap (வரம்பு எட்டப்பட்டது) என மாறுகிறது.
- Throttle – வரம்பு (cap) செயல்பாட்டில் இருக்கும்போது, இந்த நுழைவாயில் தற்போதைய நிலையைப் படித்து, புதிய பணி விநியோகத்தைத் தடுக்கிறது.
பட்ஜெட் கால அளவு என்பது ஒரு நகரும் ஐந்து மணிநேரக் காலமாகும் (rolling five-hour period), அதாவது கணினி எப்போதும் ஒரு நிலையான கால அட்டவணையைப் பார்க்காமல், மிக சமீபத்திய ஐந்து மணிநேரச் செலவை மட்டுமே பார்க்கிறது. இது செயல்பாடுகளின் திடீர் அதிகரிப்பிற்கு ஏற்ப சுழற்சி விரைவாகச் செயல்பட உதவுகிறது மற்றும் ஒருமுறை ஏற்படும் அதிகப்படியான செலவு fleet முழுவதையும் நீண்ட காலத்திற்கு முடக்குவதைத் தடுக்கிறது.
செலவை மட்டும் காட்டும் ஒரு டேஷ்போர்டு ஒரு கதையைச் சொல்கிறது; ஆனால் அந்த எண்ணைப் படித்து பணி விநியோகத்தைத் தடுக்கும் throttle தான் உண்மையான கட்டுப்பாடு.
வடிவமைப்பிலேயே உறுதித்தன்மை (Resilience by design)
ஒரு செலவுக் கட்டுப்பாட்டு அமைப்பு, ஒட்டுமொத்த அமைப்பின் தோல்விக்குக் காரணமாகும் ஒரு புள்ளியாக (single point of failure) மாறினால் அது எதிர்மறையான விளைவை ஏற்படுத்தும். எனவே நாங்கள் மூன்று பாதுகாப்பு வழிமுறைகளை உருவாக்கினோம்:
- Fails open – பட்ஜெட் கருவி செயலிழந்தாலும், முகவர்கள் தொடர்ந்து இயங்குவார்கள். செலவு கண்காணிக்கப்படாமல் போகலாம், ஆனால் fleet செயல்பாட்டில் இருக்கும்.
- Manual bypass – ஆபரேட்டர்கள் ஒரு முன்னுரிமை சேனல் (priority channel) மூலம் throttle-ஐத் தவிர்க்கலாம், இதனால் வரம்பு எட்டப்பட்டாலும் முக்கியமான பணிகள் தொடர அனுமதிக்கப்படும்.
- Auto-resume – நகரும் கால அளவு (rolling window) முன்னோக்கி நகரும்போது, பழைய செலவுகள் கணக்கீட்டிலிருந்து விலக்கப்படுகின்றன. மொத்தச் செலவு வரம்பிற்குக் கீழே குறையும் போது, மனிதத் தலையீடு இன்றி நுழைவாயில் தானாகவே மீண்டும் திறக்கும்.
சோதனை: $100 வரம்பு மற்றும் ஏற்கனவே உள்ள $156 செலவு
எங்களது fleet-ன் சமீபத்திய செயல்பாடுகள் ஏற்கனவே $156 செலவைச் செய்திருந்த நிலையில், நாங்கள் $100 வரம்புடன் அமைப்பைத் தொடங்கினோம். உடனடியாக throttle செயல்பட்டு, அனைத்து புதிய பணிகளையும் நிறுத்தியது. நாங்கள் வரம்பை $200 ஆக உயர்த்தியவுடன், நுழைவாயில் மீண்டும் திறக்கப்பட்டு கூடுதல் மனிதத் தலையீடு இன்றி பணிகள் மீண்டும் தொடங்கின.
இந்தச் சோதனை இரண்டு விஷயங்களை உறுதிப்படுத்தியது:
- கட்டுப்பாட்டுச் சுழற்சி நிகழ்நேரத்தில் (real time) செயல்படுகிறது; விதிமீறலைக் கண்டறிவதற்கும் அதைச் செயல்படுத்துவதற்கும் இடையில் காலதாமதம் இல்லை.
- ஆபரேட்டர்கள் வரம்புகளைத் தற்போதைய சூழலுக்கு ஏற்ப மாற்றியமைக்க முடியும், இது குறைந்த முன்னுரிமை கொண்ட பணிகளுக்காகத் தேவையற்ற நேர இழப்பைத் தவிர்க்கிறது.
முக்கியக் கருத்து: முகவர் பதிவுகளை (agent logs) ஒரு நிதி கணக்குப் புத்தகமாக (financial ledger) கருதுவதும், ஒரு நகரும்-பட்ஜெட் கட்டுப்பாட்டை (rolling-budget throttle) விநியோகப் பாதையில் (dispatch pipeline) இணைப்பதும், அதிகப்படியான செலவைத் தடுக்க உடனடி மற்றும் நடைமுறைப்படுத்தக்கூடிய பாதுகாப்பை வழங்குகிறது. இது இன்று செயல்படக்கூடிய ஒரு மலிவான மற்றும் உறுதியான கட்டுப்பாடாகும்; மிகவும் சிக்கலான கொள்கைகளைத் பின்னர் சேர்க்கலாம், ஆனால் அடிப்படைச் சுழற்சி என்பது எந்தவொரு AI-agent fleet-க்கும் முதல் பாதுகாப்பு அரணாக இருக்க வேண்டும்.