𝗔𝗜 𝗔𝗴𝗲𝗻𝘁 𝗦𝗰𝗼𝗽𝗲𝘀 𝗔𝗻𝗱 𝗧𝗼𝗼𝗹 𝗟𝗶𝗳𝗲𝗰𝘆𝗰𝗹𝗲𝘀
AI ஏஜென்ட்களை உருவாக்குவது கடினம், ஏனெனில் அவற்றை எளிதாகக் கட்டுப்படுத்த முடியாது. நீங்கள் செலவுகளைக் குறைக்க வேண்டும். கட்டுப்பாடற்ற லூப்களை (runaway loops) நிறுத்த வேண்டும். ஒரு இயக்கம் (run) தோல்வியடையும் போது சரியாக என்ன நடந்தது என்பதை நீங்கள் பார்க்க வேண்டும்.
இதைச் சமாளிக்க நான் ஒரு புதிய முறையை உருவாக்கியுள்ளேன். இது AgentScope உடன் runAgent எனப்படும் ஏஜென்ட் பிரிமிட்டிவ் (agent primitive) முறையைப் பயன்படுத்துகிறது. இதில் பட்ஜெட்டுகள், மீண்டும் இயக்கக்கூடிய நிகழ்வுகள் மற்றும் கட்டமைக்கப்பட்ட ரத்து செய்தல் ஆகியவை அடங்கும்.
இது எவ்வாறு செயல்படுகிறது என்பது இங்கே:
- டூல் செயல்பாடுகள் (Tool functions) சாதாரண async செயல்பாடுகளாக இருக்கும். சிக்கலான ஸ்கீமாக்கள் (schemas) தேவையில்லை.
- ஒரு டூல் முடிவதற்கு முன் பட்ஜெட்டுகள் சரிபார்க்கப்படுகின்றன. நீங்கள் ஒரு வரம்பை எட்டினால், சிஸ்டம் முழு இயக்கத்தையும் ரத்து செய்துவிடும்.
- ரீட்ரைக்கள் (Retries) மற்றும் டைம்அவுட்கள் (timeouts) டூல் மட்டத்தில் நிகழும்.
- ரத்து செய்தல் பரவும் (Cancellation propagates). ஒரு பயனர் ஏஜென்ட்டை நிறுத்தினால், சிஸ்டம் தற்போது நடந்து கொண்டிருக்கும் fetch அல்லது டேட்டாபேஸ் குவரியை (database query) உடனடியாக நிறுத்திவிடும்.
- உங்களுக்கு மீண்டும் இயக்கக்கூடிய ஒரு லாக் (replayable log) கிடைக்கும். ஒவ்வொரு நிகழ்வும் வகைப்படுத்தப்பட்டு வரிசைப்படுத்தப்பட்டிருக்கும்.
நீங்கள் மூன்று வகையான வரம்புகளை அமைக்கலாம்:
- CostBudget: செலவிடப்படும் மொத்த USD தொகையைக் கட்டுப்படுத்துகிறது.
- OpenAITokens: பயன்படுத்தப்படும் மொத்த டோக்கன்களைக் கட்டுப்படுத்துகிறது.
- AgentToolCalls: கட்டுப்பாடற்ற லூப்களைத் தடுக்க மொத்த டூல் அழைப்புகளைக் (tool calls) கட்டுப்படுத்துகிறது.
இந்த அணுகுமுறை மற்ற ஃபிரேம்வொர்க்குகளில் (frameworks) இருந்து மாறுபட்டது. பெரும்பாலான ஃபிரேம்வொர்க்குகள் கனமான JSON ஸ்கீமாக்கள் அல்லது தளர்வான டைப்பிங்கை (loose typing) பயன்படுத்துகின்றன. அவற்றுக்கு பெரும்பாலும் முதன்மையான பட்ஜெட் பிரிமிட்டிவ்கள் (first-class budget primitives) இருப்பதில்லை. அனைத்தையும் ஒரே நேரத்தில் ரத்து செய்வதற்கு அவற்றுக்கு ஒருங்கிணைந்த வழிமுறை இல்லை.
இந்த சிஸ்டத்துடன், உங்கள் ஏஜென்ட் உங்கள் அப்ளிகேஷனின் அதே லைஃப்சைக்கிளைப் பகிர்ந்து கொள்கிறது. மெயின் ப்ராசஸ் (parent process) நின்றால், ஏஜென்ட்டும் நின்றுவிடும். நிர்வகிக்க வேண்டிய இரண்டாவது ரன்டைம் (runtime) எதுவும் இல்லை.
நிகழ்வு லாக்-ஐ (event log) நீங்கள் பின்வருவனவற்றிற்குப் பயன்படுத்தலாம்:
- தோல்வி ஹீட்மேப்களுக்கான (failure heatmaps) டேஷ்போர்டுகளை உருவாக்க.
- ஒரு டெஸ்ட் சூழலில் (test environment) இயக்கத்தை மீண்டும் இயக்க.
- டூல் வெற்றி நிகழ்வுகளைப் பார்த்து துல்லியமான கட்டணங்களை தணிக்கை செய்ய (audit).
- இரண்டு வெவ்வேறு இயக்கங்களை ஒப்பிட்டு அவை எங்கு வேறுபட்டன என்பதைக் காண.
இது AI ஏஜென்ட்களைத் தயாரிப்புச் சூழலுக்கு (production) ஏற்றவாறு கணிக்கக்கூடியதாகவும் பாதுகாப்பானதாகவும் மாற்றுகிறது.
Source: https://github.com/WorkRuntime/workit
விருப்பமான கற்றல் சமூகம்: https://t.me/GyaanSetuAi