𝗪𝗵𝘆 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁𝘀 𝗙𝗮𝗶𝗹 𝗶𝗻 𝗣𝗿𝗼𝗱𝘂𝗰𝘁𝗶𝗼𝗻 உற்பத்தி நிலையில் AI ஏஜென்ட்கள் ஏன் தோல்வியடைகின்றன
ஒரு AI ஏஜென்ட்டை உருவாக்குவது கடினம். ஒரு டெமோவிலிருந்து (demo) ஒரு நம்பகமான அமைப்பிற்கு (reliable system) ஏஜென்ட்டை மாற்றுவது இன்னும் கடினம். பெரும்பாலான குழுக்கள் ஏஜென்ட்களை சிக்கலான அமைப்புகளாகக் கருதாமல், வெறும் ஸ்கிரிப்ட்களாக (scripts) கருதுவதால் தோல்வியடைகின்றன.
நான்கு முக்கிய காரணங்களால் முன்மாதிரிகள் (Prototypes) உற்பத்தி நிலையில் செயலிழக்கின்றன:
- தெளிவற்ற உள்ளீடு (Messy Input): நிலையான சோதனைகளால் (static tests) கண்டறிய முடியாத தெளிவற்ற தரவுகளை நிஜ பயனர்கள் வழங்குகிறார்கள்.
- ஒற்றைப்படை வடிவமைப்பு (Monolithic Design): ஒரு "super-agent" அனைத்தையும் செய்ய முயற்சிக்கும். இது பிழைத்திருத்தத்தை (debugging) சாத்தியமற்றதாக்குகிறது.
- கண்காணிப்புத் திறன் இல்லாமை (Lack of Observability): நீங்கள் பார்க்க முடியாத ஒன்றை உங்களால் சரிசெய்ய முடியாது. சாதாரண லாக்ஸ்கள் (logs) சிந்திக்கும் படிகளையோ (reasoning steps) அல்லது கருவி அழைப்புகளையோ (tool calls) காட்டுவதில்லை.
- அதிக செலவு (High Costs): ஏஜென்ட்கள் பெரும்பாலும் சுழற்சிகளில் (loops) சிக்கிக்கொள்கின்றன. இது உங்கள் பட்ஜெட்டை ஒரே இரவில் கரைத்துவிடும்.
இதைச் சரிசெய்ய, ஒரே ஒரு பிரம்மாண்டமான ஏஜென்ட்டை உருவாக்குவதை நிறுத்துங்கள். Orchestrator-Worker முறையைப் பயன்படுத்துங்கள்.
ஒரு Orchestrator ஏஜென்ட் ஒரு பணியை சிறிய பகுதிகளாகப் பிரிக்கிறது. இது அந்தப் பகுதிகளைத் தனிப்பயனாக்கப்பட்ட Worker ஏஜென்ட்களிடம் ஒப்படைக்கிறது. இது உங்கள் அமைப்பைச் சோதனை செய்யக்கூடியதாகவும் (testable) மற்றும் விரிவாக்கக்கூடியதாகவும் (scalable) மாற்றுகிறது.
நம்பகமான அமைப்புகள் இந்த நான்கு முறைகளைப் பயன்படுத்துகின்றன:
- கருவி பயன்பாடு (Tool Use): ஏஜென்ட் யூகிக்காமல் குறிப்பிட்ட APIs அல்லது தரவுத்தளங்களை (databases) அழைக்கிறது.
- RAG: ஏஜென்ட் உண்மைகளைத் துல்லியமாகப் பெற உங்கள் சொந்தத் தரவிலிருந்து தகவல்களைப் பெறுகிறது.
- திட்டமிடல் (Planning): ஏஜென்ட் ஒரு செயலைச் செய்வதற்கு முன் படிப்படியான வரைபடத்தை உருவாக்குகிறது.
- பிரதிபலிப்பு (Reflection): பயனர் பார்ப்பதற்கு முன், ஒரு தனிச் சரிபார்ப்பு வெளியீட்டில் உள்ள பிழைகளை ஆய்வு செய்கிறது.
நிலைத்திருக்க உங்களுக்கு ஒரு வலுவான LLMOps அடுக்கு (stack) தேவை:
- சூழல் பொறியியல் (Context Engineering): மாதிரியை (model) கவனத்துடன் வைத்திருக்க அது பார்ப்பதை நீங்கள் கட்டுப்படுத்துங்கள்.
- நினைவகக் கட்டமைப்பு (Memory Architecture): உண்மைகள் மற்றும் கடந்த கால உரையாடல்களுக்கு வெவ்வேறு நினைவக அடுக்குகளைப் பயன்படுத்துங்கள்.
- மதிப்பீடு (Evaluation): பிழைகளை முன்கூட்டியே கண்டறிய ஒரு 'golden dataset'-க்கு எதிராகச் சோதனைகளை நடத்துங்கள்.
- பாதுகாப்பு வேலிகள் (Guardrails): ஏஜென்ட் தவறாக நடந்துகொண்டால் அதை நிறுத்த 'circuit breakers'-களை அமைக்கவும்.
வெறும் ப்ராம்ப்ட் (prompt) மட்டும் செய்யாதீர்கள். கட்டமைப்பை (Architect) உருவாக்குங்கள்.
முதல் நாளிலிருந்தே தோல்விக்கான வாய்ப்புகளைக் கருத்தில் கொண்டு வடிவமைக்கவும். பாதுகாப்பு வேலிகளை (guardrails) உருவாக்குங்கள், நிலையான செயல்பாட்டை (durable execution) நடைமுறைப்படுத்துங்கள் மற்றும் மதிப்பீட்டுப் பாதைகளை (evaluation pipelines) அமைக்கவும். இதன் மூலம் நீங்கள் ஒரு டெமோவிலிருந்து மில்லியன் கணக்கான பயனர்களுக்குப் பயன்படும் ஒரு தயாரிப்பிற்கு மாற முடியும்.
Optional learning community: https://t.me/GyaanSetuAi