மிகவும் பிரபலமாக இருக்கும் AI Framework-இல் ஒரு கடுமையான குறை உள்ளது

மக்கள் எல்லாவற்றையும் ஒரு agent என்று அழைக்கிறார்கள்.

ஒரு loop கொண்ட script ஒரு agent. நினைவாற்றல் (memory) கொண்ட ஒரு chatbot ஒரு agent. இந்தத் தவறு மோசமான engineering-க்கு வழிவகுக்கிறது.

எளிய பணிகளுக்காக சிக்கலான orchestration-ஐ உருவாக்க குழுக்கள் வாரக்கணக்கில் நேரத்தை வீணடிக்கின்றன. ஒரு ஒற்றை prompt-க்கு உங்களுக்கு ஒரு agent தேவையில்லை.

ஒரு agent-க்கு ஒரு குறிக்கோள் இருக்க வேண்டும். அது தனது அடுத்தடுத்த படிகளைத் தானே தீர்மானிக்க வேண்டும். அது தோல்விகளைக் கையாள வேண்டும் மற்றும் ஒரு பணி எப்போது முடிவடைகிறது என்பதை அறிய வேண்டும்.

உங்கள் அமைப்பைச் சரிபார்க்க இந்த விதிகளைப் பயன்படுத்துங்கள்:

  • ஒவ்வொரு படியையும் ஒரு மனிதன் வழிநடத்த வேண்டும் என்றால், அது ஒரு chat interface.
  • உங்கள் அமைப்பு ஒரு தோல்வியடைந்த tool call-லிருந்து மீண்டு வந்தால், உங்களிடம் ஒரு agent உள்ளது.
  • உங்கள் அமைப்பு ஒரு இலக்கை subtasks-களாகப் பிரிக்கிறது என்றால், உங்களிடம் ஒரு உண்மையான agent உள்ளது.

பெரும்பாலான வெற்றிகரமான agents குறுகிய எல்லை கொண்டவை. அவை document extraction அல்லது code review போன்ற ஒரு வேலையை மட்டுமே செய்கின்றன. அவை பொதுவான reasoning engines அல்ல.

சிறந்த குழுக்கள் மூன்று விஷயங்களில் கவனம் செலுத்துகின்றன:

  • Tool design: agent-க்காக interfaces-களை சுத்தமாக உருவாக்குதல்.
  • Failure handling: ஒரு tool தோல்வியடையும் போது என்ன நடக்கும் என்பதைத் தீர்மானித்தல்.
  • Observability: ஒரு agent ஏன் ஒரு முடிவை எடுத்தது என்பதைக் கண்டறிதல்.

LangChain அல்லது CrewAI போன்ற Framework-களை விட patterns தான் முக்கியம். நான் ஒரே architecture-ஐ மூன்று வெவ்வேறு framework-களில் மீண்டும் உருவாக்கியுள்ளேன். முடிவுகள் ஒன்றாகவே இருந்தன.

இந்த patterns-களைப் பின்பற்றுங்கள்:

  • Plan then execute: திட்டமிடுவதற்கு ஒரு படிநிலையும், வேலை செய்வதற்கு ஒரு தனிப் படிநிலையும் பயன்படுத்துங்கள்.
  • Separate retrieval from reasoning: தரவை எடுப்பது (fetching data) என்பது அதை பயன்படுத்துவதற்குச் சமமானது அல்ல.
  • Explicit handoffs: ஒரு agent மற்றொரு agent-க்கு வேலையை ஒப்படைக்கும் போது structured logs-களைப் பயன்படுத்துங்கள்.

மோசமான chunking காரணமாக RAG அமைப்புகள் பெரும்பாலும் தோல்வியடைகின்றன. உங்கள் model தொழில்நுட்பத் தகவல்களைச் சரியாகக் கொண்டிருந்தாலும், context-ஐத் தவறவிடுகிறது என்றால், உங்கள் chunks தான் பிரச்சனை. semantic chunking அல்லது parent-document retrieval முறைகளை முயற்சித்துப் பாருங்கள்.

Benchmarks-களைத் துரத்துவதை நிறுத்துங்கள். நீங்கள் கவனித்துக் கொண்டிருக்காத போதும் நீங்கள் நம்பக்கூடிய அமைப்புகளை உருவாக்குவதே உண்மையான சவால்.

Governance, observability மற்றும் நம்பகமான tool use ஆகியவற்றில் கவனம் செலுத்துங்கள். சிறந்த பொறியாளர்கள் வெறும் prompt engineering-இல் மட்டும் கவனம் செலுத்தாமல், systems design-இல் கவனம் செலுத்துவார்கள்.

Source: https://dev.to/aibughunter/the-hottest-ai-framework-right-now-has-a-fatal-flaw-nobody-mentions-2ing

Optional learning community: https://t.me/GyaanSetuAi