અત્યારે સૌથી વધુ ચર્ચિત AI ફ્રેમવર્ક (Framework) માં એક ગંભીર ખામી છે
અત્યારે દરેક જણ દરેક વસ્તુને એજન્ટ (agent) કહે છે.
એક function જે tool ને call કરે છે તે એજન્ટ છે. મેમરી ધરાવતો ચેટબોટ એ એજન્ટ છે. લૂપ (loop) ધરાવતી સ્ક્રિપ્ટ એ એજન્ટ છે. આ એક ભૂલ છે.
જ્યારે તમારી પાસે સ્પષ્ટ વ્યાખ્યાનો અભાવ હોય છે, ત્યારે તમે સરળ કાર્યો માટે વધુ પડતું એન્જિનિયરિંગ (over-engineer) કરો છો. તમે જટિલ કાર્યો માટે ઓછું એન્જિનિયરિંગ (under-engineer) કરો છો. હું જોઉં છું કે ટીમો એવા વર્કફ્લો માટે એજન્ટિક ઓર્કેસ્ટ્રેશન (agentic orchestration) પર અઠવાડિયા વિતાવે છે જેને માત્ર એક સારા પ્રોમ્પ્ટની જરૂર હોય છે.
એક એજન્ટને માત્ર સૂચનાની જ નહીં, પણ એક ઉદ્દેશ્ય (objective) ની જરૂર હોય છે. એજન્ટ નક્કી કરે છે કે આગળ શું કરવું. તે નિષ્ફળતાને સંભાળે છે. તે જાણે છે કે તેનું કામ ક્યારે પૂરું થયું છે.
- જો કોઈ માણસ સિસ્ટમને દરેક સ્ટેપ જણાવે છે, તો તે ચેટ ઇન્ટરફેસ છે.
- જો સિસ્ટમ નિષ્ફળ થયેલ ટૂલ કોલમાંથી રિકવર થાય છે, તો તમે પ્રગતિ કરી રહ્યા છો.
- જો સિસ્ટમ લક્ષ્યને પેટા-કાર્યોમાં (subtasks) વિભાજિત કરે છે, તો તે સાચો એજન્ટ છે.
મોટાભાગના સફળ એજન્ટો મર્યાદિત (narrow) હોય છે. તેઓ એક કામ સારી રીતે કરે છે. તેઓ કસ્ટમર સપોર્ટ અથવા ડોક્યુમેન્ટ એક્સટ્રેક્શન (document extraction) સંભાળે છે. તેઓ જનરલ રીઝનિંગ એન્જિન (general reasoning engines) નથી.
સફળ ટીમો આ ત્રણ ક્ષેત્રો પર ધ્યાન કેન્દ્રિત કરે છે:
- ટૂલ ડિઝાઇન (Tool design): ઇન્ટરફેસ કેટલું ક્લીન છે?
- નિષ્ફળતાનું સંચાલન (Failure handling): જ્યારે ટૂલ કંઈ જ રિટર્ન ન કરે ત્યારે શું થાય છે?
- ઓબ્ઝર્વેબિલિટી (Observability): શું તમે ટ્રેસ કરી શકો છો કે એજન્ટે નિર્ણય કેમ લીધો?
જે ટીમો તેમના આર્કિટેક્ચરમાં ફેરફાર કર્યા વિના મોડલ્સ બદલે છે અને વધુ સારા પરિણામોની અપેક્ષા રાખે છે, તેઓ નિષ્ફળ જશે.
LangChain અથવા CrewAI જેવા ફ્રેમવર્ક કરતાં પેટર્ન (patterns) વધુ મહત્વના છે. પેટર્ન કોઈપણ ટૂલ સાથે કામ કરે છે.
આ પેટર્નનો ઉપયોગ કરો:
- પ્લાન કરો અને પછી અમલમાં મૂકો (Plan then execute): પ્લાન કરવા માટે એક સ્ટેપ અને અમલ કરવા માટે અલગ સ્ટેપનો ઉપયોગ કરો.
- રિટ્રીવલને રીઝનિંગથી અલગ કરો (Separate retrieval from reasoning): ડેટા મેળવવો અને ડેટાનો ઉપયોગ કરવો એ અલગ કાર્યો છે.
- સ્પષ્ટ હેન્ડઓફ્સ (Explicit handoffs): જ્યારે એક એજન્ટ બીજાને કામ સોંપે ત્યારે સ્ટ્રક્ચર્ડ લોગ્સનો ઉપયોગ કરો.
ફ્રેમવર્ક એ સ્કેફોલ્ડિંગ (scaffolding) છે. આર્કિટેક્ચર એ ઇમારત છે.
RAG પણ નિષ્ફળતાનું એક કારણ છે. મોટાભાગના લોકો ચંકિંગ (chunking) કરવામાં ભૂલ કરે છે. જો તમે ડોક્યુમેન્ટને ખરાબ રીતે વિભાજિત કરો છો, તો મોડલ સંદર્ભ (context) ગુમાવે છે.
જો તમારું RAG સાચા પણ નકામા પરિણામો આપે છે, તો તમારા ચંકિંગ અથવા મેટાડેટાને સુધારો. એમ્બેડિંગ મોડલને દોષ ન આપો.
બેન્ચમાર્ક (benchmarks) પાછળ દોડવાનું બંધ કરો. તમે વિશ્વાસ કરી શકો તેવા સિસ્ટમ બનાવવાનું શરૂ કરો. ગવર્નન્સ (governance), ઓબ્ઝર્વેબિલિટી અને વિશ્વસનીય ટૂલના ઉપયોગ પર ધ્યાન કેન્દ્રિત કરો.
જે એન્જિનિયરો મહત્વના હશે તેઓ એવા હશે જે એવી સિસ્ટમ બનાવશે જેને અન્ય લોકો જાળવી (maintain) શકે. આ સિસ્ટમ્સ ડિઝાઇન છે, મોડલ રિસર્ચ નથી.
Source: https://dev.to/aibughunter/the-hottest-ai-framework-right-now-has-a-fatal-flaw-nobody-mentions-3hd1
Optional learning community: https://t.me/GyaanSetuAi