𝗔𝗪𝗦 𝗪𝗲𝗯 𝗦𝗲𝗮𝗿𝗰𝗵 𝗼𝗻 𝗕𝗲𝗱𝗿𝗼𝗰𝗸 𝗔𝗴𝗲𝗻𝘁𝗖𝗼𝗿𝗲
AI സാങ്കേതികവിദ്യ പലപ്പോഴും തെറ്റായ കാര്യങ്ങളാണ് ഒപ്റ്റിമൈസ് ചെയ്യുന്നത്.
യഥാർത്ഥ പരാജയം കണക്ഷനുകളിൽ സംഭവിക്കുമ്പോഴും മിക്ക ടീമുകളും മോഡലിനെയാണ് ട്യൂൺ ചെയ്യാറുള്ളത്. പ്രശ്നം ബുദ്ധിശക്തിയല്ല. മോഡലും ലോകവും തമ്മിലുള്ള കൈമാറ്റങ്ങളിലാണ് (handoffs) പ്രശ്നം.
AWS ഇപ്പോൾ Amazon Bedrock AgentCore-ൽ Web Search പുറത്തിറക്കിയിരിക്കുന്നു. ഇത് നിങ്ങൾ ഏജന്റുകളെ നിർമ്മിക്കുന്ന രീതിയെ മാറ്റുന്നു.
ഇതുവരെ, ഏജന്റുകൾ അവരുടെ ട്രെയിനിംഗിൽ നിന്നുള്ള പഴയ ഡാറ്റയിൽ ഒതുങ്ങിപ്പോയിരുന്നു. ലൈവ് വെബ് ആക്സസ് ലഭിക്കുന്നതിന്, നിങ്ങൾ സ്വന്തമായി സ്ക്രാപ്പറുകൾ നിർമ്മിക്കുകയും, API കീകൾ കൈകാര്യം ചെയ്യുകയും, റേറ്റ് ലിമിറ്റുകൾ നിയന്ത്രിക്കുകയും ചെയ്യേണ്ടി വരുമായിരുന്നു. ഇത് ആഴ്ചകളോളം നീളുന്ന എഞ്ചിനീയറിംഗ് സമയം പാഴാക്കുന്നു.
പുതിയ AgentCore ടൂൾ ഒരു മാനേജ്ഡ് ലെയറാണ് (managed layer). ഇത് ഐഡന്റിറ്റി, ത്രോട്ട്ലിംഗ് (throttling), റിസൾട്ട് ഗ്രൗണ്ടിംഗ് (result grounding) എന്നിവ നിങ്ങൾക്കായി കൈകാര്യം ചെയ്യുന്നു. ഇത് ഓപ്പൺ ഇന്റർനെറ്റിലൂടെയുള്ള ഒരു മാനേജ്ഡ് RAG ആണ്.
എഞ്ചിനീയർമാരെ സംബന്ധിച്ചിടത്തോളം ഇത് പ്രധാനമാകുന്നത് എന്തുകൊണ്ട്:
AI ഏജന്റുകളുടെ ഏറ്റവും പ്രയാസകരമായ ഭാഗം കോർഡിനേഷൻ ആണ്. നിങ്ങൾ തീരുമാനിക്കേണ്ടവ ഇവയാണ്:
- ആർക്കാണ് വെബ് ഉപയോഗിക്കാൻ അനുവാദമുള്ളത്?
- ടൈമൗട്ട് (timeout) സംഭവിക്കുമ്പോൾ എന്ത് സംഭവിക്കും?
- പഴയ ഡാറ്റയെ പുതിയ ഫലങ്ങളുമായി എങ്ങനെ യോജിപ്പിക്കും?
AI Coordination Gap എന്നത് ഒരു യഥാർത്ഥ റിസ്കാണ്. ഓരോ ഘട്ടത്തിലും 97% വിശ്വാസ്യതയുള്ള ഒരു 6-സ്റ്റെപ്പ് പൈപ്പ്ലൈൻ ഉണ്ടെങ്കിൽ, നിങ്ങളുടെ മൊത്തത്തിലുള്ള വിശ്വാസ്യത 83% ആയി കുറയും. ഇന്റർനെറ്റിലെ അമിതമായ വിവരങ്ങൾ (noise) ഇതിനെ കൂടുതൽ പ്രയാസകരമാക്കുന്നു.
വിജയിക്കാൻ, നിങ്ങൾ ഈ അഞ്ച് ലെയറുകൾ എഞ്ചിനീയർ ചെയ്യണം:
- Retrieval: മോഡലിന് എപ്പോൾ സെർച്ച് ചെയ്യണമെന്ന് കൃത്യമായി അറിയാൻ വ്യക്തമായ നിയമങ്ങൾ നിർവചിക്കുക.
- Identity: ഏജന്റ് സുരക്ഷിതമായിരിക്കാൻ സ്കോപ്പ് ചെയ്ത ക്രെഡൻഷ്യലുകൾ (scoped credentials) ഉപയോഗിക്കുക.
- Fetching: റാങ്ക് ചെയ്തതും വൃത്തിയുള്ളതുമായ ഫലങ്ങൾ ലഭിക്കാൻ മാനേജ്ഡ് സെർച്ച് ഉപയോഗിക്കുക.
- Memory: പഴയ കോൺടെക്സ്റ്റിനേക്കാൾ പുതിയ ഡാറ്റയ്ക്ക് മുൻഗണന നൽകാൻ മോഡലിനോട് പറയുക.
- Recovery: ഏജന്റ് അനന്തമായി ലൂപ്പിൽ പെടുകയും നിങ്ങളുടെ ബജറ്റ് നഷ്ടപ്പെടുത്തുകയും ചെയ്യാതിരിക്കാൻ സർക്യൂട്ട് ബ്രേക്കറുകൾ (circuit breakers) ഉപയോഗിക്കുക.
വെബ് സെർച്ച് എന്നത് വിവരങ്ങളുടെ പുതുമയ്ക്കുള്ള (freshness) ഒരു ടൂൾ ആണ്, കൃത്യതയ്ക്കുള്ള (accuracy) ടൂൾ അല്ല. ഇന്റർനെറ്റ് അത്ര ശാന്തമല്ല (noisy). നിങ്ങളുടെ കോർഡിനേഷൻ ലെയർ ദുർബലമാണെങ്കിൽ, വെബ് ബ്രൗസ് ചെയ്യാൻ കഴിയുന്ന ഒരു ഏജന്റ് യഥാർത്ഥത്തിൽ കൂടുതൽ തവണ പരാജയപ്പെട്ടേക്കാം.
AI ഉപയോഗിച്ച് വിജയിക്കുന്ന കമ്പനികൾ ഏറ്റവും വലിയ മോഡലുകളല്ല ഉപയോഗിക്കുന്നത്. കോർഡിനേഷൻ പ്രശ്നം പരിഹരിക്കുന്നവരാണ് അവർ.
Optional learning community: https://t.me/GyaanSetuAi