ഹാലൂസിനേഷൻ (Hallucination) സംഭവിക്കാത്ത AI ഏജന്റുകളെ നിർമ്മിക്കാം
മിക്ക AI ഏജന്റുകളും പ്രൊഡക്ഷനിൽ പരാജയപ്പെടുന്നു. അവ ഫംഗ്ഷൻ പേരുകൾ സ്വയം നിർമ്മിക്കുന്നു. തെറ്റായ പാരാമീറ്ററുകൾ ഊഹിക്കുന്നു. തെറ്റായ ടൂളുകൾ വിളിക്കുന്നു.
ഫംഗ്ഷൻ കോളിംഗ് (Function calling) ഇത് തടയേണ്ടതാണ്. എന്നാൽ യഥാർത്ഥത്തിൽ, ഇത് പലപ്പോഴും ഏജന്റുകളെ വലിയ തോതിൽ തെറ്റായ വിവരങ്ങൾ ആത്മവിശ്വാസത്തോടെ നൽകാൻ പ്രേരിപ്പിക്കുന്നു.
ഇത് പരിഹരിക്കാൻ നിങ്ങൾക്ക് വലിയ മോഡലുകൾ ആവശ്യമില്ല. പകരം മികച്ച ആർക്കിടെക്ചർ ആണ് വേണ്ടത്.
വിശ്വസനീയമായ ഏജന്റുകളെ നിർമ്മിക്കാൻ ഈ നാല് പാറ്റേണുകൾ പിന്തുടരുക:
ഒരു ടു-സ്റ്റേജ് റൂട്ടർ (two-stage router) ഉപയോഗിക്കുക ഒരു മോഡലിന് ഒരേസമയം 15 ടൂളുകൾ നൽകരുത്. ഇത് സ്കീമ ബ്ലോട്ട് (schema bloat) ഉണ്ടാക്കും. പകരം, ആദ്യം ഇൻറ്റന്റ് (intent) തരംതിരിക്കാൻ വേഗതയേറിയതും ചിലവ് കുറഞ്ഞതുമായ ഒരു മോഡൽ ഉപയോഗിക്കുക. ഇൻറ്റന്റ് മനസ്സിലാക്കിയ ശേഷം, പ്രസക്തമായ ടൂളുകൾ മാത്രം കാണിക്കുക. ഇത് പിശകുകൾ 60-70% കുറയ്ക്കുന്നു.
സ്ട്രക്ചേർഡ് ഔട്ട്പുട്ടുകൾ (structured outputs) ഉറപ്പാക്കുക പ്രോംപ്റ്റുകളിലൂടെ വാലിഡ് JSON നൽകാൻ മോഡലുകളോട് ആവശ്യപ്പെടുന്നത് നിർത്തുക. API തലത്തിൽ സ്കീമ എൻഫോഴ്സ്മെന്റ് (schema enforcement) ഉപയോഗിക്കുക. 500 വാക്കുകളുള്ള ഒരു പ്രോംപ്റ്റിനേക്കാൾ എപ്പോഴും മികച്ചത് ഒരു സ്കീമയാണ്. മോഡൽ നിങ്ങളുടെ നിയമങ്ങൾ പാലിക്കുന്നുണ്ടെന്ന് ഇത് ഉറപ്പാക്കുന്നു.
വാലിഡേഷൻ ലെയറുകൾ (validation layers) നിർമ്മിക്കുക ഓരോ ടൂൾ കോളിനും മൂന്ന് ഘട്ടങ്ങൾ ആവശ്യമാണ്:
- പ്രീ-വാലിഡേഷൻ (Pre-validation)
- മോഡൽ എക്സിക്യൂഷൻ (Model execution)
- പോസ്റ്റ്-വാലിഡേഷൻ (Post-validation)
ഒരു ടൂൾ കോൾ വാലിഡേഷനിൽ പരാജയപ്പെട്ടാൽ, ആ എറർ തിരികെ മോഡലിന് നൽകുക. രണ്ടാമത്തെ ശ്രമത്തിൽ മോഡലുകൾ അവയുടെ പാരാമീറ്റർ പിശകുകൾ 80% തവണയും സ്വയം പരിഹരിക്കുന്നു.
- ഹാർഡ് ലിമിറ്റുകൾ (hard limits) നിശ്ചയിക്കുക ഇൻഫിനിറ്റ് ലൂപ്പുകൾ (infinite loops) നിങ്ങളുടെ ബജറ്റ് നശിപ്പിക്കും. ടൈമൗട്ട് ആകുന്നത് വരെ ഒരു മോഡൽ ലൂപ്പിൽ ടൂളുകൾ വിളിച്ചേക്കാം. എപ്പോഴും പരമാവധി ഇറ്ററേഷൻ കൗണ്ട് (maximum iteration count) നിശ്ചയിക്കുക. ഹാർഡ് ലിമിറ്റുകൾ എന്നത് ഒരു ഓപ്ഷനല്ല, മറിച്ച് അത് നിർബന്ധമാണ്.
വ്യത്യസ്ത ജോലികൾക്കായി വ്യത്യസ്ത മോഡലുകൾ ഉപയോഗിച്ച് നിങ്ങളുടെ ചിലവ് കുറയ്ക്കാം:
- ഇൻറ്റന്റ് റൂട്ടിംഗിനും ഔട്ട്പുട്ട് ഫോർമാറ്റിംഗിനും ചെറിയ മോഡലുകൾ ഉപയോഗിക്കുക.
- ടൂൾ സെലക്ഷനായി മിഡ്-ടിയർ (mid-tier) മോഡലുകൾ ഉപയോഗിക്കുക.
- സങ്കീർണ്ണമായ പ്ലാനിംഗിനായി മാത്രം ഫ്രോണ്ടിയർ (frontier) മോഡലുകൾ ഉപയോഗിക്കുക.
ഗുണനിലവാരത്തിൽ വലിയ മാറ്റമില്ലാതെ തന്നെ ഈ രീതി ചിലവ് 10 മുതൽ 15 ഇരട്ടി വരെ കുറയ്ക്കുന്നു.
വിശ്വസനീയമായ AI എന്നത് സിസ്റ്റം ഡിസൈനിനെക്കുറിച്ചാണ്. കൺസ്ട്രയിന്റുകൾ (constraints), വാലിഡേഷൻ, ഓർക്കസ്ട്രേഷൻ എന്നിവയിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുക.
വിശ്വസനീയമായ ഏജന്റുകളെ നിർമ്മിക്കാൻ നിങ്ങൾ ഏത് പാറ്റേണുകളാണ് ഉപയോഗിക്കുന്നത്?