ഒരു AI ഏജന്റ് സ്വന്തം ക്രെഡൻഷ്യലുകൾ (credentials) കൈവശം വെച്ച് നേരിട്ട് ബാഹ്യ സേവനങ്ങളുമായി ബന്ധപ്പെടുമ്പോൾ, അത് ഒരു ജീവനക്കാരന്റെ സോഫ്റ്റ്വെയറിനെപ്പോലെയല്ല, മറിച്ച് ഒരു സൂപ്പർവൈസർ ഇല്ലാത്തതും കോർപ്പറേറ്റ് കാർഡുള്ളതുമായ ഒരു കോൺട്രാക്ടറെപ്പോലെയാണ് പ്രവർത്തിക്കുന്നത്. അത് എന്തിനെയാണ് സ്പർശിച്ചതെന്നും, ആര് ആക്സസ് അനുവദിച്ചുവെന്നും, അല്ലെങ്കിൽ എന്തുകൊണ്ടാണ് ഒരു സംഭാഷണത്തിന് മറ്റൊന്നിനേക്കാൾ പത്തിരട്ടി ചിലവ് വന്നതെന്നും നിങ്ങൾക്ക് കാണാൻ കഴിയില്ല. ലോഗുകൾ (logs) ഡസൻ കണക്കിന് സേവനങ്ങളിലായി ചിതറിക്കിടക്കുന്നു. ചോദ്യങ്ങൾ വർദ്ധിച്ചുകൊണ്ടേയിരിക്കുന്നു.
ഏജന്റ് യഥാർത്ഥത്തിൽ ഏത് ടൂൾ ആണ് ഉപയോഗിച്ചത്? ആ ഡാറ്റാബേസ് ഉപയോഗിക്കാൻ അതിന് ആര് അനുമതി നൽകി? തിങ്കളാഴ്ച വെറും അഞ്ച് ടോക്കണുകൾ മാത്രം ഉപയോഗിച്ചപ്പോൾ ചൊവ്വാഴ്ചയുടെ റൺ എന്തുകൊണ്ടാണ് നാൽപ്പതിനായിരം ടോക്കണുകൾ ഉപയോഗിച്ചത്? നമ്മൾ യഥാർത്ഥത്തിൽ എത്ര ചിലവാക്കി?
ഉപയോക്താക്കൾക്കും മോഡലുകൾക്കും സേവനങ്ങൾക്കും ഇടയിൽ ഒരു സെൻട്രൽ കൺട്രോൾ ലെയർ ഇല്ലാതെ, ഈ ചോദ്യങ്ങൾ ഉത്തരമില്ലാതെ അവശേഷിക്കുന്നു. ഓരോ കണക്ഷനും ഒരിക്കൽ മാത്രം രജിസ്റ്റർ ചെയ്യുന്ന, ഒരു ഏജന്റിന് യഥാർത്ഥത്തിൽ ആവശ്യമുള്ള പരിമിതമായ ഫംഗ്ഷനുകൾ മാത്രം നൽകുന്ന, കൂടാതെ ഓരോ എക്സിക്യൂഷനും പൂർണ്ണമായി രേഖപ്പെടുത്തുന്ന ഒരു സിംഗിൾ പ്ലെയിൻ നിങ്ങൾക്ക് ആവശ്യമാണ്. ഈ ലേഖനം deco Studio ഒരു ലോക്കൽ കൺട്രോൾ പ്ലെയിനായി ഉപയോഗിച്ചുകൊണ്ടുള്ള ഒരു അഡ്വാൻസ്ഡ് ലാബ് വിവരിക്കുന്നു. നിങ്ങൾ ഇത് സെറ്റപ്പ് ചെയ്യുകയും, ഒരു സുരക്ഷിതമായ Model Context Protocol സെർവർ കണക്ട് ചെയ്യുകയും, കൃത്യമായി ഒരു അനുമതി ലഭിച്ച ഫംഗ്ഷൻ മാത്രം എക്സ്പോസ് ചെയ്യുകയും ചെയ്യും; കൂടാതെ ഒരു ഏജന്റ് അതിന്റെ പരിധിക്കപ്പുറം എത്താൻ ശ്രമിക്കുമ്പോൾ എന്ത് സംഭവിക്കുന്നു എന്ന് നിരീക്ഷിക്കുകയും ചെയ്യും.
ചിതറിക്കിടക്കുന്ന ക്രെഡൻഷ്യലുകളിലെ പ്രശ്നം
ഒരു സാധാരണ ടീം സെറ്റപ്പ് സങ്കൽപ്പിക്കുക. ഒരു ഡെവലപ്പർ ഒരു പേഴ്സണൽ കീ ഉപയോഗിച്ച് ഒരു ഏജന്റിനെ സെർച്ച് API-യുമായി ബന്ധിപ്പിക്കുന്നു. മറ്റൊരു വ്യക്തി ഡെമോ അപകടരഹിതമാണെന്ന് തോന്നിയതുകൊണ്ട് അതേ ഏജന്റിനെ ഒരു പ്രൊഡക്ഷൻ ഡാറ്റാബേസുമായി ബന്ധിപ്പിക്കുന്നു. മൂന്നാമതൊരാൾ ഏജന്റിന് "ഇൻവോയ്സുകൾ കൈകാര്യം ചെയ്യാൻ" സഹായിക്കുന്നതിനായി ഒരു ബില്ലിംഗ് ലുക്കപ്പ് ടൂൾ ചേർക്കുന്നു. ഓരോ കണക്ഷനും മറ്റുള്ളവർക്ക് അദൃശ്യമാണ്. ഏജന്റിന് ഇപ്പോൾ സെർച്ച്, പ്രൊഡക്ഷൻ ഡാറ്റ, സാമ്പത്തിക രേഖകൾ എന്നിവയിലേക്ക് നേരിട്ട് പ്രവേശനം ഉണ്ട്, എന്നാൽ നിലവിൽ എന്തൊക്കെ പ്രവർത്തിക്കുന്നു എന്നതിനെക്കുറിച്ച് ടീമിന് ഏകീകൃതമായ ഒരു പട്ടികയില്ല.
ക്രെഡൻഷ്യലുകൾ ഏജന്റിനുള്ളിൽ തന്നെയാണെങ്കിൽ, ഗവേണൻസ് (governance) തകരാറിലാകുന്നു. കീ ഏജന്റിന്റെ മെമ്മറിയിലോ അതിന്റെ ലോക്കൽ എൻവയോൺമെന്റ് ഫയലിലോ ആയതിനാൽ നിങ്ങൾക്ക് ആക്സസ് കേന്ദ്രീകൃതമായി റദ്ദാക്കാൻ കഴിയില്ല. ബാഹ്യ സേവനം ഒരു അജ്ഞാത ഓട്ടോമേറ്റഡ് ക്ലയന്റിൽ നിന്നുള്ള ഒരു API കോൾ മാത്രമാണ് കാണുന്നത് എന്നതിനാൽ നിങ്ങൾക്ക് ഉപയോഗം ഓഡിറ്റ് ചെയ്യാൻ കഴിയില്ല. ചിലവ് കൂടുന്നത് ദിവസങ്ങൾക്ക് ശേഷം ഒരു ക്ലൗഡ് ബില്ലിൽ കാണാം, അപ്പോഴേക്കും ഏത് പ്രോംപ്റ്റാണ് ഈ വർദ്ധനവിന് കാരണമായതെന്ന് ആർക്കും ഓർമ്മയുണ്ടാവില്ല.
deco Studio-യിൽ നിങ്ങളുടെ കൺട്രോൾ പ്ലെയിൻ നിർമ്മിക്കുക
deco Studio ഒരു ലോക്കൽ ഹബ്ബായി പ്രവർത്തിച്ചുകൊണ്ട് ഇത് പരിഹരിക്കുന്നു. നിങ്ങൾ ഇത് നിങ്ങളുടെ സ്വന്തം മെഷീനിൽ പ്രവർത്തിപ്പിക്കുന്നു, ഇത് കോൺഫിഗറേഷനുകൾ സൂക്ഷിക്കുന്ന ഏക ഇടമായി മാറുന്നു. API കീകളും ടൂൾ ഡെഫനിഷനുകളും വിവിധ ഏജന്റുകളിലായി ചിതറിച്ചു വെക്കുന്നതിന് പകരം, നിങ്ങൾ സ്റ്റുഡിയോയ്ക്കുള്ളിൽ ഒരു തവണ മാത്രം ഒരു കണക്ഷൻ രജിസ്റ്റർ ചെയ്യുന്നു. തുടർന്ന് ഓരോ ഏജന്റിനും ഏതൊക്കെ ഫംഗ്ഷനുകൾ കാണാൻ കഴിയണമെന്ന് നിങ്ങൾ തീരുമാനിക്കുന്നു.
ഇതൊരു സ്വിച്ച്ബോർഡ് ഇൻസ്റ്റാൾ ചെയ്യുന്നത് പോലെ കരുതുക. എല്ലാ വയറുകളും ഒരു മുറിയിലേക്ക് വരുന്നു. ഏത് ലൈനുകൾ ഏത് ഡിപ്പാർട്ട്മെന്റുകളുമായി ബന്ധിപ്പിക്കണമെന്ന് നിങ്ങൾ തിരഞ്ഞെടുക്കുന്നു, കൂടാതെ ഓരോ കോളുകളുടെയും റെക്കോർഡ് നിങ്ങൾ സൂക്ഷിക്കുന്നു.
deco Studio ലോക്കലായി പ്രവർത്തിപ്പിച്ചുകൊണ്ട് തുടങ്ങുക. അത് സജ്ജമായാൽ, നിങ്ങൾ കോൺഫിഗറേഷൻ കേന്ദ്രീകരിക്കുന്നു. ഒരു ടൂൾ ഉപയോഗിക്കാൻ ആഗ്രഹിക്കുന്ന ഓരോ ഏജന്റും ഇനി മുതൽ നേരിട്ട് ബാഹ്യ സേവനത്തെയല്ല, മറിച്ച് കൺട്രോൾ പ്ലെയിനിനെയാണ് സമീപിക്കേണ്ടത്. ഇത് നിരീക്ഷിക്കാനും ഫിൽട്ടർ ചെയ്യാനും ലോഗ് ചെയ്യാനും കഴിയുന്ന ഒരു ചോക്ക്പോയിന്റ് (chokepoint) ഉടനടി സൃഷ്ടിക്കുന്നു.
ഒരു സുരക്ഷിതമായ MCP സെർവർ കണക്ട് ചെയ്യുക
ഈ ലാബിൽ, നിങ്ങൾ ഒരു Model Context Protocol സെർവർ കണക്ട് ചെയ്യുന്നു. മോഡലുകൾക്ക് ബാഹ്യ ടൂളുകളുമായി സംവദിക്കാൻ അനുവദിക്കുന്നതിനുള്ള ഒരു ഓപ്പൺ സ്റ്റാൻഡേർഡാണ് MCP, എന്നാൽ സ്റ്റാൻഡേർഡുകൾ സുരക്ഷ ഉറപ്പുനൽകുന്നില്ല. ഇവിടെ നിർണ്ണായകമായ ഘട്ടം തിരഞ്ഞെടുപ്പാണ് (selectivity). സെർവർ വാഗ്ദാനം ചെയ്യുന്ന എല്ലാ എൻഡ്പോയിന്റുകളും നിങ്ങൾ അന്ധമായി എക്സ്പോസ് ചെയ്യുന്നില്ല. നിങ്ങൾ സെർവർ deco Studio-യിൽ രജിസ്റ്റർ ചെയ്യുന്നു, തുടർന്ന് നിങ്ങളുടെ ടെസ്റ്റ് ഏജന്റിന് ഒരു അനുമതി ലഭിച്ച ഫംഗ്ഷൻ മാത്രം നൽകുന്നു.
ഉദാഹരണത്തിന്, നിങ്ങളുടെ MCP സെർവർ പത്ത് ഫംഗ്ഷനുകൾ വാഗ്ദാനം ചെയ്തേക്കാം: ഫയൽ റീഡ്, ഫയൽ റൈറ്റ്, ഡാറ്റാബേസ് ക്വറി, നെറ്റ്വർക്ക് ഫെച്ച് തുടങ്ങിയവ. നിങ്ങൾ ഒരു ഹാനികരമല്ലാത്ത പ്രവർത്തനം തിരഞ്ഞെടുക്കുന്നു, ഒരുപക്ഷേ ഒരു സാൻഡ്ബോക്സ്ഡ് കാൽക്കുലേറ്ററോ അല്ലെങ്കിൽ സിന്തറ്റിക് ഡാറ്റയ്ക്കെതിരെയുള്ള റീഡ്-ഒൺലി ലുക്കപ്പോ അല്ലെങ്കിൽ തിരഞ്ഞെടുക്കുന്നു, നിങ്ങൾ അത് മാത്രം എക്സ്പോസ് ചെയ്യുന്നു. ബാക്കി ഒൻപതും ഏജന്റിന് അദൃശ്യമായിരിക്കും. ഏജന്റ് അവ ആവശ്യപ്പെട്ടാൽ, കൺട്രോൾ പ്ലെയിൻ കർശനമായ നിരസിക്കൽ (hard refusal) നൽകുന്നു.
ഇത് 'പ്രിൻസിപ്പിൾ ഓഫ് ലീസ്റ്റ് പ്രിവിലേജ്' (principle of least privilege) യാന്ത്രികമായി നടപ്പിലാക്കുന്നതാണ്. ഒരു മാന്യമായ നിർദ്ദേശത്തിലൂടെയല്ല, മറിച്ച് ഒരു സോഫ്റ്റ്വെയർ അതിർവരമ്പിലൂടെയാണ് ഏജന്റ് കപ്പാസിറ്റി (capability) സ്വീകരിക്കുന്നത്.
അതിർവരമ്പുകൾ പരിശോധിക്കുക
ഒരു ടെസ്റ്റ് ഏജന്റ് നിർമ്മിക്കുകയും അതിനെ നിങ്ങളുടെ deco Studio കൺട്രോൾ പ്ലെയിനിലേക്ക് തിരിച്ചുവിടുകയും ചെയ്യുക. അനുവദിക്കപ്പെട്ട ഒരൊറ്റ ഫംഗ്ഷൻ മാത്രം ആവശ്യമുള്ള ഒരു ടാസ്ക് അതിന് നൽകുക. അത് വിജയിക്കുന്നത് കാണുക. സ്റ്റുഡിയോയ്ക്കുള്ളിലെ ലോഗുകൾ മോഡൽ റിക്വസ്റ്റ്, കൺട്രോൾ പ്ലെയിനിലൂടെയുള്ള ടൂൾ കോൾ റൂട്ടിംഗ്, ഫംഗ്ഷൻ എക്സിക്യൂഷൻ, മോഡലിലേക്ക് തിരികെ വരുന്ന റിസൾട്ട് എന്നിവ കാണിക്കും. നിങ്ങൾക്ക് മുഴുവൻ പാതയും ഒരൊറ്റ ട്രേസിലൂടെ വായിക്കാൻ കഴിയും.
ഇനി ഏജന്റിന് നിങ്ങൾ മനഃപൂർവ്വം ഒഴിവാക്കിയ ഒരു ഫംഗ്ഷൻ ആവശ്യമായ രണ്ടാമതൊരു ടാസ്ക് നൽകുക. ഏജന്റ് ആ പരിമിതിയെ മറികടക്കാൻ യുക്തിപരമായി ശ്രമിച്ചേക്കാം, അല്ലെങ്കിൽ ആ ടൂൾ നിലവിലുണ്ടെന്ന് തെറ്റായി ധരിക്കുകയും (hallucinate) ചെയ്തേക്കാം. ഏതായാലും, ആ കോൾ കൺട്രോൾ പ്ലെയിനിൽ എത്തും, അലൗലിസ്റ്റ് (allowlist) അത് നിരസിക്കും, തുടർന്ന് എക്സിക്യൂഷൻ പരാജയപ്പെടും. ഈ പരാജയം എന്നത് ആ അതിർവരമ്പുകൾ വെറും സിദ്ധാന്തമല്ല, മറിച്ച് സോഫ്റ്റ്വെയർ വഴി നടപ്പിലാക്കിയതാണെന്നതിന്റെ തെളിവാണ്.
ഇത് ആദ്യം സിന്തറ്റിക് ടാസ്ക്കുകളിലൂടെ (synthetic tasks) ചെയ്യുക. നിർമ്മിച്ചെടുത്ത യൂസർ പ്രൊഫൈലുകൾ നിറഞ്ഞ ഒരു വ്യാജ ഡാറ്റാബേസ് ഉണ്ടാക്കുക. ഏജന്റിനെ അത് ക്വറി ചെയ്യാൻ അനുവദിക്കുക. അലൗലിസ്റ്റും നിരസിക്കലുകളും (denials) പരിശോധിക്കുക. അതിരുകൾ കൃത്യമാണെന്ന് ഉറപ്പുവരുത്തിയതിന് ശേഷം മാത്രം ഏജന്റിനെ പ്രൊഡക്ഷൻ സിസ്റ്റങ്ങളിലേക്ക് തിരിച്ചുവിടാൻ ആലോചിക്കുക. അതിരുകൾ പരിശോധിക്കുന്നതിന് മുമ്പ് യഥാർത്ഥ ഡാറ്റയിലേക്ക് കുതിക്കുന്നത് രഹസ്യങ്ങൾ ചോരാൻ കാരണമാകും.
ഒരു റണ്ണിന്റെ പൂർണ്ണമായ പാത്ത് (Path) വായിക്കുക
ഓരോ എക്സിക്യൂഷന്റെയും ഓരോ പാളിയും പരിശോധിക്കാൻ deco Studio നിങ്ങളെ അനുവദിക്കുന്നു. മോഡലിന്റെ റോ (raw) റിക്വസ്റ്റ് നിങ്ങൾക്ക് കാണാം: പ്രോംപ്റ്റ്, കോൺടെക്സ്റ്റ് വിൻഡോ, ഫോർമാറ്റിംഗ് എന്നിവയെല്ലാം. മോഡൽ ചെയ്യാൻ തീരുമാനിച്ച ടൂൾ കോൾ നിങ്ങൾക്ക് കാണാം. കൺട്രോൾ പ്ലെയിൻ ആ കോൾ റൂട്ട് ചെയ്യുന്നതും, ഫംഗ്ഷൻ എക്സിക്യൂട്ട് ചെയ്യുന്നതും, പേലോഡ് (payload) തിരികെ നൽകുന്നതും നിങ്ങൾക്ക് കാണാം. ഒടുവിൽ, ആ റിസൾട്ട് ഉപയോഗിച്ച് മോഡൽ എങ്ങനെയാണ് ഉത്തരം രൂപപ്പെടുത്തുന്നത് എന്നും നിങ്ങൾക്ക് കാണാം.
ഈ സുതാര്യത അടിസ്ഥാനപരമായ ഓഡിറ്റ് ചോദ്യങ്ങൾക്ക് ഉത്തരം നൽകുന്നു. കൺട്രോൾ പ്ലെയിൻ അത് രേഖപ്പെടുത്തിയതുകൊണ്ട് ഏത് ടൂൾ ആണ് പ്രവർത്തിച്ചതെന്ന് നിങ്ങൾക്ക് അറിയാം. കോൺഫിഗറേഷൻ റെക്കോർഡുകൾ ഒരു ലോക്കൽ രജിസ്ട്രിയിൽ ഇരിക്കുന്നതുകൊണ്ട് ആർക്കാണ് അനുമതി നൽകിയതെന്ന് നിങ്ങൾക്ക് അറിയാം. ടോക്കണുകൾ എണ്ണാൻ കഴിയുന്നതുകൊണ്ട് റൺ (run) എന്തിനാണ് ചിലവേറിയതെന്നറിയാനും നിങ്ങൾക്ക് സാധിക്കും.
പ്രധാനപ്പെട്ടവ കണക്കാക്കുക
ഓരോ റണ്ണിനും നാല് പ്രത്യേക മെട്രിക്സുകൾ ട്രാക്ക് ചെയ്യുക. ഒന്നാമതായി, ഇൻപുട്ട്, ഔട്ട്പുട്ട് ടോക്കണുകൾ. ഇവയാണ് മോഡൽ ചിലവിന്റെ ഭൂരിഭാഗവും തീരുമാനിക്കുന്നത്, അതിനാൽ ഏകദേശ കണക്കല്ല, കൃത്യമായ കണക്കുകൾ തന്നെ നിങ്ങൾക്ക് ആവശ്യമാണ്. രണ്ടാമതായി, മോഡൽ ലേറ്റൻസിയും (latency) ടൂൾ ലേറ്റൻസിയും വേർതിരിക്കുക. നിങ്ങളുടെ പ്രോംപ്റ്റും മോഡലിന്റെ മറുപടിയും തമ്മിലുള്ള സമയവും, ഒരു ടൂൾ കോളിന് മറുപടി നൽകാൻ എക്സ്റ്റേണൽ സർവീസ് എടുക്കുന്ന സമയവും വ്യത്യസ്തമാണ്. ഇവ രണ്ടും തമ്മിൽ മാറിപ്പോയാൽ പ്രശ്നപരിഹാരത്തിൽ തെറ്റുകൾ സംഭവിക്കാം. മൂന്നാമതായി, വെരിഫൈ ചെയ്ത പ്രൊവൈഡർ നിരക്കുകൾ അടിസ്ഥാനമാക്കി ചിലവ് കണക്കാക്കുക. ഊഹിക്കരുത്. നിങ്ങളുടെ പ്രൊവൈഡറുടെ പ്രൈസിംഗ് ഷീറ്റ് പരിശോധിച്ചു അത് അളന്ന ടോക്കണുകളുമായി ഒത്തുനോക്കുക. നാലാമതായി, വിജയകരമായ കോളുകളെയും നിരസിക്കപ്പെട്ട അനൗതറൈസ്ഡ് കോളുകളെയും താരതമ്യം ചെയ്യുക. നിരസിക്കപ്പെട്ട കോളുകളുടെ എണ്ണം കൂടുതലാണെങ്കിൽ, നിങ്ങളുടെ ഏജന്റ് അതിർവരമ്പുകൾ പരിശോധിച്ചുകൊണ്ടിരിക്കുകയാണെന്നോ അല്ലെങ്കിൽ നിങ്ങളുടെ അലൗലിസ്റ്റ് ആവശ്യങ്ങൾക്ക് അനുസൃതമല്ലെന്നോ അർത്ഥമാക്കുന്നു.
ഈ കണക്കുകൾ ഏജന്റ് പ്രവർത്തനങ്ങളെ ഒരു 'ബ്ലാക്ക് ബോക്സ്' സബ്സ്ക്രിപ്ഷനിൽ നിന്ന് നിരീക്ഷിക്കാവുന്ന ഒരു സിസ്റ്റമാക്കി മാറ്റുന്നു. നിങ്ങൾക്ക് ബജറ്റ് തയ്യാറാക്കാനും ഒപ്റ്റിമൈസ് ചെയ്യാനും കാര്യങ്ങൾ വിശദീകരിക്കാനും സാധിക്കും.
ലോക്കൽ കൺട്രോളിനും ലോക്കൽ എക്സിക്യൂഷനും ഇടയിലുള്ള വ്യത്യാസം
ശ്രദ്ധാലുക്കളായ ബിൽഡർമാരെപ്പോലും തെറ്റにപ്പെടുത്തുന്ന ഒരു പാഠമാണിത്. നിങ്ങളുടെ മെഷീനിൽ deco Studio പ്രവർത്തിപ്പിക്കുന്നത് കോൺഫിഗറേഷന്മേൽ നിങ്ങൾക്ക് ലോക്കൽ കൺട്രോൾ നൽകുന്നുണ്ടെങ്കിലും, അത് മോഡലിന്റെ ലോക്കൽ എക്സിക്യൂഷൻ ഉറപ്പുനൽകുന്നില്ല. OpenAI, Anthropic അല്ലെങ്കിൽ ഏതെങ്കിലും ഹോസ്റ്റഡ് API പോലുള്ള ഒരു എക്സ്റ്റേണൽ പ്രൊവൈഡറിനെ വിളിക്കാൻ നിങ്ങൾ ഏജന്റിനെ കോൺഫിഗർ ചെയ്യുകയാണെങ്കിൽ, നിങ്ങളുടെ പ്രോംപ്റ്റുകൾ നിങ്ങളുടെ മെഷീനിൽ നിന്ന് പുറത്തേക്ക് പോകുന്നു. സ്റ്റുഡിയോ ഗേറ്റ് നിയന്ത്രിക്കുന്നുണ്ടെങ്കിലും, ഡാറ്റ ഇപ്പോഴും നെറ്റ്വർക്ക് വഴി സഞ്ചരിക്കുന്നു.
എല്ലായ്പ്പോഴും ഈ അതിർവരമ്പുകൾ ട്രാക്ക് ചെയ്യുക. പൈപ്പ്ലൈനിന്റെ ഏതെല്ലാം ഭാഗങ്ങളാണ് ലോക്കൽ ഹോസ്റ്റിൽ (localhost) നിൽക്കുന്നതെന്നും ഏതെല്ലാം ഭാഗങ്ങളാണ് മറ്റൊരാളുടെ സെർവറിലേക്ക് പോകുന്നതെന്നും മനസ്സിലാക്കുക. നിങ്ങളുടെ ഡാറ്റ സെൻസിറ്റീവ് ആണെങ്കിൽ, ടൂൾ ലെയറിന്റെ ലോക്കൽ കൺട്രോൾ മാത്രം പോരാ. മോഡൽ ഇൻഫറൻസ് (inference) എവിടെയാണ് നടക്കുന്നത് എന്നും നിങ്ങൾ അറിയണം. ലോക്കൽ ഡാഷ്ബോർഡിന്റെ സൗകര്യത്തെ റിമോട്ട് മോഡലിന്റെ യാഥാർത്ഥ്യവുമായി തെറ്റിദ്ധരിക്കരുത്.
നിർദ്ദേശങ്ങൾ എന്നത് അനുമതി (Authorization) അല്ല
പ്രോംപ്റ്റിംഗിലൂടെ ഒരു ഏജന്റിനെ സുരക്ഷിതമാക്കാൻ ശ്രമിക്കുന്നത് അപകടകരമായ ഒരു കുറുക്കവഴിയാണ്. "ഡിലീറ്റ് ഫംഗ്ഷൻ ഒരിക്കലും വിളിക്കരുത്" എന്ന് മോഡലിനോട് പറയുന്നത് ഒരു സെക്യൂരിറ്റി കൺട്രോൾ അല്ല. അതൊരു നിർദ്ദേശം മാത്രമാണ്. മോഡലുകൾക്ക് നിർദ്ദേശങ്ങൾ തെറ്റായി മനസ്സിലാക്കാനോ, ജെയ്ൽബ്രേക്ക് പ്രോംപ്റ്റുകൾ ഉപയോഗിക്കാനോ അല്ലെങ്കിൽ വെറുതെ യുക്തിപരമായ പിശകുകൾ സംഭവിക്കാനോ സാധ്യതയുണ്ട്. യഥാർത്ഥ സുരക്ഷ സോഫ്റ്റ്വെയർ അതിർവരമ്പുകളിലാണ് നിലനിൽക്കുന്നത്.
ഏതെല്ലാം ഫംഗ്ഷനുകളാണ് വിളിക്കാൻ കഴിയുക എന്ന് കൃത്യമായി നിർവചിക്കാൻ deco Studio-യ്ക്കുള്ളിലെ അലൗലിസ്റ്റുകൾ ഉപയോഗിക്കുക. കൺട്രോൾ പ്ലെയിനിനുള്ളിലെ സെർവർ സൈഡ് ചെക്കുകളിലൂടെ ആ പരിധികൾ നടപ്പിലാക്കുക. ഒരു ഉപയോക്താവ് ഫയൽ പെർമിഷനുകൾ അറിയുന്നത് പോലെയാണ് ഏജന്റ് അതിന്റെ കഴിവുകൾ തിരിച്ചറിയേണ്ടത്: ഒരു കഠിനമായ പരിധിയിൽ (hard limit) തട്ടുന്നതിലൂടെയല്ലാതെ, ഒരു സൗമ്യമായ കുറിപ്പ് വായിച്ചുകൊണ്ടല്ല. സുരക്ഷ എന്നത് ആർക്കിടെക്ചറിൽ ആയിരിക്കണം, സ്വാഭാവിക ഭാഷയിലല്ല.
ചെറുതായി തുടങ്ങുക, സംശയാലുക്കളായിരിക്കുക
നിങ്ങളുടെ കൺട്രോൾ പ്ലെയിൻ ഓരോ ഘട്ടമായി നിർമ്മിക്കുക. ഒരു MCP സെർവർ. ഒരു എക്സ്പോസ്ഡ് ഫംഗ്ഷൻ. ഒരു സിന്തറ്റിക് ടാസ്ക്. ഏജന്റ് ചെയ്യേണ്ടിടത്ത് വിജയിക്കുന്നുണ്ടെന്നും ചെയ്യരുതാത്തിടത്ത് പരാജയപ്പെടുന്നുണ്ടെന്നും ഉറപ്പുവരുത്തുക. ട്രേസ് (trace) വായിക്കുക. ടോക്കൺ എണ്ണങ്ങൾ സ്ഥിരീകരിക്കുക. അതിനുശേഷം അടുത്ത ടൂൾ ചേർക്കുക.
കൺട്രോൾ എന്നത് വെറുമൊരു സ്വിച്ച് ഓൺ ചെയ്യുന്നത് പോലെയല്ല. അതിരുകളെ വിശ്വസിക്കുന്നതിന് മുമ്പ് അവ തെളിയിക്കുക എന്ന ശീലമാണ് അത്. ആ ശീലം പരിശീലിക്കാൻ deco Studio നിങ്ങൾക്ക് ഒരു ലോക്കൽ പ്ലെയിൻ നൽകുന്നു. സ്വയംഭരണാധികാരമുള്ള ഏജന്റുകളുടെ ഒരു കൂട്ടത്തെ (swarm of autonomous agents) നിയന്ത്രിതവും നിരീക്ഷിക്കാവുന്നതും പരിധികളുള്ളതുമായ ഒരു സിസ്റ്റമാക്കി മാറ്റാൻ ഇത് ഉപയോഗിക്കുക.
സ്രോതസ്സ്: Controlling AI Agents in deco Studio: Tools, Permissions, and Cost
ഐച്ഛികമായ പഠനസമൂഹം: Telegram-ലെ GyaanSetu AI