ഏജന്റ് ടൂളുകൾക്ക് ഇപ്പോൾ സപ്ലൈ-ചെയിൻ നിയന്ത്രണങ്ങൾ ആവശ്യമാണ്

നിയന്ത്രണമില്ലാത്ത ഏജന്റ് ടൂളുകൾ ഉള്ള ഒരു റിപ്പോസിറ്ററിയെ മികച്ച പ്രോംപ്റ്റുകൾ കൊണ്ട് രക്ഷിക്കാനാവില്ല.

കോഡിംഗ് ഏജന്റുകൾ പരിണമിച്ചിരിക്കുന്നു. അവ ഇനി ചാറ്റ് ബോക്സുകൾക്കുള്ളിൽ മാത്രം ഒതുങ്ങുന്നില്ല. അവ നിർദ്ദേശങ്ങൾ വായിക്കുന്നു, ടൂളുകൾ വിളിക്കുന്നു, മാർക്കറ്റ് പ്ലേസുകളുമായി ബന്ധപ്പെടുന്നു. ഫയലുകൾ, പുൾ റിക്വസ്റ്റുകൾ (pull requests), ഇന്റേണൽ API എന്നിവയുമായി ബന്ധപ്പെട്ട വർക്ക്ഫ്ലോകൾക്കുള്ളിലാണ് അവ പ്രവർത്തിക്കുന്നത്.

"മോഡൽ ആവശ്യത്തിന് ബുദ്ധിയുള്ളതാണോ?" എന്നത് ഇനി ചോദ്യമല്ല.

യഥാർത്ഥ ചോദ്യങ്ങൾ ഇവയാണ്:

  • ഈ ടൂളിനെ വർക്ക്ഫ്ലോയിലേക്ക് അനുവദിച്ചത് ആരാണ്?
  • ഈ ടൂളിന് എവിടെയെല്ലാം എത്താൻ കഴിയും?
  • ഇതിന്റെ ആക്സസ് (access) മാറുന്നത് നിങ്ങൾ എങ്ങനെ തിരിച്ചറിയും?

ഇത് പ്രോംപ്റ്റ് എൻജിനീയറിംഗല്ല. ഇത് സപ്ലൈ-ചെയിൻ നിയന്ത്രണമാണ്.

ഒരു തെറ്റായ നിർദ്ദേശം എന്നത് ഒരു പ്രശ്നമാണ്. എന്നാൽ ഒരു ഷെല്ലിലേക്കോ (shell), റിപ്പോ ടോക്കനിലേക്കോ (repo token), പാക്കേജ് ഇൻസ്റ്റാളറിലേക്കോ ആക്സസ് ഉള്ള ഒരു തെറ്റായ നിർദ്ദേശം എന്നത് മറ്റൊരു തരത്തിലുള്ള പ്രശ്നമാണ്. മോഡൽ ഇപ്പോൾ വെറും ടെക്സ്റ്റ് നിർമ്മിക്കുക മാത്രമല്ല ചെയ്യുന്നത്; അത് പ്രവർത്തനക്ഷമമായ (capability) ഒരു സംവിധാനത്തിന് മുന്നിലാണ് ഇരിക്കുന്നത്.

ഏജന്റ് ടൂളുകളെ ഡിപെൻഡൻസികൾ (dependencies) പോലെ പരിഗണിക്കുക.

വെറും തോന്നലുകളുടെ അടിസ്ഥാനത്തിലല്ല നിങ്ങൾ പാക്കേജുകൾ ഇൻസ്റ്റാൾ ചെയ്യുന്നത്. രജിസ്ട്രി, മെയിന്റൈനർ, വേർഷൻ എന്നിവ നിങ്ങൾ ശ്രദ്ധിക്കാറുണ്ട്. ഏജന്റ് ടൂളുകളെയും അത്രത്തോളം ജാഗ്രതയോടെ കാണേണ്ടതുണ്ട്.

ഒരു ഏജന്റ് ടൂളിന് നിങ്ങളുടെ റിപ്പോസിറ്ററി, ഫയൽസിസ്റ്റം അല്ലെങ്കിൽ നെറ്റ്‌വർക്ക് എന്നിവയെ ബാധിക്കാൻ കഴിയുമെങ്കിൽ, ഈ നിയമങ്ങൾ പാലിക്കുക:

• ഏജന്റ് ടൂളുകളുടെ ഒരു ഇൻവെന്ററി സൂക്ഷിക്കുക. അവയുടെ സ്രോതസ്സും ഉടമസ്ഥനെയും രേഖപ്പെടുത്തുക. • ഏജന്റ് നിർദ്ദേശങ്ങൾക്ക് വേർഷൻ നൽകുക. നിർദ്ദേശങ്ങളിലെ മാറ്റങ്ങളെ CI കോൺഫിഗറേഷൻ മാറ്റങ്ങൾ പോലെ പരിഗണിക്കുക. • ടൂൾ സ്രോതസ്സുകളെ അലൗലിസ്റ്റ് (Allowlist) ചെയ്യുക. അറിയപ്പെടുന്ന മാർക്കറ്റ് പ്ലേസുകൾ ഉപയോഗിക്കുക. • റീഡ് (read) ടൂളുകളെ റൈറ്റ് (write) ടൂളുകളിൽ നിന്ന് വേർതിരിക്കുക. ഒരു സെർച്ച് ടൂളിന് ഒരു എഡിറ്റ് ടൂളിനേക്കാൾ വ്യത്യസ്തമായ പെർമിഷനുകൾ ആവശ്യമാണ്. • ടൂൾ കോളുകൾ വ്യക്തമായി ലോഗ് ചെയ്യുക. മനുഷ്യർക്ക് വായിക്കാൻ കഴിയുന്ന ഒരു ഓഡിറ്റ് ട്രയൽ (audit trail) നിങ്ങൾക്ക് ആവശ്യമാണ്. • അപകടസാധ്യതയുള്ള കഴിവുകളെ (capabilities) വ്യക്തമാക്കുക. ഷെൽ ആക്സസും ഫയൽസിസ്റ്റം റൈറ്റുകളും റിവ്യൂ സമയത്ത് വേറിട്ടുനിൽക്കണം. • ഒരു ഡിസേബിൾ പാത്ത് (disable path) ഉണ്ടാക്കുക. ഒരു ടൂൾ പരാജയപ്പെട്ടാൽ അത് വേഗത്തിൽ നീക്കം ചെയ്യാൻ നിങ്ങൾക്ക് കഴിയണം.

അവിചാരിതമായ വിശ്വാസത്തിൽ നിന്ന് ബോധപൂർവമായ വിശ്വാസത്തിലേക്കുള്ള മാറ്റമാണ് ഇതിന്റെ ലക്ഷ്യം.

അടുത്ത വലിയ നേട്ടം ലഭിക്കുന്നത് ഏറ്റവും ആകർഷകമായ പ്രോംപ്റ്റുകൾ ഉപയോഗിക്കുന്ന ടീമിനല്ല. മറിച്ച്, കൃത്യമായ ഇൻവെന്ററികളും, അലൗലിസ്റ്റുകളും, ലോഗുകളും ഉള്ള ടീമിനായിരിക്കും.

യഥാർത്ഥ പ്രോജക്റ്റുകളിൽ നിലനിൽക്കുന്നത് അത്തരത്തിലുള്ള രീതിയാണ്.

Source: https://dev.to/hefty_69a4c2d631c9dd70724/agent-tools-need-supply-chain-controls-now-1co2

Optional learning community: https://t.me/GyaanSetuAi