𝗧𝗵𝗲 𝗦𝗮𝗳𝗲𝘀𝘁 𝗕𝗼𝘂𝗻𝗱𝗮𝗿𝘆 𝗜𝘀 𝗧𝗵𝗲 𝗢𝗻𝗲 𝗧𝗵𝗲 𝗔𝗴𝗲𝗻𝘁 𝗖𝗮𝗻'𝘁 𝗥𝗲𝗮𝗰𝗵 𝗔𝗰𝗿𝗼𝘀𝘀
ഒരു AI ഏജന്റ് ഒന്നിലധികം സ്ഥാപനങ്ങളുടെ ഇൻഫ്രാസ്ട്രക്ചർ കൈകാര്യം ചെയ്യുന്നുണ്ടെങ്കിൽ, സുരക്ഷ എന്നത് ഒരു പേടിസ്വപ്നമായി മാറും.
ഏജന്റ് ബുദ്ധിപരമായ എന്തെങ്കിലും തെറ്റ് വരുത്തുന്നതല്ല അപകടം. മറിച്ച്, ഏജന്റ് സാധാരണമായ എന്തെങ്കിലും ഒരു കാര്യം തെറ്റായ വ്യക്തിക്ക് വേണ്ടി ചെയ്യുന്നതാണ് അപകടം.
കസ്റ്റമർ A-യ്ക്ക് പകരം കസ്റ്റമർ B-ക്ക് വേണ്ടി ഒരു ടിക്കറ്റ് എഴുതുന്നതോ അല്ലെങ്കിൽ ഒരു സീക്രട്ട് റൊട്ടേറ്റ് ചെയ്യുന്നതോ ഒരു സുരക്ഷാ ലംഘനമാണ് (breach). ഒരു സുരക്ഷാ ലംഘനം നിങ്ങൾക്ക് പാച്ച് (patch) ചെയ്യാൻ കഴിയില്ല. അത് വെളിപ്പെടുത്തുകയേ ഉള്ളൂ.
മിക്ക ആളുകളും പെർമിഷനുകൾ (permissions) ഉപയോഗിച്ചാണ് ഇത് പരിഹരിക്കാൻ ശ്രമിക്കുന്നത്. ഏജന്റിന് എന്തിനൊക്കെ പ്രവേശനം വേണമെന്ന് അവർ ഒരു പട്ടിക തയ്യാറാക്കുന്നു. ഓരോ പ്രവൃത്തിയും ആ പട്ടികയുമായി താരതമ്യം ചെയ്ത് അവർ പരിശോധിക്കുന്നു.
ഇത് പരാജയപ്പെടും. റിസോഴ്സ് നിലവിലുണ്ട് എന്നും നിങ്ങൾ അതിനോട് 'അല്ല' എന്ന് പറയുന്നു എന്നുമാണ് പെർമിഷനുകൾ അനുമാനിക്കുന്നത്. നിങ്ങളുടെ നിയമത്തിൽ എന്തെങ്കിലും പിഴവോ (bug) അല്ലെങ്കിൽ വിട്ടുപോയ കാര്യങ്ങളോ ഉണ്ടെങ്കിൽ, ഏജന്റ് തെറ്റായ ഡാറ്റയിൽ എത്തിച്ചേരും.
ഞാൻ മറ്റൊരു മാതൃകയാണ് ഉപയോഗിക്കുന്നത്. തെറ്റായ ഡാറ്റയെ ഘടനാപരമായി തന്നെ ഇല്ലാതാക്കുന്നു (structurally absent).
കസ്റ്റമർ A-യുടെ ഒരു സെഷനിൽ, കസ്റ്റമർ B-യുടെ റിസോഴ്സുകൾ നിലവിലില്ല. ക്രെഡൻഷ്യലുകൾ ലോഡ് ചെയ്തിട്ടില്ല. എൻഡ്പോയിന്റുകൾ മാപ്പിൽ ഇല്ല. ചോദിക്കാൻ ഒന്നുമില്ലാത്തതിനാൽ, നിഷേധിക്കാൻ (deny) ഒന്നുമില്ല.
നിയമങ്ങളിൽ പിഴവുകൾ ഉണ്ടാകാം. എന്നാൽ സിസ്റ്റത്തിന്റെ ഭൗതിക ഘടനയിൽ (physical structure) പിഴവുകൾ ഉണ്ടാകില്ല.
കഠിനമായ അനുഭവങ്ങളിലൂടെയാണ് ഞാൻ ഇത് പഠിച്ചത്. ഒരു സീക്രട്ട്സ് മാനേജർ (secrets manager) മാത്രം മതിയാകുമെന്ന് ഞാൻ കരുതിയിരുന്നു. സീക്രട്ടുകൾ വേർതിരിക്കുന്നത് ടെനന്റുകളെയും (tenants) വേർതിരിക്കുമെന്ന് ഞാൻ കരുതി. ഞാൻ തെറ്റി었습니다.
ഒരു സീക്രട്ട്സ് മാനേജർ സീക്രട്ടുകളെ വേർതിരിക്കുന്നു, പക്ഷേ അത് എൻഡ്പോയിന്റുകളെ വേർതിരിക്കുന്നില്ല. കസ്റ്റമർ A-യ്ക്ക് വേണ്ട ശരിയായ ടോക്കൺ ഏജന്റിന് ഉണ്ടെങ്കിൽ പോലും, ആ അഡ്രസ് കോൺഫിഗറേഷനിൽ ഉണ്ടെങ്കിൽ ഏജന്റ് കസ്റ്റമർ B-യുടെ അഡ്രസ്സിലേക്ക് റിക്വസ്റ്റ് അയച്ചേക്കാം.
ചോർച്ച (leak) സംഭവിക്കുന്നത് സീക്രട്ടിലല്ല, മറിച്ച് റ
പ്രവൃത്തിയിലെ അനിശ്ചിതത്വം ചലനത്തിലേക്ക് നയിക്കുന്നു. ഉടമസ്ഥതയിലെ അനിശ്ചിതത്വം നിശ്ചലതയിലേക്ക് നയിക്കണം.
'ഇല്ല' എന്ന് പറയുന്ന പരിശോധനകൾ നിർമ്മിക്കരുത്. പരിശോധന ആവശ്യമുള്ള രൂപങ്ങളെ നീക്കം ചെയ്യുക.
സ്രോതസ്സ്: https://dev.to/artemmatviychuk/the-safest-boundary-is-the-one-the-agent-cant-reach-across-20ad
പകരമായി ചേരാവുന്ന പഠന കൂട്ടായ്മ: https://t.me/GyaanSetuAi