𝗪𝗵𝘆 𝗬𝗼𝘂𝗿 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁 𝗔𝗿𝗰𝗵𝗶𝘁𝗲𝗰𝘁𝘂𝗿𝗲 𝗜𝘀 𝗔 𝗦𝗲𝗰𝘂𝗿𝗶𝘁𝘆 𝗟𝗶𝗮𝗯𝗶𝗹𝗶𝘁𝘆
2027 ആയപ്പോഴേക്കും, എന്റർപ്രൈസ് AI വിന്യാസങ്ങളിൽ (deployments) 40% പ്രോംപ്റ്റ് ഇൻജക്ഷൻ (prompt injection) അല്ലെങ്കിൽ ഏജന്റ് ഹൈജാക്കിംഗ് (agent hijack) സംഭവങ്ങൾക്ക് ഇരയാകും. 2025-ന്റെ തുടക്കത്തിൽ ഇത് 5 ശതമാനത്തിൽ താഴെ മാത്രമായിരുന്നു എന്നത് വലിയൊരു വർദ്ധനവാണ്.
ഓർക്കസ്ട്രേഷൻ ലെയർ (orchestration layer) ഏജന്റുകളെ ഉപയോഗപ്രദമാക്കുന്നു. എന്നാൽ അത് അവയെ ലക്ഷ്യസ്ഥാനങ്ങളാക്കി മാറ്റുകയും ചെയ്യുന്നു.
സിംഗപ്പൂരിലെ ഒരു ലോജിസ്റ്റിക്സ് കമ്പനിക്ക് അടുത്തിടെ 2.3 മില്യൺ ഡോളറിന്റെ നഷ്ടം സംഭവിച്ചു. ഒരു കംപ്രൊമൈസ്ഡ് കലണ്ടർ ഇൻവൈറ്റ് (compromised calendar invite) ഒരു ഷെഡ്യൂളിംഗ് ഏജന്റിനെ കബളിപ്പിച്ചു. ഏജന്റ് CRM റെക്കോർഡുകൾ ഒരു അറ്റാക്കർക്ക് അയച്ചുകൊടുത്തു. മോഡലിൽ തെറ്റായ കോഡ് ഒന്നുമുണ്ടായിരുന്നില്ല. അത് നിർദ്ദേശങ്ങൾ കൃത്യമായി പാലിച്ചു. ആർക്കിടെക്ചർ ആയിരുന്നു പ്രശ്നം.
ഏജന്റുകൾ വെറും ചാറ്റ്ബോട്ടുകൾ മാത്രമല്ല. അവ ടൂളുകൾ ഉപയോഗിക്കുന്നവയും, ഫയലുകൾ വായിക്കുന്നവരും, ഇടപാടുകൾ (transactions) നടത്തുന്നവരുമായ സിസ്റ്റങ്ങളാണ്. ഒരു റിക്വസ്റ്റ് വരികയും ഒരു റെസ്പോൺസ് പുറത്തേക്ക് പോകുകയും ചെയ്യുന്നു എന്ന രീതിയിലാണ് പരമ്പരാഗത സുരക്ഷാ സംവിധാനങ്ങൾ പ്രവർത്തിക്കുന്നത്. എന്നാൽ ഏജന്റുകൾ ഈ മാതൃകയെ തകർക്കുന്നു.
ഇമെയിലുകൾ തയ്യാറാക്കുകയും റീഫണ്ടുകൾ സമർപ്പിക്കുകയും ചെയ്യുന്ന ഒരു ഏജന്റ്, ഒരു റൺടൈമിൽ (runtime) മൂന്ന് ആപ്പുകൾ പ്രവർത്തിക്കുന്നതുപോലെയാണ് പ്രവർത്തിക്കുന്നത്. ഓരോ ടൂൾ കോളും (tool call) ഒരു റിസ്കാണ്. ഓരോ മെമ്മറി റൈറ്റും (memory write) ഒരു റിസ്കാണ്. ഓരോ ഇമെയിലോ ഡോക്യുമെന്റോ ഒരു എക്സിക്യൂട്ടബിൾ കോഡാണ് (executable code).
സുരക്ഷിതമായ ടീമുകൾ മൂന്ന് പാറ്റേണുകൾ ഉപയോഗിക്കുന്നു:
- ഐഡന്റിറ്റി (Identity): ഓരോ ടൂൾ കോളും ഉപയോക്താവിൽ നിന്ന് വ്യത്യസ്തമായ ഒരു ഐഡന്റിറ്റി ആവശ്യപ്പെടുന്നു.
- പ്രൊവനൻസ് (Provenance): ഓരോ മെമ്മറി റൈറ്റിനും അതിന്റെ ഉറവിടം കാണിക്കുന്ന മെറ്റാഡാറ്റ ആവശ്യമാണ്.
- വെരിഫിക്കേഷൻ (Verification): ഓരോ പ്ലാൻ സ്റ്റെപ്പിനും ഡൗൺസ്ട്രീം എക്സിക്യൂഷനായി (downstream execution) ഒരു സൈൻ ചെയ്ത ഒബ്ജക്റ്റ് ആവശ്യമാണ്.
ഏജന്റുകൾ ഒരിക്കലും പ്രൊഡക്ഷൻ API-കൾ നേരിട്ട് വിളിക്കരുത്. പകരം ഒരു മീഡിയേറ്റഡ് ടൂൾ ലെയർ (mediated tool layer) ഉപയോഗിക്കുക. ഈ ലെയർ ആർഗ്യുമെന്റുകൾ പരിശോധിക്കുകയും (validate), പെർമിഷനുകൾ പരിമിതപ്പെടുത്തുകയും (scope permissions), ഓഡിറ്റ് ലോഗുകൾ (audit logs) സൃഷ്ടിക്കുകയും ചെയ്യുന്നു. ഈ ലെയറിനെ നിങ്ങളുടെ പുതിയ ഫയർവാൾ (firewall) ആയി കരുതുക.
മെമ്മറി മറ്റൊരു വലിയ റിസ്കാണ്. ഏജന്റിന്റെ മെമ്മറി മാറ്റുന്നതിനായി അറ്റാക്കർമാർ 'പോയിസൺഡ്' (poisoned) ഡോക്യുമെന്റുകളോ ഇമെയിലുകളോ ഉപയോഗിക്കുന്നു. ഇത് കാലക്രമേണ ഏജന്റ് പെരുമാറുന്ന രീതിയെ മാറ്റുന്നു. മെമ്മറി പോയിസണിംഗ് ആക്രമണങ്ങൾ ഓരോ വർഷവും 300% വർദ്ധിച്ചുകൊണ്ടിരിക്കുകയാണ്.
മിക്ക ടീമുകളും നിലവിലുള്ള പൈപ്പ്ലൈനുകളിൽ AI ത്രെറ്റ് മോഡലിംഗ് (AI threat modeling) കൂട്ടിച്ചേർക്കുന്നുണ്ടെങ്കിലും, ഏജന്റ് റൺടൈമിൽ (agent runtime) സുരക്ഷാ സംവിധാനങ്ങൾ ഉൾപ്പെടുത്തുന്നില്ല. ടൂൾ-കോൾ അനോമലിസുകൾക്കായി (tool-call anomalies) നിരീക്ഷണം നടത്തുന്ന സ്ഥാപനങ്ങൾ 19% മാത്രമാണ്.
ഏജന്റുകളെ വെറും സോഫ്റ്റ്വെയർ പോലെ കാണുന്നത് നിർത്തുക. സിസ്റ്റം ആക്സസ് ഉള്ള ജൂനിയർ ജീവനക്കാരെപ്പോലെ അവരെ പരിഗണിക്കുക. ഒരു പുതിയ ജീവനക്കാരന് ആദ്യ ദിവസം തന്നെ റൂട്ട് ആക്സസ് (root access) നിങ്ങൾ നൽകില്ലല്ലോ. നിങ്ങളുടെ ഏജന്റുകളുടെ കാര്യത്തിലും ഇത് ചെയ്യരുത്.
വിജയികൾക്ക് ആകർഷകമായ ഡെമോകൾ ഉണ്ടാകില്ല. പകരം ബാങ്കിംഗ് അല്ലെങ്കിൽ ഹെൽത്ത് കെയർ മേഖലകളിലെ സുരക്ഷാ പരിശോധനകൾ പാസാകുന്ന ഏജന്റുകൾ ഉണ്ടാകും. ഈ മൂന്ന് ലെയറുകൾ ഇപ്പോൾ തന്നെ നിർമ്മിക്കുക. ഒരു സുരക്ഷാ വീഴ്ച (breach) ഉണ്ടായതിന് ശേഷം അവ ശരിയാക്കാൻ ശ്രമിക്കരുത്.
ഏജന്റ് സുരക്ഷയിൽ ആദ്യ ദിവസം മുതൽ ശ്രദ്ധ കേന്ദ്രീകരിച്ചിരുന്നെങ്കിൽ, നിങ്ങൾ അടുത്തിടെ എടുത്ത ഏത് ആർക്കിടെക്ചറൽ തീരുമാനമാണ് മാറ്റം വരുത്തുക?
ഐച്ഛികമായ പഠന കമ്മ്യൂണിറ്റി: https://t.me/GyaanSetuAi