பாதுகாப்பு ஆராய்ச்சியாளரான ஜேக் வில்லியம்ஸ் (Jake Williams), இந்த வாரம் CUSTODY framework-ஐ அறிமுகப்படுத்தினார். இது நிறுவன நெட்வொர்க்குகளுக்குள் இயங்கும் AI ஏஜெண்டுகளுக்குத் தெளிவான runtime அனுமதிகள் மற்றும் எல்லைகளை நிர்ணயிக்க நிறுவனங்களுக்கு ஒரு வழியை வழங்குகிறது. பாரம்பரிய மென்பொருள்களைப் போலல்லாமல், AI ஏஜெண்டுகள் தரவுகளைத் தானாகவே பெறவும், சேவைகளை அழைக்கவும் மற்றும் மாடல்களை மாற்றியமைக்கவும் முடியும் என்பதால் இந்தத் கருவி முக்கியத்துவம் பெறுகிறது—இவை அனைத்தும் ஒரு தெளிவான, நடைமுறைப்படுத்தக்கூடிய கொள்கை இன்றி நடப்பதால், தாக்குதல் நடத்துபவர்கள் ஏற்கனவே இதைப் பயன்படுத்தத் தொடங்கிவிட்டனர்.

AI ஏஜெண்டுகளுக்கு ஏன் ஒரு பாதுகாப்பு வேலி தேவை?

நிறுவனங்களின் AI அடுக்குகள் (stacks) இப்போது சாட்பாட்கள், பரிந்துரை இயந்திரங்கள் (recommendation engines), தன்னாட்சி முடிவெடுப்பவர்கள் மற்றும் உள் API-கள் அல்லது மூன்றாம் தரப்பு சேவைகளிலிருந்து தரவுகளைப் பெறும் டஜன் கணக்கான பின்னணி ஏஜெண்டுகளைக் கொண்டுள்ளன. தற்போதுள்ள பாதுகாப்புத் தொகுப்புகள் எல்லை ஃபயர்வால் (perimeter firewalls), எண்ட்-பாயிண்ட் பாதுகாப்பு (endpoint protection) மற்றும் நெட்வொர்க் பிரிப்பு (network segmentation) ஆகியவற்றில் கவனம் செலுத்துகின்றன, ஆனால் "இந்த ஏஜெண்ட் வாடிக்கையாளர் பதிவுகளைப் படிக்கலாம் ஆனால் நிதித் தரவுத்தளத்தில் (finance database) எழுதக்கூடாது" என்று சொல்வதற்கான தரப்படுத்தப்பட்ட முறை அவற்றுக்கு இல்லை. இத்தகைய runtime கட்டுப்பாடுகள் இல்லாதது, ஊடுருவப்பட்ட ஏஜெண்டுகள் தரவுகளைத் திருட அல்லது மாடல் எடைகளை (model weights) சிதைக்கப் பயன்படுத்தப்பட்ட சம்பவங்களுக்கு ஏற்கனவே வழிவகுத்துள்ளது.

CUSTODY எவ்வாறு இந்த இடைவெளியை நிரப்புகிறது

CUSTODY ஒரு விதி அடிப்படையிலான மொழியை (rule-based language) அறிமுகப்படுத்துகிறது, இது ஒரு AI ஏஜெண்ட் நெட்வொர்க்குடன் இணைக்கப்பட்டதும் என்ன செய்ய அனுமதிக்கப்படுகிறது என்பதை விவரிக்கிறது. கொள்கைகள் பின்வருவனவற்றைத் தீர்மானிக்கலாம்:

  • வளங்களுக்கான அணுகல் (Resource access) – எந்தத் தரவுத்தளங்கள், கோப்பு சேமிப்பகங்கள் அல்லது API-களை ஏஜெண்ட் பயன்படுத்தலாம்.
  • செயல்பாட்டு வரம்புகள் (Action limits) – ஏஜெண்ட் படிக்க மட்டும் செய்யலாமா அல்லது எழுத, நீக்க அல்லது அடுத்தகட்டப் பணிகளைத் (downstream jobs) தூண்ட முடியுமா.
  • செயல்பாட்டு சூழல் (Execution context) – CPU ஒதுக்கீடு அல்லது கன்டெய்னர் தனிமைப்படுத்தல் (container isolation) போன்ற கணினிச் சூழல் (compute environment) கட்டுப்பாடுகள்.

Runtime நேரத்தில், இந்த framework ஏஜெண்டின் அழைப்புகளைத் தடுத்து (intercepts), அவற்றை நிர்ணயிக்கப்பட்ட கொள்கையுடன் ஒப்பிட்டுச் சரிபார்க்கிறது, மேலும் வரையறுக்கப்பட்ட எல்லைகளுக்கு வெளியே செல்லும் எந்தவொரு செயல்பாட்டையும் தடுக்கிறது. இது ஒரு கட்டுப்பாட்டை இழந்த ஏஜெண்ட், நிறுவனச் சூழலில் எவ்விதத் தடையுமின்றிச் செயல்படுவதைத் தடுக்கிறது.

தற்போதைய அடுக்குகளுடன் CUSTODY-ஐ இணைத்தல்

இந்த framework தற்போதைய பாதுகாப்புத் கருவிகளுடன் இணைந்து செயல்படுகிறது. இது பிரபலமான ஆர்கெஸ்ட்ரேஷன் தளங்கள் (orchestration platforms), கன்டெய்னர் ரன்டைம்கள் (container runtimes) மற்றும் API கேட்வேகளுடன் இணைய முடியும், ஆனால் துல்லியமான வழிமுறைகள் அந்தந்த ஏஜெண்ட் தளத்தைப் பொறுத்து மாறுபடும். நிறுவனங்கள் தங்கள் AI இருப்புகளை (inventory) பட்டியலிட வேண்டும், ஒவ்வொரு வகை ஏஜெண்டிற்கும் கொள்கை கோப்புகளை (policy files) எழுத வேண்டும் மற்றும் முழுமையான பயன்பாட்டிற்கு முன்னதாக அமலாக்க அடுக்கை (enforcement layer) சோதனை செய்ய வேண்டும். மாடல்கள் வளர்ச்சியடையும் போது விதிகளைப் புதுப்பித்து வைத்திருக்க, டஜன் கணக்கான ஏஜெண்டுகளுக்கு இந்தக் கொள்கைகளை விரிவுபடுத்துவதற்குத் தனிப்பட்ட செயல்பாட்டு முயற்சி தேவைப்படும்.

எச்சரிக்கைகள் மற்றும் எதிர்ப்புகள்

CUSTODY கொள்கைகளைத் தானாகவே உருவாக்குவதில்லை; பாதுகாப்புத் குழுக்கள் அவற்றை கைமுறையாக உருவாக்க வேண்டும், இது அதிக உழைப்பு தேவைப்படும் செயல் என்று விமர்சகர்கள் குறிப்பிடுகின்றனர். மேலும், ஒவ்வொரு அழைப்பும் நிகழ்நேரத்தில் (real time) ஆய்வு செய்யப்படும்போது, குறிப்பாக அதிகத் திறன் கொண்ட இன்ஃபரன்ஸ் சேவைகளுக்கு (high-throughput inference services), செயல்திறன் சுமை (performance overhead) ஏற்படும் அபாயமும் உள்ளது. இறுதியாக, இந்த framework-ன் செயல்திறன் அதன் பரவலான பயன்பாட்டைப் பொறுத்தது—ஒரு விற்பனையாளரின் AI தளத்தால் தேவையான ஹூக்குகளை (hooks) வெளிப்படுத்த முடியாவிட்டால், CUSTODY-ன் கட்டுப்பாடுகள் தவிர்க்கப்படலாம்.

அடுத்து கவனிக்க வேண்டியவை

  • விற்பனையாளரின் பதில் – முக்கிய AI தள வழங்குநர்கள் CUSTODY-க்கு இணக்கமான ஹூக்குகளை இணைப்பார்கள் அல்லது தமக்கென சொந்தமான runtime-policy இயந்திரங்களை வழங்குவார்களா என்பது.
  • தரப்படுத்துதல் (Standardisation) – AI ஏஜெண்ட் அனுமதிகளுக்கான தொழில்துறை சார்ந்த பொதுவான விவரக்குறிப்புகளை நோக்கிய எந்தவொரு நகர்வும், CUSTODY-ஐ ஒரு நடைமுறைத் தரநிலையாக (de-facto baseline) மாற்றக்கூடும்.
  • சமூகத்தின் கருத்துகள் – ஆரம்பகாலப் பயனர்கள் நிஜ உலக கொள்கை சிக்கல்கள் மற்றும் செயல்திறன் பாதிப்புகளை வெளிப்படுத்துவார்கள், இது எதிர்கால பதிப்புகளை வடிவமைக்க உதவும்.

AI ஏஜெண்டுகளைச் சார்ந்திருக்கும் நிறுவனங்கள் இப்போது CUSTODY-ஐ மதிப்பீடு செய்ய வேண்டும், அது அவர்களின் பாதுகாப்பு அடுக்கில் எங்கு பொருந்துகிறது என்பதைக் கண்டறிய வேண்டும், மேலும் அடுத்த AI தாக்குதல்கள் தொடங்குவதற்கு முன்பே கொள்கைகளைச் சோதனை செய்யத் தொடங்க வேண்டும்.