உங்கள் AI ஏஜென்ட் அதன் கருவிகளைப் பொறுத்தே பாதுகாப்பானது

உங்கள் AI ஏஜென்ட்டைப் பாதுகாப்பாக்குவதற்கு (hardening) நீங்கள் அதிக நேரத்தைச் செலவிடுகிறீர்கள். நீங்கள் அனுமதிகளை (permissions) வரையறுக்கிறீர்கள். குறியீடுகளை (code) தனிமைப்படுத்துகிறீர்கள் (sandbox). வெளியீடுகளைக் கண்காணிக்கிறீர்கள்.

பிறகு, அந்த ஏஜென்ட் ஒரு மூன்றாம் தரப்பு கருவியை (third-party tool) ஏற்றுகிறது. திடீரென்று, உங்கள் பாதுகாப்பு முயற்சிகள் தோல்வியடைகின்றன.

உங்கள் ஏஜென்ட் அது அழைக்கும் மற்ற ஏஜென்ட்கள் மற்றும் கருவிகளின் பாதுகாப்பைப் பொறுத்தே பாதுகாப்பானது. இது மற்ற அனைத்து ஏஜென்ட்களுடனும் ஒரு பதிவுத் தொகுப்பு (registry), ஒரு அடையாளத் தளம் (identity plane) மற்றும் ஒரு நுழைவாயிலைப் (gateway) பகிர்ந்து கொள்கிறது. ஒரு கருவியில் ஏற்படும் ஒரு சிறிய தோல்வி உங்கள் முழு அமைப்பிற்கும் பரவிவிடும்.

பெரும்பாலான குழுக்கள் ஏஜென்ட்டைப் பாதுகாப்பார்கள், ஆனால் அதன் சூழலை (ecosystem) மறந்துவிடுகிறார்கள். உங்கள் உள்கட்டமைப்பைப் (infrastructure) பாதுகாக்க இந்த ஆறு உத்திகளைப் பயன்படுத்துங்கள்:

  • டிஜிட்டல் கைரேகைகளைப் (digital fingerprints) பயன்படுத்துங்கள். ஒரு கருவி திங்கட்கிழமை பாதுகாப்பானது போலத் தோன்றலாம், ஆனால் வியாழக்கிழமை அதுத் தீங்கு விளைவிப்பதாக மாறலாம். பதிப்புகளை (versions) நிலையாக வைத்திருங்கள் (pin) மற்றும் கருவி விளக்கம் (description) மற்றும் ஸ்கீமாவின் (schema) ஹாஷ் (hash) மதிப்பைப் பயன்படுத்துங்கள். கருவி ஏற்றப்படும் ஒவ்வொரு முறையும் இந்த கைரேகையை மீண்டும் சரிபார்க்கவும். கைரேகை மாறினால், அந்தக் கருவியை நிறுத்திவிடுங்கள்.

  • கருவி நச்சுத்தன்மையைத் (tool poisoning) தடுப்பதே. ஒரு கருவியின் விளக்கம் என்பது மாடலுக்கான ஒரு அறிவுறுத்தல் சேனலாகும். தீங்கிழைக்கும் கருவிகள் 'ப்ராம்ப்ட் இன்ஜெக்ஷன்' (prompt injections) தூண்டுவதற்கு விளக்கங்களைப் பயன்படுத்துகின்றன. கருவி மெட்டாடேட்டாவை (metadata) ஒரு எதிரித் தரவாகக் கருதுங்கள். மறைக்கப்பட்ட எழுத்துக்கள், HTML கருத்துகள் (comments) அல்லது "முந்தைய உத்தரவுகளைப் புறக்கணி" போன்ற அறிவுறுத்தல்களுக்கு ஸ்கேன் செய்யுங்கள்.

  • பெயரால் ஏற்படும் குழப்பத்தைத் தடுத்தல். தீங்கிழைக்கும் சர்வர்கள், நம்பகமான பெயர்களுக்கு நெருக்கமான பெயர்களைப் பயன்படுத்துகின்றன, உதாரணமாக send_email என்பதற்குப் பதிலாக send_emai1 என்பது போல. கிட்டத்தட்ட ஒரே மாதிரியான பெயர்களைக் கண்டறிந்து எச்சரிக்கை செய்யுங்கள். குழப்பத்தைத் தவிர்க்க, ஒவ்வொரு கருவியையும் அதன் சரிபார்க்கப்பட்ட சர்வர் அடையாளத்தின் மூலம் பெயரிடுங்கள் (namespace).

  • ஒரு ஒற்றை நுழைவாயிலை (gateway) உருவாக்குங்கள். அனைத்துப் போக்குவரத்தையும் தணிக்கை செய்யக்கூடிய ஒரு மையப்புள்ளி (auditable choke point) வழியாக வழிநடத்துங்கள். இந்த நுழைவாயில் அழைப்பவர்களை அங்கீகரிக்க வேண்டும், பதில்களை ஸ்கேன் செய்ய வேண்டும் மற்றும் விகிதக் கட்டுப்பாட்டை (rate-limit) விதிக்க வேண்டும். நுழைவாயில் ஒரு பிழையைக் கண்டறிந்தால், அது கோரிக்கையை நிராகரிக்க வேண்டும். அதை வெறும் பதிவாக (log) மட்டும் விட்டுவிட்டுத் தொடர வேண்டாம்.

  • உண்மையான கில் ஸ்விட்சை (kill switch) உருவாக்குங்கள். பெரும்பாலான கில் ஸ்விட்சுகள் முக்கிய ஏஜென்ட்டை மட்டுமே நிறுத்தும். இது துணை ஏஜென்ட்கள் (sub-agents) மற்றும் கருவி அமர்வுகளை (tool sessions) இயங்க விடக்கூடும். ஒரு உண்மையான நிறுத்தச் சிக்னல் ஒவ்வொரு துணை ஏஜென்ட்க்கும் சென்றடைய வேண்டும் மற்றும் ஒவ்வொரு அமர்வையும் பாதுகாப்பான நிலையில் வைத்திருக்க வேண்டும்.

  • உங்கள் பாதுகாப்பு அமைப்புகளைச் சோதியுங்கள். நீங்கள் ஒருபோதும் சோதிக்காத ஒரு கில் ஸ்விட்ச் பயனற்றது. நீங்கள் ஸ்விட்சைப் பயன்படுத்தும்போது துணை ஏஜென்ட்கள் உண்மையில் நின்றுவிடுவதை உறுதி செய்யப் பயிற்சிகளை (drills) மேற்கொள்ளுங்கள்.

AI கருவிகளை மென்பொருள் சார்புகளைப் (software dependencies) போலக் கருதுங்கள். அதே சுகாதார முறைகளைப் பயன்படுத்துங்கள்: pin, sign, fingerprint மற்றும் verify செய்யுங்கள்.

உங்கள் ஏஜென்ட்கள் இன்று ஏற்றும் கருவிகளை நீங்கள் எவ்வாறு சரிபார்க்கிறீர்கள்? நீங்கள் அனுமதி அளித்த பிறகு ஒரு கருவி மாறினால் அதை நீங்கள் கண்டறிவீர்களா?

ஆதாரம்: https://dev.to/brennhill/your-ai-agent-is-only-as-secure-as-the-tools-and-agents-it-calls-53p7

விருப்பமான கற்றல் சமூகம்: https://t.me/GyaanSetuAi