𝗪𝗵𝘆 𝗬𝗼𝘂𝗿 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁 𝗔𝗿𝗰𝗵𝗶𝘁𝗲𝗰𝘁𝘂𝗿𝗲 𝗜𝘀 𝗔 𝗦𝗲𝗰𝘂𝗿𝗶𝘁𝘆 𝗟𝗶𝗮𝗯𝗶𝗹𝗶𝘁𝘆
2027-க்குள், நிறுவனங்களின் 40% AI பயன்பாடுகள் prompt injection அல்லது agent hijack போன்ற சம்பவங்களைச் சந்திக்கும். இது 2025 தொடக்கத்தில் இருந்த 5%-க்கும் குறைவான அளவிலிருந்து மிகப்பெரிய உயர்வாகும்.
Orchestration layer ஏஜென்ட்களைப் பயனுள்ளதாக்குகிறது. அதே சமயம் அவற்றை இலக்குகளாகவும் மாற்றுகிறது.
சிங்கப்பூரில் உள்ள ஒரு லாஜிஸ்டிக்ஸ் நிறுவனம் சமீபத்தில் $2.3 மில்லியன் இழப்பைச் சந்தித்தது. ஒரு திருடப்பட்ட காலண்டர் அழைப்பு (calendar invite), ஒரு திட்டமிடல் ஏஜென்ட்டை (scheduling agent) ஏமாற்றியது. அந்த ஏஜென்ட் CRM பதிவுகளை ஒரு தாக்குதல்தாரருக்கு அனுப்பியது. அந்த மாடலில் எந்தத் தவறான குறியீடும் (bad code) இல்லை. அது அறிவுறுத்தல்களைச் சரியாகப் பின்பற்றியது. ஆனால், அதன் கட்டமைப்புதான் (architecture) சிக்கலாக இருந்தது.
ஏஜென்ட்கள் வெறும் சாட்போட்கள் (chatbots) மட்டுமல்ல. அவை கருவிகளைப் பயன்படுத்துபவை, கோப்புகளைப் படிப்பவை மற்றும் பரிவர்த்தனைகளைச் (transactions) செயல்படுத்துபவை ஆகும். பாரம்பரியப் பாதுகாப்பு முறைகள், ஒரு கோரிக்கை (request) உள்ளே வருகிறது மற்றும் ஒரு பதில் (response) வெளியே செல்கிறது என்று கருதுகின்றன. ஆனால் ஏஜென்ட்கள் இந்த மாதிரியை உடைக்கின்றன.
மின்னஞ்சல்களைத் தயாரித்து, ரீஃபண்ட் (refund) கோரிக்கைகளைச் சமர்ப்பிக்கும் ஒரு ஏஜென்ட், ஒரே runtime-இல் மூன்று செயலிகள் (apps) போலச் செயல்படுகிறது. ஒவ்வொரு tool call-உம் ஒரு ஆபத்து. ஒவ்வொரு memory write-உம் ஒரு ஆபத்து. ஒவ்வொரு மின்னஞ்சலும் அல்லது ஆவணமும் ஒரு executable code ஆகும்.
பாதுகாப்பான குழுக்கள் மூன்று அடுக்கு முறையைப் (three-layer pattern) பயன்படுத்துகின்றன:
- Identity: ஒவ்வொரு tool call-க்கும் பயனரிடமிருந்து தனித்துவமான ஒரு அடையாளம் (identity) தேவை.
- Provenance: ஒவ்வொரு memory write-க்கும் அதன் மூலத்தைக் காட்டும் மெட்டாடேட்டா (metadata) தேவை.
- Verification: ஒவ்வொரு திட்டப் படிவத்திற்கும் (plan step) அடுத்தகட்டச் செயல்பாட்டிற்காக (downstream execution) ஒரு கையொப்பமிடப்பட்ட பொருள் (signed object) தேவை.
ஏஜென்ட்கள் ஒருபோதும் production APIs-ஐ நேரடியாக அழைக்கக்கூடாது. அதற்குப் பதிலாக ஒரு mediated tool layer-ஐப் பயன்படுத்தவும். இந்த அடுக்கு வாதங்களை (arguments) சரிபார்க்கிறது, அனுமதிகளை (permissions) வரையறுக்கிறது மற்றும் தணிக்கை பதிவுகளை (audit logs) உருவாக்குகிறது. இந்த அடுக்கை உங்கள் புதிய ஃபயர்வால் (firewall) என்று கருதலாம்.
நினைவகம் (Memory) மற்றொரு மிகப்பெரிய ஆபத்து. தாக்குதல்தாரர்கள் ஏஜென்ட்டின் நினைவகத்தை மாற்ற, நச்சுத்தன்மை கொண்ட ஆவணங்கள் அல்லது மின்னஞ்சல்களைப் பயன்படுத்துகின்றனர். இது காலப்போக்கில் ஏஜென்ட் செயல்படும் விதத்தை மாற்றுகிறது. Memory poisoning தாக்குதல்கள் ஆண்டுதோறும் 300% வளர்ந்து வருகின்றன.
பெரும்பாலான குழுக்கள் ஏற்கனவே உள்ள வழிமுறைகளில் (pipelines) AI அச்சுறுத்தல் மாதிரியாக்கத்தை (threat modeling) சேர்க்கின்றன. ஆனால் அவை ஏஜென்ட் runtime-க்கே பாதுகாப்பைச் சேர்க்கவில்லை. வெறும் 19% நிறுவனங்களிடம் மட்டுமே tool-call அசாதாரணங்களைக் கண்டறியும் கண்காணிப்பு வசதி உள்ளது.
ஏஜென்ட்களை மென்பொருளாகக் கருதுவதை நிறுத்துங்கள். அவற்றை கணினி அணுகல் கொண்ட ஜூனியர் ஊழியர்களைப் போலக் கருதுங்கள். ஒரு புதிய ஊழியருக்கு முதல் நாளிலேயே root access வழங்க மாட்டீர்கள். உங்கள் ஏஜென்ட்களுக்கும் அவ்வாறு செய்யாதீர்கள்.
வெற்றியாளர்கள் மிகவும் கவர்ச்சிகரமான டெமோக்களைக் கொண்டிருக்க மாட்டார்கள். வங்கி அல்லது சுகாதாரத் துறையில் பாதுகாப்பு ஆய்வுகளில் (security reviews) தேர்ச்சி பெறும் ஏஜென்ட்களைக் கொண்டிருப்பார்கள். இந்த மூன்று அடுக்குகளையும் இப்போதே உருவாக்குங்கள். ஒரு பாதுகாப்பு மீறலுக்குப் பிறகு அவற்றைச் சரிசெய்ய முயல வேண்டாம்.
நீங்கள் சமீபத்தில் எடுத்த ஒரு கட்டமைப்பு முடிவு எது? முதல் நாளிலிருந்தே ஏஜென்ட் பாதுகாப்பில் கவனம் செலுத்தியிருந்தால், அதில் நீங்கள் எதை மாற்றியிருப்பீர்கள்?
விருப்பத்தேர்வு கற்றல் சமூகம்: https://t.me/GyaanSetuAi