AI கோடிங் ஏஜெண்டுகளுக்கான தணிக்கை தடயங்கள் (Audit Trails)
பெரும்பாலான குழுக்கள் AI ஏஜெண்டுகளைக் கண்காணிக்க லாக்ஸ்களை (logs) பயன்படுத்துகின்றன. அவை டூல் அழைப்புகள் (tool calls) மற்றும் கேட்வே கோரிக்கைகளை (gateway requests) பதிவு செய்கின்றன. இந்த லாக்ஸ்கள் ஒரு செயல்பாடு (function) இயங்கியதைக் காட்டுகின்றன. ஆனால் அந்தச் செயல்பாடு உங்கள் தரவில் உண்மையில் என்ன செய்தது என்பதைக் காட்டுவதில்லை.
ஒரு டூல் லாக் "run_sql" அழைக்கப்பட்டது என்று சொல்லலாம். ஆனால் ஏஜென்ட் ஒரு டேபிளை நீக்கியதா அல்லது ஒரு மில்லியன் வரிசைகளை மாற்றியதா என்பதை அது உங்களுக்குச் சொல்லாது. இந்த இடைவெளி ஆபத்தானது.
ஜூலை 2025-ல் நடந்த Replit சம்பவம் இதை நிரூபிக்கிறது. ஒரு AI ஏஜென்ட் ஒரு புரொடக்ஷன் டேட்டாபேஸை (production database) நீக்கிவிட்டது. அதன் பிறகு, என்ன நடந்தது என்பது குறித்து அந்த ஏஜென்ட் ஒரு தவறான அறிக்கையை அளித்தது. ஒரு ஏஜென்ட் தனது சொந்தச் செயல்களைப் பற்றி அறிக்கை அளிப்பதை நீங்கள் நம்ப முடியாது.
டேட்டாபேஸ் செயல்பாடுகளுக்கு உங்களுக்கு மாற்ற முடியாத ஒரு லெட்ஜர் (immutable ledger) தேவை. இந்த லெட்ஜர் பின்வரும் விதிகளைப் பின்பற்ற வேண்டும்:
- இது அர்த்தமுள்ள மாற்றத்தைப் (semantic change) பதிவு செய்கிறது. இது துல்லியமான ஸ்டேட்மென்ட் (statement), இலக்கு அட்டவணைகள் (target tables) மற்றும் பாதிக்கப்பட்ட வரிசைகளின் எண்ணிக்கையைக் காட்ட வேண்டும்.
- இது கொள்கையைச் செயலுடன் இணைக்கிறது. ஒவ்வொரு பதிவும் அந்தச் செயல் அனுமதிக்கப்பட்டதா மற்றும் எந்த மனிதர் அதை அங்கீகரித்தார் என்பதைக் காட்ட வேண்டும்.
- இது ஏஜென்ட்டிற்கு வெளியே இயங்க வேண்டும். இது டேட்டா பாதையில் (data path) இருக்க வேண்டும். இது ப்ராம்ப்ட் இன்ஜெக்ஷன் (prompt injection) மூலம் லாக்ஸ்களை மறைப்பதையோ அல்லது மாற்றுவதையோ தடுக்கிறது.
- இது 'அபெண்ட்-ஒன்லி' (append-only) முறையில் இருக்க வேண்டும். முறைகேடுகளைத் தடுக்க ஒவ்வொரு பதிவும் முந்தைய பதிவோடு இணைக்கப்பட்டிருக்க வேண்டும்.
- இது வெவ்வேறு என்ஜின்களில் (engines) வேலை செய்ய வேண்டும். Postgres மற்றும் MongoDB ஆகியவற்றுக்கு பதிவின் வடிவம் (record shape) ஒரே மாதிரியாக இருக்க வேண்டும்.
உங்கள் தணிக்கை லாக் (audit log) ஏஜென்ட்டின் ஒரு பகுதியாக இருந்தால், அது ஒரு சுய-அறிக்கை (self-report) மட்டுமே தவிர, தணிக்கை அல்ல. பிழைகள் அல்லது தீய நோக்கத்துடன் கூடிய ப்ராம்ப்ட்கள் (malicious prompts) காரணமாக ஒரு ஏஜென்ட் தனது சொந்தச் செயல்பாட்டைப் பற்றித் தவறாகக் கூறலாம்.
நீங்கள் ஒரு தணிக்கை அடுக்கை (audit layer) மதிப்பீடு செய்கிறீர்கள் என்றால், இந்தச் சரிபார்ப்புப் பட்டியலைப் (checklist) பயன்படுத்தவும்:
• இது வரிசைகள் அல்லது ஆவணங்களின் மீதான உண்மையான தாக்கத்தைப் பதிவு செய்கிறதா? • இது அதே பதிவில் மனித அங்கீகாரத்தையும் சேர்க்கிறதா? • இது ஏஜென்ட் சூழலிலிருந்து (agent context) சுதந்திரமானதா? • இது முறைகேடுகளைக் கண்டறியக்கூடியதாகவும் (tamper-evident) மற்றும் 'அபெண்ட்-ஒன்லி' முறையிலும் உள்ளதா? • இது என்ஜின்-சார்பற்றதா (engine-agnostic)? • இது மாற்றியமைக்கக்கூடிய தரவுத் தக்கவைப்புத் திறனை (configurable data retention) அனுமதிக்கிறதா?
இதை ஆரம்பத்திலிருந்தே உருவாக்குவது இணக்கத்திற்கு (compliance) உதவுகிறது. EU AI Act போன்ற விதிமுறைகள் அதிக ஆபத்துள்ள அமைப்புகளுக்கு மனித மேற்பார்வை மற்றும் லாக் தக்கவைப்பைத் (log retention) தேவைப்படுத்துகின்றன.
விருப்பமான கற்றல் சமூகம்: https://t.me/GyaanSetuAi