ஸ்டான்போர்டின் 2026 AI குறியீடு (AI Index), கடந்த ஆண்டு பாதுகாப்புச் சம்பவங்கள் 362 ஆக உயர்ந்துள்ளதைக் காட்டுகிறது. இது, மாதிரிகளின் (models) வேகமான மேம்பாட்டிற்கும், அவற்றை நம்பகமானதாக வைத்திருக்க வேண்டிய பாதுகாப்பு வழிமுறைகளுக்கும் இடையே விரிந்து வரும் இடைவெளியை அடிக்கோடிட்டுக் காட்டுகிறது. கட்டுப்பாடற்ற ஒவ்வொரு தோல்வியும், ஏற்கனவே நிதி, சுகாதாரம் மற்றும் பொதுச் சேவைகளில் ஒருங்கிணைக்கப்பட்டுள்ள அமைப்புகள் மீதான நம்பிக்கையைச் சிதைக்கிறது.
இந்த இடைவெளியின் பின்னணியில் உள்ள தரவுகள்
மனித-மைய செயற்கை நுண்ணறிவு நிறுவனத்தால் (Institute for Human-Centered Artificial Intelligence) தொகுக்கப்பட்ட இந்த குறியீடு, ஒரு மாதிரியின் முதன்மைச் செயல்பாட்டிற்கும் அதன் நிஜ உலக நம்பகத்தன்மைக்கும் இடையிலான வேறுபாட்டைச் சுட்டிக்காட்டுகிறது. உயர்தர மாதிரிகள் இன்னும் தரநிலைத் தேர்வுகளில் (benchmark exams) சிறந்து விளங்கினாலும், அவற்றின் "மாயத்தோற்ற" (hallucination) விகிதங்கள் — அதாவது அவை தவறான அல்லது கற்பனையான கூற்றுகளை உருவாக்கும் நிகழ்வுகள் — துறையின் பல்வேறு பகுதிகளில் 22% முதல் 94% வரை அதிர்ச்சியூட்டும் வகையில் உள்ளன. பயனர்கள் மாதிரிகளுக்குத் திட்டமிட்டுத் தவறான தகவல்களை அளிக்கும்போது, GPT-4o-வின் துல்லியம் 98.2%-லிருந்து 64.4%-ஆகக் குறைகிறது; அதே சோதனையின் கீழ் DeepSeek R1 90%-க்கும் மேலிருந்து 14.4%-ஆகக் குறைகிறது. தீய தூண்டுதல்களைத் (malicious prompts) தடுக்க வேண்டிய பாதுகாப்புத் தடுப்புச் சுவர்கள், தாக்குபவர்கள் அவற்றைச் சோதிக்கும்போது வழக்கமாக உடைந்துவிடுகின்றன.
நிறுவனங்கள் ஏன் அவசரப்படுகின்றன
கொள்கை ஏற்பு (Policy adoption), அவற்றின் அமலாக்கத்தை விட வேகமாகச் செல்கிறது. முந்தைய ஆய்விற்கும் இந்த ஆண்டுக்கும் இடையில், எந்தவிதமான AI நிர்வாகமும் இல்லாத நிறுவனங்களின் பங்கு 24%-லிருந்து 11%-ஆகக் குறைந்துள்ளது, மேலும் பல நிறுவனங்கள் இப்போது ISO/IEC 42001 அல்லது NIST AI Risk Management Framework போன்ற தரநிலைகளைக் குறிப்பிடுகின்றன. ஒரு கொள்கையை உருவாக்குவது என்பது அதன்படி வாழ்வதற்குச் சமமல்ல. 59% பதிலளிப்பவர்களிடம் உள்நிலை அறிவு இடைவெளிகள் உள்ளன, 48% பட்ஜெட் கட்டுப்பாடுகளால் பாதிக்கப்பட்டுள்ளன, மேலும் 41% ஒழுங்குமுறை நிச்சயமற்ற தன்மையால் சிரமப்படுகின்றன. அறிக்கையானது இதை ஒரு "தொழில்நுட்பப் பிரச்சினை" என்று அழைக்கிறது: தனியுரிமை கட்டுப்பாடுகளைத் (privacy controls) தீவிரப்படுத்துவது தற்செயலாக நேர்மை அளவீடுகளை (fairness metrics) பலவீனப்படுத்தலாம், அல்லது இதற்கு நேர்மாறாகவும் நடக்கலாம்; இது பொறியாளர்களைப் போதுமான கருவிகள் அல்லது நிதி இன்றி முரண்பட்ட நோக்கங்களைக் கையாள வேண்டிய நிலைக்குத் தள்ளுகிறது.
தற்போதைய பாதுகாப்புச் சோதனைகளின் மாயை
வெளிப்படைத்தன்மை மதிப்பெண்கள் (Transparency scores) — அதாவது மென்பொருள் உருவாக்குநர்கள் மாதிரியின் வரம்புகள் மற்றும் சோதனை முறைகளை எவ்வளவு வெளிப்படையாகத் தெரிவிக்கிறார்கள் என்பதன் தொகுப்பு — 58-லிருந்து 40 ஆகக் குறைந்துள்ளது. இது தன்னார்வ அறிக்கையளிப்பு (voluntary reporting) தனது நம்பகத்தன்மையைத் இழந்து வருவதைக் காட்டுகிறது. நிறுவனங்கள் பெரும்பாலும் உள் தணிக்கைகளை (internal audits) நம்பியிருக்கின்றன, அவை குறியீட்டில் பதிவு செய்யப்பட்டுள்ள எல்லைநிலைத் தோல்விகளை (edge-case failures) பெரும்பாலும் கண்டறிவதில்லை. இதன் விளைவாக ஒரு தவறான பாதுகாப்பு உணர்வு ஏற்படுகிறது; மறைந்திருக்கும் பாதிப்புகள் நீடித்திருக்கும் போதிலும், நிறுவனங்கள் தாங்கள் பாதுகாப்பாக இருப்பதாக நம்புகின்றன.
மாற்றுக்கருத்து: தரநிலைகள் வலுப்பெற்று வருகின்றன
ISO மற்றும் NIST கட்டமைப்புகளைக் குறிப்பிடுவது ஒரு முன்னேற்றமானப் படி என்று ஆதரவாளர்கள் வாதிடுகின்றனர். முறையான தரநிலைகள் தணிக்கையாளர்கள் மற்றும் ஒழுங்குமுறை அமைப்பாளர்களுக்கு ஒரு பொதுவான மொழியையும் அடிப்படை எதிர்பார்ப்புகளையும் வழங்குகின்றன, இது நிறுவனங்களுக்கு இடையிலான ஒப்பீடுகளை எளிதாக்குகிறது. கொள்கை நடைமுறையில் இருக்கும்போது, ஆரம்பகாலப் பயனர்கள் (early adopters) சிறந்த உள்நிலை ஒருங்கிணைப்பு மற்றும் தெளிவான மேல்நிலைத் தகவல் தொடர்புப் பாதைகளைக் கொண்டுள்ளதாகக் கூறுகின்றனர். கொள்கை ஏற்பு அதிகரிப்பது, இந்தத் துறை அபாயத்தை recognizes செய்வதையும், நிர்வாகத்தில் முதலீடு செய்யத் தயாராக இருப்பதையும் உணர்த்துகிறது.
இன்னும் விடுபட்டவை என்ன?
காகிதத்தில் கொள்கைகள் இருந்தாலும், அவற்றின் செயல்பாட்டில்த் தடைகள் உள்ளன. இந்த குறியீடு மூன்று நடைமுறைத் தடைகளைச் சுட்டிக்காட்டுகிறது:
- அறிவு இடைவெளிகள்: குழுக்களிடம் AI அபாயங்கள் குறித்த ஆழமான நிபுணத்துவம் இல்லை, இது மேலோட்டமான இணக்கச் சோதனைகளுக்கு வழிவகுக்கிறது.
- நிதிப் பற்றாக்குறை: பாதுகாப்பு கருவிகள், மூன்றாம் தரப்பு தணிக்கைகள் மற்றும் தொடர்ச்சியான கண்காணிப்பு ஆகியவற்றிற்குப் பல நிறுவனங்களால் நியாயப்படுத்த முடியாத பட்ஜெட்டுகள் தேவைப்படுகின்றன.
- ஒழுங்குமுறை தெளிவின்மை: தெளிவற்ற அல்லது மாறிவரும் சட்டங்கள் நீண்டகால இணக்கத் திட்டங்களை (compliance roadmaps) வடிவமைப்பதைக் கடினமாக்குகின்றன.
இந்தச் சிக்கல்களைத் தீர்க்க வெளிப்புறச் சரிபார்ப்பு (external validation) தேவைப்படலாம். சுய மதிப்பீட்டைக் கடந்து, நிஜ உலகப் பயன்பாடு மற்றும் எதிரித் தாக்குதல்களைப் (adversarial attacks) பிரதிபலிக்கும் சுயாதீன மதிப்பீடுகளை நோக்கி நகர வேண்டும் என்று அறிக்கை பரிந்துரைக்கிறது. மேலும், பாதுகாப்புச் சோதனைகளை ஒரு கூடுதல் சிந்தனையாகக் கருதாமல், அவற்றை நேரடியாக மாதிரி செயல்முறை வரிசைகளில் (model pipelines) இணைக்கும் பொறியியல் தீர்வுகளையும் இது கோருகிறது.