ChatGPT-இன் அனுமதி மாதிரி (permission model) தாக்குபவர்கள் Gmail செய்திகளைத் திருட வழிவகுத்தது, இதனால் OpenAI தனது பாதிப்புக்குள்ளான ஒரு உள்முறைச் சேவையை (internal service) முடக்க வேண்டியிருந்தது. Check Point Research இந்தத் தவற்றினை வெளிப்படுத்தியது; ஒரு குறிப்பிட்ட முறையில் வடிவமைக்கப்பட்ட ப்ராம்ப்ட் (prompt), பயனரின் இணைக்கப்பட்ட மின்னஞ்சல் கணக்கை வாசிக்கவும், அதன் உள்ளடக்கத்தை தாக்குபவர் கட்டுப்பாட்டில் உள்ள முகவரிக்கு அனுப்பவும் AI-ஐ கட்டாயப்படுத்த முடியும் என்பதை இது காட்டியது.

இந்த இன்ஜெக்ஷன் (injection) எவ்வாறு செயல்படுகிறது

ஆராய்ச்சியாளர்கள் ஒரு சாதாரண ப்ராம்ப்ட்டிற்குள் ஒரு மறைமுகமான அறிவுறுத்தலைச் சேர்த்தனர். ஒரு பயனர் Gmail-ஐ ChatGPT-உடன் இணைத்தபோது, அந்தத் தீங்கிழைக்கும் ப்ராம்ப்ட், Gmail தரவை எடுத்துத் தாக்குபவருக்கு மின்னஞ்சல் அனுப்புமாறு அந்த மாடலுக்குக் கட்டளையிட்டது. இந்தத் தரவு, பயனரிடம் கூடுதல் அனுமதி எதையும் கேட்காத ஒரு உள்வழிச் சேவையின் (internal routing service) வழியாகச் சென்றது. அந்தச் சேவை பின்னணியில் இயங்கியதால், பயனர் எந்தவொரு அனுமதி கோரிக்கையையும் பார்க்கவில்லை.

OpenAI-இன் விரைவான தீர்வு

OpenAI தனது உள்வழிச் சேவையை (internal routing service) ஆஃப்லைனுக்குக் கொண்டு வந்ததுடன், ஆராய்ச்சியாளர்கள் பயன்படுத்திய அந்தத் தொடர்பையும் துண்டித்தது. இந்தத் திருத்தம் (patch) தரவு வெளியேற்றப்படும் இந்தத் துல்லியமான முறையைத் தடுக்கிறது, ஆனால் தெளிவான ப்ராம்ப்ட்கள் இல்லாமலேயே பிளகின்கள் (plugins) இணைக்கப்பட்ட செயலிகளில் செயல்பட அனுமதிக்கும் அந்த அனுமதி கட்டமைப்பு (permission framework) இன்னும் அப்படியே உள்ளது.

இது ஏன் முக்கியமானது

Gmail-இல் தனிப்பட்ட மற்றும் நிறுவனத் தொடர்புகள் உள்ளன; இதில் ஏற்படும் எந்தவொரு மீறலும், பயனரின் தரவைப் பாதுகாப்பதாகக் கூறும் AI உதவியாளர்கள் மீதான நம்பிக்கையைச் சிதைக்கும். இந்தச் சம்பவம் இரண்டு பரந்த அபாயங்களைச் சுட்டிக்காட்டுகிறது:

  • Prompt injection – தீங்கிழைக்கும் ப்ராம்ப்ட்கள் உதவியாளரைக் கடத்தி (hijack), அதைத் தரவு கசிவுக்கான ஒரு பாதையாக மாற்றக்கூடும்.
  • Plugin permission models – தற்போதைய வடிவமைப்புகள், பயனருக்குத் தெளிவான விழிப்புணர்வு இல்லாமலேயே மூன்றாம் தரப்புச் சேவைகளை அணுக AI கருவிகளுக்குப் பரந்த அனுமதியை வழங்கக்கூடும்.

AI உதவியாளர்கள் தனிப்பட்ட தரவுகளுடன் ஆழமாகப் பின்னிப் பிணைந்து வரும் நிலையில், அவற்றின் அணுகலைக் கட்டுப்படுத்தும் வழிமுறைகள் வெளிப்படையானதாகவும், தணிக்கை செய்யக்கூடியதாகவும் (auditable) இருக்க வேண்டும் என்பதை இந்தச் சம்பவம் நமக்கு நினைவூட்டுகிறது. அதுவரை, AI கருவிகளுக்கும் தனிப்பட்ட கணக்குகளுக்கும் இடையிலான எந்தவொரு இணைப்பையும் பயனர்கள் எச்சரிக்கையுடன் கையாள வேண்டும்.