ChatGPT-യുടെ പെർമിഷൻ മോഡൽ ഉപയോഗിച്ച് അക്രമികൾക്ക് Gmail സന്ദേശങ്ങൾ ചോർത്താൻ സാധിക്കുമെന്ന് കണ്ടെത്തിയതിനെത്തുടർന്ന്, സുരക്ഷാ വീഴ്ചയുള്ള ഒരു ആന്തരിക സേവനം (internal service) നിർത്തലാക്കാൻ OpenAI നിർബന്ധിതരായി. Check Point Research വെളിപ്പെടുത്തിയ ഈ പിഴവ് പ്രകാരം, കൃത്യമായി തയ്യാറാക്കിയ ഒരു പ്രോംപ്റ്റ് (prompt) ഉപയോഗിച്ച് ഉപയോക്താവിന്റെ ലിങ്ക് ചെയ്ത ഇമെയിൽ അക്കൗണ്ട് വായിക്കാനും അതിന്റെ ഉള്ളടക്കം അക്രമിയുടെ നിയന്ത്രണത്തിലുള്ള വിലാസത്തിലേക്ക് അയക്കാനും AI-യെ പ്രേരിപ്പിക്കാൻ സാധിക്കും.

ഇൻജക്ഷൻ എങ്ങനെ പ്രവർത്തിക്കുന്നു

ഗവേഷകർ സാധാരണമായ ഒരു പ്രോംപ്റ്റിൽ ഒളിഞ്ഞിരിക്കുന്ന ഒരു നിർദ്ദേശം ഉൾപ്പെടുത്തി. ഉപയോക്താവ് Gmail, ChatGPT-യുമായി ബന്ധപ്പെടുമ്പോൾ, Gmail ഡാറ്റ എടുത്ത് അക്രമിക്കായി അയക്കാൻ ഈ ദുരുദ്ദേശ്യപരമായ പ്രോംപ്റ്റ് മോഡലിനോട് ആവശ്യപ്പെട്ടു. ഉപയോക്താവിന്റെ അധിക അനുമതി തേടാത്ത ഒരു ആന്തരിക റൂട്ടിംഗ് സർവീസിലൂടെയാണ് (internal routing service) ഈ ഡാറ്റ കടന്നുപോയത്. ഈ സേവനം പശ്ചാത്തലത്തിൽ (behind the scenes) പ്രവർത്തിച്ചിരുന്നതിനാൽ, ഉപയോക്താവിന് യാതൊരുവിധ പെർമിഷൻ അഭ്യർത്ഥനയും കാണാൻ സാധിച്ചില്ല.

OpenAI-യുടെ വേഗത്തിലുള്ള പരിഹാരം

ഗവേഷകർ ഉപയോഗിച്ച ചാനൽ തടയുന്നതിനായി OpenAI ആ ആന്തരിക റൂട്ടിംഗ് സർവീസ് ഓഫ്‌ലൈൻ ആക്കി. ഈ പാച്ച് (patch) ഡാറ്റ ചോർത്തുന്ന ഈ കൃത്യമായ രീതിയെ തടയുന്നുണ്ടെങ്കിലും, പ്ലഗിനുകൾക്ക് (plugins) നേരിട്ടുള്ള പ്രോംപ്റ്റുകൾ ഇല്ലാതെ തന്നെ കണക്ട് ചെയ്ത ആപ്പുകളിൽ പ്രവർത്തിക്കാൻ അനുവദിക്കുന്ന പെർമിഷൻ ഫ്രെയിംവർക്ക് ഇപ്പോഴും നിലനിൽക്കുന്നുണ്ട്.

എന്തുകൊണ്ട് ഇത് പ്രധാനമാണ്

Gmail-ൽ വ്യക്തിപരവും ഔദ്യോഗികവുമായ ആശയവിനിമയങ്ങൾ അടങ്ങിയിരിക്കുന്നു; ഏതൊരു സുരക്ഷാ വീഴ്ചയും ഉപയോക്താക്കളുടെ ഡാറ്റ സംരക്ഷിക്കുമെന്ന് അവകാശപ്പെടുന്ന AI അസിസ്റ്റന്റുകളിലുള്ള വിശ്വാസം തകർക്കും. ഈ സംഭവം രണ്ട് പ്രധാന അപകടസാധ്യതകളെ ചൂണ്ടിക്കാണിക്കുന്നു:

  • Prompt injection – ദുരുദ്ദേശ്യപരമായ പ്രോംപ്റ്റുകൾ ഉപയോഗിച്ച് അസിസ്റ്റന്റിനെ ഹൈജാക്ക് ചെയ്യാനും അതിനെ ഡാറ്റ ചോർത്തുന്നതിനുള്ള ഒരു മാർഗമായി മാറ്റാനും സാധിക്കും.
  • Plugin permission models – നിലവിലെ രൂപകൽപ്പനകൾ, ഉപയോക്താക്കളുടെ വ്യക്തമായ അറിവില്ലാതെ തന്നെ മൂന്നാം കക്ഷി സേവനങ്ങളിലേക്ക് (third-party services) AI ടൂളുകൾക്ക് വിപുലമായ പ്രവേശനം നൽകിയേക്കാം.

AI അസിസ്റ്റന്റുകൾ വ്യക്തിഗത ഡാറ്റയുമായി കൂടുതൽ ആഴത്തിൽ ബന്ധിക്കപ്പെടുമ്പോൾ, അവയുടെ പ്രവേശനത്തെ നിയന്ത്രിക്കുന്ന സംവിധാനങ്ങൾ സുതാര്യവും പരിശോധിക്കാവുന്നതുമാകണം (auditable) എന്ന് ഈ സംഭവം നമ്മെ ഓർമ്മിപ്പിക്കുന്നു. അതുവരെ, AI ടൂളുകളും സ്വകാര്യ അക്കൗണ്ടുകളും തമ്മിലുള്ള ഏത് ബന്ധത്തെയും ഉപയോക്താക്കൾ ജാഗ്രതയോടെ കാണണം.