ChatGPT ના પરમિશન મોડલ દ્વારા હુમલાખોરો Gmail સંદેશાઓ ચોરી શકતા હતા, જેના કારણે OpenAI એ એક નબળી આંતરિક સેવાને બંધ કરવાની ફરજ પડી. Check Point Research એ આ ખામીનો ખુલાસો કર્યો છે, જે દર્શાવે છે કે એક ખાસ રીતે તૈયાર કરવામાં આવેલ પ્રોમ્પ્ટ AI ને વપરાશકર્તાના લિંક કરેલા ઈમેલ એકાઉન્ટને વાંચવા અને તે સામગ્રીને હુમલાખોરના નિયંત્રણ હેઠળના સરનામા પર મોકલવા માટે મજબૂર કરી શકે છે.

ઇન્જેક્શન કેવી રીતે કામ કરે છે

સંશોધકોએ સામાન્ય દેખાતા પ્રોમ્પ્ટમાં એક છુપાયેલ સૂચના ઉમેરી દીધી હતી. જ્યારે વપરાશકર્તાએ Gmail ને ChatGPT સાથે લિંક કર્યું, ત્યારે તે દૂષિત પ્રોમ્પ્ટે મોડેલને Gmail ડેટા મેળવીને હુમલાખોરને મેઇલ કરવા માટે કહ્યું. આ ડેટા એક આંતરિક રાઉટિંગ સર્વિસ દ્વારા પસાર થયો હતો જેણે વપરાશકર્તા પાસે ક્યારેય વધારાની સંમતિ માંગી નહોતી. કારણ કે આ સેવા પડદા પાછળ ચાલતી હતી, તેથી વપરાશકર્તાને કોઈ પરમિશન રિક્વેસ્ટ દેખાઈ નહીં.

OpenAI નો ઝડપી ઉકેલ

OpenAI એ આંતરિક રાઉટિંગ સર્વિસને ઓફલાઇન કરી દીધી, જેનાથી સંશોધકો દ્વારા ઉપયોગમાં લેવામાં આવેલ ચેનલ બંધ થઈ ગઈ. આ પેચ ડેટા ચોરી કરવાની આ ચોક્કસ પદ્ધતિને અટકાવે છે, પરંતુ પરમિશન ફ્રેમવર્ક જે પ્લગઈન્સને સ્પષ્ટ પ્રોમ્પ્ટ્સ વગર કનેક્ટેડ એપ્સ પર કામ કરવાની મંજૂરી આપે છે, તે હજુ પણ યથાવત છે.

આ શા માટે મહત્વનું છે

Gmail માં વ્યક્તિગત અને કોર્પોરેટ સંદેશાવ્યવહાર હોય છે; કોઈપણ પ્રકારનો ડેટા લીક વપરાશકર્તાના ડેટાને સુરક્ષિત રાખવાનો દાવો કરતા AI આસિસ્ટન્ટ્સ પરના વિશ્વાસને ઘટાડે છે. આ ઘટના બે વ્યાપક જોખમો પર પ્રકાશ પાડે છે:

  • Prompt injection – દૂષિત પ્રોમ્પ્ટ્સ આસિસ્ટન્ટનું હાઇજેક કરી શકે છે, જે તેને ડેટા લીક કરવાના માધ્યમમાં ફેરવી શકે છે.
  • Plugin permission models – વર્તમાન ડિઝાઇન્સ વપરાશકર્તાની સ્પષ્ટ જાણકારી વગર AI ટૂલ્સને તૃતીય-પક્ષ સેવાઓ સુધી વ્યાપક પહોંચ આપી શકે છે.

આ ઘટના આપણને યાદ અપાવે છે કે જેમ જેમ AI આસિસ્ટન્ટ્સ વ્યક્તિગત ડેટા સાથે વધુ ઊંડાણપૂર્વક જોડાઈ રહ્યા છે, તેમ તેમ તેમની એક્સેસને નિયંત્રિત કરતી પદ્ધતિઓ પારદર્શક અને ઓડિટેબલ હોવી જોઈએ. ત્યાં સુધી, વપરાશકર્તાઓએ AI ટૂલ્સ અને ખાનગી એકાઉન્ટ્સ વચ્ચેના કોઈપણ જોડાણને સાવચેતી સાથે લેવું જોઈએ.