ChatGPT च्या परवानगी मॉडेलमुळे (permission model) हल्लेखोर Gmail संदेश चोरू शकले, ज्यामुळे OpenAI ला त्यांची एक असुरक्षित अंतर्गत सेवा (internal service) बंद करण्यास भाग पाडले. Check Point Research ने हा दोष उघड केला असून, असे दिसून आले आहे की एका विशिष्ट पद्धतीने तयार केलेल्या प्रॉम्प्टद्वारे (crafted prompt) AI ला वापरकर्त्याचे लिंक केलेले ईमेल खाते वाचण्यास आणि त्यातील मजकूर हल्लेखोराच्या नियंत्रणाखालील पत्त्यावर पाठवण्यास भाग पाडले जाऊ शकते.

इंजेक्शन कसे काम करते

संशोधकांनी एका सामान्य वाटणाऱ्या प्रॉम्प्टमध्ये एक गुप्त सूचना (hidden instruction) समाविष्ट केली. जेव्हा वापरकर्त्याने Gmail ला ChatGPT शी लिंक केले, तेव्हा त्या घातक प्रॉम्प्टने मॉडेलला Gmail डेटा मिळवून तो हल्लेखोराला ईमेल करण्यास सांगितले. हा डेटा एका अंतर्गत राउटिंग सेवेद्वारे (internal routing service) प्रवाहित झाला, ज्याने वापरकर्त्याची कोणतीही अतिरिक्त संमती मागितली नाही. ही सेवा पडद्यामागे (behind the scenes) कार्यरत असल्याने, वापरकर्त्याला कोणतीही परवानगीची विनंती दिसली नाही.

OpenAI चा त्वरित उपाय

OpenAI ने अंतर्गत राउटिंग सेवा ऑफलाइन केली, ज्यामुळे संशोधकांनी वापरलेला मार्ग बंद झाला. या पॅचमुळे (patch) डेटा चोरीची ही नेमकी पद्धत थांबली आहे, परंतु प्लगइन्सना (plugins) स्पष्ट सूचनांशिवाय जोडलेल्या ॲप्सवर काम करण्याची परवानगी देणारी फ्रेमवर्क अजूनही कायम आहे.

हे महत्त्वाचे का आहे

Gmail मध्ये वैयक्तिक आणि कॉर्पोरेट संवाद साठवलेला असतो; कोणताही डेटा भंग (breach) वापरकर्त्याचा डेटा सुरक्षित ठेवण्याचा दावा करणाऱ्या AI असिस्टंट्सवरील विश्वास कमी करतो. ही घटना दोन व्यापक धोके अधोरेखित करते:

  • प्रॉम्प्ट इंजेक्शन (Prompt injection) – घातक प्रॉम्प्ट्स असिस्टंटचा ताबा घेऊ शकतात, ज्यामुळे तो डेटा लीक करण्याचे साधन बनू शकतो.
  • प्लगइन परवानगी मॉडेल्स (Plugin permission models) – सध्याच्या डिझाइनमुळे AI टूल्सना वापरकर्त्याला स्पष्टपणे कल्पना न देता तृतीय-पक्ष (third-party) सेवांमध्ये व्यापक प्रवेश मिळू शकतो.

ही घटना आपल्याला आठवण करून देते की, जसे AI असिस्टंट्स वैयक्तिक डेटाशी अधिक खोलवर जोडले जात आहेत, तसे त्यांच्या प्रवेशाचे नियंत्रण करणाऱ्या यंत्रणा पारदर्शक आणि तपासण्यायोग्य (auditable) असणे आवश्यक आहे. तोपर्यंत, वापरकर्त्यांनी AI टूल्स आणि खाजगी खाती यांच्यातील कोणत्याही कनेक्शनकडे सावधगिरीने पाहिले पाहिजे.