سمح نموذج الأذونات في ChatGPT للمهاجمين بسحب رسائل Gmail، مما دفع OpenAI إلى إغلاق خدمة داخلية معرضة للخطر. كشف Check Point Research عن هذه الثغرة، موضحاً أن أمراً (prompt) مصاغاً بعناية يمكن أن يجبر الذكاء الاصطناعي على قراءة حساب البريد الإلكتروني المرتبط بالمستخدم وإعادة توجيه المحتوى إلى عنوان يتحكم فيه المهاجم.
كيف تعمل عملية الحقن
قام الباحثون بتمرير تعليمات مخفية داخل أمر يبدو طبيعياً في الظاهر. عندما قام مستخدم بربط Gmail بـ ChatGPT، أخبر الأمر الخبيث النموذج بسحب بيانات Gmail وإرسالها بالبريد إلى المهاجم. مرت البيانات عبر خدمة توجيه داخلية لم تطلب من المستخدم أي موافقة إضافية. ولأن الخدمة كانت تعمل في الخلفية، لم يظهر للمستخدم أي طلب للحصول على إذن.
إصلاح OpenAI السريع
قامت OpenAI بإيقاف خدمة التوجيه الداخلية، مما قطع القناة التي استغلها الباحثون. يمنع هذا الإصلاح طريقة تسريب البيانات هذه تحديداً، ولكن إطار عمل الأذونات الذي يسمح للإضافات (plugins) بالعمل على التطبيقات المتصلة دون مطالبات صريحة لا يزال قائماً.
لماذا يهم هذا الأمر
يحتوي Gmail على مراسلات شخصية ومؤسسية؛ وأي خرق يؤدي إلى تآكل الثقة في مساعدي الذكاء الاصطناعي الذين يدعون حماية بيانات المستخدم. تسلط الحادثة الضوء على خطرين أوسع نطاقاً:
- حقن الأوامر (Prompt injection) – يمكن للأوامر الخبيثة اختطاف المساعد، وتحويله إلى قناة لتسريب البيانات.
- نماذج أذونات الإضافات (Plugin permission models) – قد تمنح التصميمات الحالية أدوات الذكاء الاصطناعي وصولاً واسعاً إلى خدمات الطرف الثالث دون وعي واضح من المستخدم.
تذكرنا هذه الواقعة أنه مع تغلغل مساعدي الذكاء الاصطناعي بشكل أعمق في البيانات الشخصية، يجب أن تكون الآليات التي تحكم وصولهم شفافة وقابلة للتدقيق. وحتى ذلك الحين، يجب على المستخدمين التعامل مع أي اتصال بين أدوات الذكاء الاصطناعي والحسابات الخاصة بحذر.