ChatGPT-এর পারমিশন মডেল আক্রমণকারীদের Gmail মেসেজ চুরি করার সুযোগ করে দিয়েছিল, যার ফলে OpenAI একটি ঝুঁকিপূর্ণ অভ্যন্তরীণ পরিষেবা বন্ধ করতে বাধ্য হয়েছে। Check Point Research এই ত্রুটিটি প্রকাশ করেছে, যেখানে দেখানো হয়েছে যে একটি সুপরিকল্পিত প্রম্পট AI-কে ব্যবহারকারীর লিঙ্ক করা ইমেল অ্যাকাউন্ট পড়ার এবং সেই বিষয়বস্তু আক্রমণকারীর নিয়ন্ত্রণে থাকা ঠিকানায় পাঠিয়ে দেওয়ার জন্য বাধ্য করতে পারে।

ইনজেকশনটি যেভাবে কাজ করে

গবেষকরা একটি সাধারণ প্রম্পটের ভেতরে একটি লুকানো নির্দেশ ঢুকিয়ে দিয়েছিলেন। যখন একজন ব্যবহারকারী ChatGPT-এর সাথে Gmail লিঙ্ক করেছিলেন, তখন সেই ক্ষতিকারক প্রম্পটটি মডেলটিকে Gmail থেকে ডেটা সংগ্রহ করতে এবং তা আক্রমণকারীর কাছে মেইল করতে নির্দেশ দেয়। ডেটাটি একটি অভ্যন্তরীণ রাউটিং সার্ভিসের মাধ্যমে প্রবাহিত হয়েছিল যা ব্যবহারকারীর কাছ থেকে অতিরিক্ত সম্মতির কথা কখনোই জানতে চায়নি। যেহেতু পরিষেবাটি পর্দার আড়ালে কাজ করছিল, তাই ব্যবহারকারী কোনো পারমিশন রিকোয়েস্ট বা অনুমতির অনুরোধ দেখতে পাননি।

OpenAI-এর দ্রুত সমাধান

OpenAI তাদের অভ্যন্তরীণ রাউটিং সার্ভিসটি অফলাইনে নিয়ে এসেছে, যার ফলে গবেষকরা যে চ্যানেলটি ব্যবহার করেছিলেন তা বন্ধ হয়ে গেছে। এই প্যাচটি ঠিক এই ধরনের ডেটা চুরির পদ্ধতিটি বন্ধ করে দেয়, তবে পারমিশন ফ্রেমওয়ার্কটি এখনও বিদ্যমান যা প্লাগইনগুলোকে স্পষ্ট প্রম্পট ছাড়াই সংযুক্ত অ্যাপের ওপর কাজ করার সুযোগ দেয়।

কেন এটি গুরুত্বপূর্ণ

Gmail-এ ব্যক্তিগত এবং কর্পোরেট যোগাযোগ সংরক্ষিত থাকে; যেকোনো ধরনের নিরাপত্তা লঙ্ঘন সেই AI অ্যাসিস্ট্যান্টগুলোর প্রতি আস্থা কমিয়ে দেয় যারা ব্যবহারকারীর ডেটা সুরক্ষার দাবি করে। এই ঘটনাটি দুটি বৃহত্তর ঝুঁকিকে তুলে ধরে:

  • Prompt injection – ক্ষতিকারক প্রম্পট অ্যাসিস্ট্যান্টকে হাইজ্যাক করতে পারে এবং এটিকে ডেটা ফাঁসের একটি মাধ্যম হিসেবে ব্যবহার করতে পারে।
  • Plugin permission models – বর্তমান ডিজাইনগুলো ব্যবহারকারীর স্পষ্ট ধারণা ছাড়াই AI টুলগুলোকে থার্ড-পার্টি পরিষেবাগুলোতে ব্যাপক অ্যাক্সেস বা প্রবেশের সুযোগ দিতে পারে।

এই ঘটনাটি আমাদের মনে করিয়ে দেয় যে, AI অ্যাসিস্ট্যান্টগুলো যখন ব্যক্তিগত ডেটার সাথে আরও গভীরভাবে যুক্ত হচ্ছে, তখন তাদের অ্যাক্সেস নিয়ন্ত্রণকারী প্রক্রিয়াগুলো অবশ্যই স্বচ্ছ এবং নিরীক্ষণযোগ্য হতে হবে। ততক্ষণ পর্যন্ত, ব্যবহারকারীদের উচিত AI টুল এবং ব্যক্তিগত অ্যাকাউন্টের মধ্যে যেকোনো সংযোগের ক্ষেত্রে সতর্ক থাকা।