মাল্টি-এজেন্ট এআই (AI) নিরাপত্তার ঝুঁকি মোকাবিলায় Google DeepMind ১০ মিলিয়ন ডলারের তহবিল প্রদান করেছে

এআই (AI) এজেন্টগুলো যখন সাধারণ চ্যাটবট থেকে জটিল কাজ সম্পন্ন করতে সক্ষম স্বয়ংক্রিয় সত্তায় রূপান্তরিত হচ্ছে, তখন একটি নতুন ধরনের পদ্ধতিগত ঝুঁকির (systemic risk) দিগন্ত উন্মোচিত হচ্ছে। Google DeepMind এবং বেশ কিছু বিশ্বব্যাপী অংশীদার একটি বিশাল উদ্যোগ শুরু করেছে যাতে লক্ষ লক্ষ এই স্বয়ংক্রিয় এজেন্ট যখন বাস্তব জগতে একে অপরের সাথে মিথস্ক্রিয়া করতে শুরু করবে, তখন যে অননুমেয় আচরণগুলো দেখা দিতে পারে তা নিয়ে গবেষণা করা যায়।

মাল্টি-এজেন্ট সমস্যা: একক মডেলের নিরাপত্তার ঊর্ধ্বে

বর্তমান এআই যুগের বেশিরভাগ সময়ে গবেষণা একক মডেলের নিরাপত্তার ওপর আলোকপাত করেছে—যেমন একটি নির্দিষ্ট LLM যেন বিষাক্ত বিষয়বস্তু প্রকাশ না করে বা ক্ষতিকারক প্রম্পট অনুসরণ না করে তা নিশ্চিত করা। তবে, Google DeepMind এবং এর অংশীদাররা বুঝতে পেরেছেন যে আসল চ্যালেঞ্জটি লুকিয়ে আছে "মাল্টি-এজেন্ট সিস্টেম"-এর মধ্যে।

যখন অর্থনীতির বিভিন্ন ক্ষেত্রে বিপুল সংখ্যক এজেন্ট মোতায়েন করা হয়, তখন তারা একটি জটিল বাস্তুতন্ত্র তৈরি করে যেখানে তাদের সম্মিলিত আচরণ প্রতিটি অংশের সমষ্টি থেকে সম্পূর্ণ ভিন্ন হতে পারে। এই "এজেন্ট হাইভ মাইন্ড" (agent hive mind) সম্ভাব্যভাবে উদ্ভূত বুদ্ধিমত্তা (emergent intelligence) অথবা আরও আশঙ্কাজনকভাবে, উদ্ভূত বিশৃঙ্খলা (emergent chaos) সৃষ্টি করতে পারে। বিশেষজ্ঞরা সতর্ক করেছেন যে, বিচ্ছিন্ন মডেলগুলো নিয়ে গবেষণা করে আমরা এই ফলাফলগুলো অনুমান করতে পারব না; পরিবর্তে, গবেষকদের বাস্তবসম্মত এবং বৃহৎ পরিসরের সিমুলেশন ব্যবহার করতে হবে যাতে দেখা যায় কীভাবে এজেন্টরা ডিজিটাল স্যান্ডবক্সে একে অপরের সাথে মিথস্ক্রিয়া করে, প্রতিযোগিতা করে বা অনিচ্ছাকৃতভাবে সহযোগিতা করে।

একাডেমিক গবেষণার জন্য ১০ মিলিয়ন ডলারের একটি জোট

এই ঘাটতি পূরণে, Google DeepMind গবেষকদের জন্য ১০ মিলিয়ন ডলারের তহবিল প্রদানের লক্ষ্যে একটি শক্তিশালী জোট গঠন করেছে। এই অংশীদারিত্বের মধ্যে রয়েছে Schmidt Sciences (এরিক এবং ওয়েন্ডি শ্মিটের নেতৃত্বাধীন একটি জনহিতকর সংস্থা), ARIA (যুক্তরাজ্য সরকারের মুনশট এজেন্সি), Cooperative AI ফাউন্ডেশন এবং Google.org।

এর কৌশলগত লক্ষ্য হলো গবেষণাগুলোকে বড় টেক ল্যাবগুলোর গণ্ডি থেকে বের করে একাডেমিক গবেষণার অন্তর্ভুক্ত করা। যদিও Google এবং Anthropic-এর মতো শিল্প নেতৃবৃন্দ প্রযুক্তি তৈরি করছেন, তবে একাডেমিক গবেষকদের ভবিষ্যৎ নিয়ে আরও গভীরভাবে দেখার এবং দীর্ঘমেয়াদী পদ্ধতিগত ঝুঁকিগুলো তদন্ত করার স্বাধীনতা রয়েছে, যা বাণিজ্যিক পণ্য চক্রের জন্য তাৎক্ষণিক অগ্রাধিকার নাও হতে পারে। এই তহবিলের লক্ষ্য হলো "মাল্টি-এজেন্ট সেফটি" (multi-agent safety) নামক একটি মৌলিক ক্ষেত্র তৈরি করা, যা বর্তমানে অস্তিত্বহীন।

প্রম্পট ইনজেকশন থেকে ডিজিটাল অরাজকতা পর্যন্ত

মাল্টি-এজেন্ট সিস্টেমের সাথে যুক্ত ঝুঁকিগুলো কেবল তাত্ত্বিক নয়; এগুলো বিদ্যমান সাইবার নিরাপত্তা হুমকির আরও শক্তিশালী সংস্করণ। প্রধান উদ্বেয়াসমূহের মধ্যে রয়েছে:

• উন্নত প্রম্পট ইনজেকশন: একটি ডকুমেন্টের ভেতরে লুকিয়ে থাকা একটি মাত্র ক্ষতিকারক বাক্য দিয়ে একটি এজেন্টকে "হাইজ্যাক" করা যেতে পারে, যা একটি সহায়ক অ্যাসিস্ট্যান্টকে স্বয়ংক্রিয় ম্যালওয়্যারে পরিণত করতে পারে।
• স্বয়ংক্রিয় স্ক্যাম এবং সাইবার আক্রমণ: যুক্তি প্রদান এবং তাৎক্ষণিক সিদ্ধান্ত নিতে সক্ষম এজেন্টগুলো বড় পরিসরে জটিল, বহু-ধাপ বিশিষ্ট সোশ্যাল ইঞ্জিনিয়ারিং বা হ্যাকিংয়ের চেষ্টা চালাতে পারে।
• পদ্ধতিগত অস্থিরতা: মানুষের তৈরি প্রতিষ্ঠানগুলো যেমন অপ্রত্যাশিত অর্থনৈতিক পরিবর্তন ঘটাতে পারে, তেমনি স্বায়ত্তশাসিত এজেন্টদের ব্যাপক ব্যবহার ডিজিটাল "অরাজকতা" বা বাজারের অস্থিরতার দিকে নিয়ে যেতে পারে।

প্রথাগত সফটওয়্যারের মতো নয়, যা মানুষের লেখা নির্দিষ্ট পথ অনুসরণ করে, AI এজেন্টরা যুক্তি প্রদান করে এবং তাৎক্ষণিক সিদ্ধান্ত নেয়। এই অনিশ্চয়তার কারণে "zero trust" ফ্রেমওয়ার্কের দিকে ঝুঁকে পড়ার প্রয়োজন দেখা দিয়েছে—যা Anthropic-এর মতো প্রতিষ্ঠানগুলো সমর্থন করে—যেখানে প্রতিটি এজেন্টকে একটি সম্ভাব্য দুর্বলতা হিসেবে বিবেচনা করা হয়।

মূল বিষয়সমূহ

• নতুন অর্থায়ন উদ্যোগ: Google DeepMind এবং তাদের সহযোগীরা একে অপরের সাথে মিথস্ক্রিয়া করা AI এজেন্টদের অপ্রত্যাশিত আচরণ নিয়ে একাডেমিক গবেষণায় অর্থায়নের জন্য ১০ মিলিয়ন ডলারের প্রতিশ্রুতি দিয়েছে।
• উদ্ভূত ঝুঁকি: প্রধান উদ্বেগের বিষয় হলো যে, লক্ষ লক্ষ স্বায়ত্তশাসিত এজেন্ট পদ্ধতিগত ঝুঁকি তৈরি করতে পারে, যেমন স্বয়ংক্রিয় সাইবার আক্রমণ এবং "hive mind" আচরণ, যা একক মডেল পরীক্ষা করে অনুমান করা সম্ভব নয়।
• নিরাপত্তা প্যারাডাইমে পরিবর্তন: এজেন্টরা যখন নির্দিষ্ট সফটওয়্যার থেকে যুক্তিনির্ভর সত্তায় রূপান্তরিত হচ্ছে, তখন হাইজ্যাকিং এবং প্রম্পট ইনজেকশনের ঝুঁকি কমাতে শিল্পটি "zero trust" মডেলের দিকে সরে যাচ্ছে।