𝗪𝗵𝘆 𝗬𝗼𝘂𝗿 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁 𝗔𝗿𝗰𝗵𝗶𝘁𝗲𝗰𝘁𝘂𝗿𝗲 𝗜𝘀 𝗔 𝗦𝗲𝗰𝘂𝗿𝗶𝘁𝘆 𝗟𝗶𝗮𝗯𝗶𝗹𝗶𝘁𝘆
২০২৭ সালের মধ্যে, এন্টারপ্রাইজ AI deployments-এর ৪০% প্রম্পট ইনজেকশন (prompt injection) বা এজেন্ট হাইজ্যাক (agent hijack) ঘটনার সম্মুখীন হবে। এটি ২০২৫ সালের শুরুর দিকের ৫%-এর কম থেকে একটি বিশাল লাফ।
অরকেস্ট্রেশন লেয়ার (orchestration layer) এজেন্টদের দরকারী করে তোলে। এটি তাদের লক্ষ্যবস্তুও (targets) করে তোলে।
সিঙ্গাপুরের একটি লজিস্টিকস সংস্থা সম্প্রতি ২.৩ মিলিয়ন ডলার হারিয়েছে। একটি আপসকৃত (compromised) ক্যালেন্ডার ইনভাইট একটি শিডিউলিং এজেন্টকে প্রতারিত করেছিল। এজেন্টটি আক্রমণকারীর কাছে CRM রেকর্ড পাঠিয়ে দেয়। মডেলটিতে কোনো ক্ষতিকারক কোড ছিল না। এটি নিখুঁতভাবে নির্দেশাবলী অনুসরণ করেছিল। সমস্যাটি ছিল আর্কিটেকচারে।
এজেন্টরা কেবল চ্যাটবট নয়। তারা এমন সিস্টেম যা টুল ব্যবহার করে, ফাইল পড়ে এবং ট্রানজ্যাকশন সম্পন্ন করে। প্রথাগত নিরাপত্তা ধরে নেয় যে একটি রিকোয়েস্ট আসে এবং একটি রেসপন্স যায়। এজেন্টরা এই মডেলটি ভেঙে ফেলে।
একটি এজেন্ট যা ইমেল ড্রাফট করে এবং রিফান্ড সাবমিট করে, তা একটি রানটাইমে (runtime) তিনটি অ্যাপের মতো কাজ করে। প্রতিটি টুল কল (tool call) একটি ঝুঁকি। প্রতিটি মেমরি রাইট (memory write) একটি ঝুঁকি। প্রতিটি ইমেল বা ডকুমেন্ট হলো এক্সিকিউটেবল কোড (executable code)।
নিরাপদ টিমগুলো একটি তিন-স্তরীয় প্যাটার্ন ব্যবহার করে:
- Identity: প্রতিটি টুল কলের জন্য ব্যবহারকারীর থেকে আলাদা একটি পরিচয় (identity) প্রয়োজন।
- Provenance: প্রতিটি মেমরি রাইটের উৎস দেখানোর জন্য মেটাডেটা প্রয়োজন।
- Verification: প্রতিটি প্ল্যান স্টেপের জন্য ডাউনস্ট্রিম এক্সিকিউশনের জন্য একটি সাইনড অবজেক্ট (signed object) প্রয়োজন।
এজেন্টদের কখনোই সরাসরি প্রোডাকশন API কল করা উচিত নয়। পরিবর্তে একটি মিডিয়েটেড টুল লেয়ার (mediated tool layer) ব্যবহার করুন। এই লেয়ারটি আর্গুমেন্টগুলো যাচাই করে, পারমিশন স্কোপ করে এবং অডিট লগ (audit logs) তৈরি করে। এই লেয়ারটিকে আপনার নতুন ফায়ারওয়াল (firewall) হিসেবে ভাবুন।
মেমরি আরেকটি বিশাল ঝুঁকি। আক্রমণকারীরা এজেন্টের মেমরি পরিবর্তন করতে বিষাক্ত (poisoned) ডকুমেন্ট বা ইমেল ব্যবহার করে। এটি সময়ের সাথে সাথে এজেন্টের আচরণ পরিবর্তন করে দেয়। মেমরি পয়জনিং অ্যাটাক (memory poisoning attacks) প্রতি বছর ৩০০% হারে বাড়ছে।
বেশিরভাগ টিম বিদ্যমান পাইপলাইনে AI থ্রেট মডেলিং (AI threat modeling) যোগ করে। তারা এজেন্ট রানটাইমের নিজস্ব নিরাপত্তায় নজর দেয় না। মাত্র ১৯% প্রতিষ্ঠানের টুল-কল অ্যানোমালি (tool-call anomalies) মনিটর করার ব্যবস্থা রয়েছে।
এজেন্টদের সফটওয়্যার হিসেবে দেখা বন্ধ করুন। তাদের সিস্টেম অ্যাক্সেস থাকা জুনিয়র কর্মচারীর মতো বিবেচনা করুন। আপনি প্রথম দিনেই একজন নতুন কর্মচারীকে রুট অ্যাক্সেস (root access) দেবেন না। আপনার এজেন্টদের ক্ষেত্রেও এমনটা করবেন না।
বিজয়ীদের কাছে সবচেয়ে চাকচিক্যময় ডেমো থাকবে না। তাদের কাছে এমন এজেন্ট থাকবে যা ব্যাংকিং বা হেলথকেয়ারের নিরাপত্তা পর্যালোচনা (security reviews) পাস করতে পারে। এখনই এই তিনটি লেয়ার তৈরি করুন। কোনো নিরাপত্তা লঙ্ঘনের (breach) পর এগুলো যুক্ত করার চেষ্টা করবেন না।
সম্প্রতি আপনার নেওয়া এমন একটি আর্কিটেকচারাল সিদ্ধান্ত কী, যা আপনি পরিবর্তন করতেন যদি প্রথম দিন থেকেই এজেন্টের নিরাপত্তার ওপর গুরুত্ব দিতেন?
ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi