𝗧𝗵𝗲 𝗔𝗴𝗲𝗻𝘁𝗶𝗰 𝗔𝗜 𝗚𝗼𝘃𝗲𝗿𝗻𝗮𝗻𝗰𝗲 𝗙𝗿𝗮𝗺𝗲𝘄𝗼𝗿𝗸
স্ট্যাটিক PDF পলিসি দিয়ে ডায়নামিক এআই এজেন্টদের নিয়ন্ত্রণ করা সম্ভব নয়। যদি প্রতিটি এজেন্টের কাজের জন্য আপনার ম্যানুয়াল অনুমোদনের প্রয়োজন হয়, তবে আপনি গতি হারাবেন।
স্কেল করার জন্য, আপনাকে Human-in-the-Loop (HITL) থেকে Human-on-the-Loop (HOTL)-এ যেতে হবে। HITL-এ, মানুষ বাধার (bottlenecks) সৃষ্টি করে। HOTL-এ, মানুষ আর্কিটেক্ট হিসেবে কাজ করে যারা গার্ডরেল (guardrails) তৈরি করে এবং সিস্টেম পর্যবেক্ষণ করে।
স্বায়ত্তশাসনের পরিসর (The Autonomy Spectrum)
একটি প্রকিউরমেন্ট এজেন্টকে (procurement agent) ডিভঅপস (DevOps) এজেন্টের মতো একই চোখে দেখা উচিত নয়। তাদের সিদ্ধান্ত নেওয়ার ক্ষমতা অনুযায়ী এজেন্টদের শ্রেণীবদ্ধ করুন:
• অ্যাডভাইজরি (স্বল্প স্বায়ত্তশাসন): এজেন্ট কাজের পরামর্শ দেয়। মানুষ সেগুলো কার্যকর করে। • সেমি-অটোনোমাস (মাঝারি স্বায়ত্তশাসন): এজেন্ট একটি নিরাপদ সীমার মধ্যে কাজ করে। এটি কেবল তখনই সাহায্যের জন্য অনুরোধ করে যখন এটি কোনো সীমার সম্মুখীন হয়। • ফুললি অটোনোমাস (উচ্চ স্বায়ত্তশাসন): এজেন্ট একটি স্যান্ডবক্সের (sandbox) মধ্যে শুরু থেকে শেষ পর্যন্ত লক্ষ্যগুলো পরিচালনা করে।
উদাহরণ: একটি সাপোর্ট এজেন্ট ৫০ ডলার পর্যন্ত রিফান্ড দিতে পারে। যদি কোনো অনুরোধ ৫১ ডলারের হয়, তবে এজেন্টকে অবশ্যই থেমে একজন মানুষের সাহায্য নিতে হবে। এটি অথরিটি ড্রিফট (authority drift) প্রতিরোধ করে।
নিরাপত্তার জন্য প্রম্পটের ওপর নির্ভর করা বন্ধ করুন
সিস্টেম প্রম্পট হলো পরামর্শ, নিয়ম নয়। এগুলো সম্ভাব্য (probabilistic)। প্রোডাকশনে, একটি পরামর্শ একটি দুর্বলতা (vulnerability) হিসেবে কাজ করতে পারে। আপনাকে রিজনিং (reasoning) এবং এনফোর্সমেন্ট (enforcement)-কে আলাদা করতে হবে।
একটি লেয়ারড ডিফেন্স (layered defense) ব্যবহার করুন:
- প্রম্পট লেয়ার: উদ্দেশ্য এবং নির্দেশিকা প্রদান করে।
- গার্ডরেল লেয়ার: একটি ডিটারমিনিস্টিক (deterministic) মিডলওয়্যার যা কঠোর নিয়মের ভিত্তিতে কাজগুলো যাচাই করে।
- API লেয়ার: রিসোর্স লেভেলে আইডেন্টিটি এবং অ্যাক্সেস ম্যানেজমেন্ট নিশ্চিত করে।
এই সেটআপটি প্রম্পট ইনজেকশন (prompt injection) প্রতিরোধ করে। যদি গার্ডরেল মিডলওয়্যার লেভেলে থাকে, তবে প্রম্পটে কোনো কারসাজি কাজ করবে না।
অবজারভেবিলিটি (Observability) এবং কিল সুইচ (Kill Switch)
সাধারণ লগ যথেষ্ট নয়। আপনার চেইন-অফ-থট (Chain-of-Thought বা CoT) লগ করা প্রয়োজন। একটি এজেন্ট কেন একটি কাজ সঠিক বলে মনে করেছে, তা আপনাকে অবশ্যই জানতে হবে।
মাল্টি-এজেন্ট ওয়ার্কফ্লোতে ক্যাসকেডিং ফেইলিউর (cascading failures) প্রতিরোধ করতে একটি কিল সুইচ প্রোটোকল (Kill Switch Protocol) বাস্তবায়ন করুন। এতে অবশ্যই থাকতে হবে:
- সমস্ত সক্রিয় টোকেন বাতিল করা।
- সমস্ত এক্সিকিউশন থ্রেড বন্ধ করা।
- অডিটের জন্য স্টেট (state) ফ্রিজ করা।
- শেষ পাঁচটি রিজনিং স্টেপসহ একজন ইঞ্জিনিয়ারকে জানানো।
ডায়নামিক পারমিশনিং (Dynamic Permissioning)
এজেন্টদের কোনো স্থায়ী প্রিভিলেজ (standing privileges) থাকা উচিত নয়। জাস্ট-ইন-টাইম (Just-in-Time বা JIT) অ্যাক্সেস ব্যবহার করুন। একটি এজেন্ট কেবল তখনই একটি স্বল্পমেয়াদী টোকেন অনুরোধ করবে যখন তার একটি নির্দিষ্ট API কল করার প্রয়োজন হবে। এটি নিশ্চিত করে যে এজেন্টের পরিচয় মানুষের অনুমোদিত উদ্দেশ্যের সাথে যুক্ত থাকে।
প্ল্যাটফর্ম ইঞ্জিনিয়ারদের জন্য মূল বিষয়সমূহ:
- গভর্নেন্স প্রম্পট থেকে মিডলওয়্যারে নিয়ে আসুন।
- নিরাপত্তা ত্রুটি প্রতিরোধ করতে JIT অ্যাক্সেস বাস্তবায়ন করুন।
- শুধুমাত্র ইনপুট এবং আউটপুট নয়, বরং রিজনিং স্টেপস (reasoning steps) লগ করুন।
- রিকার্সিভ লুপ ফেইলিউর প্রতিরোধ করতে হার্ড টোকেন ক্যাপ ব্যবহার করুন।
উৎস: https://dev.to/omnithium/the-agentic-ai-governance-framework-balancing-autonomy-and-control-2occ
ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi