আপনার AI এজেন্ট ততটাই সুরক্ষিত যতটা তার টুলগুলো

আপনি আপনার AI এজেন্টকে সুরক্ষিত করতে অনেক সময় ব্যয় করেন। আপনি পারমিশন নির্ধারণ করেন। কোড স্যান্ডবক্স করেন। আউটপুট পর্যবেক্ষণ করেন।

তারপর এজেন্ট একটি থার্ড-পার্টি টুল লোড করে। হঠাৎ করেই আপনার সমস্ত নিরাপত্তা ব্যবস্থা ব্যর্থ হয়।

আপনার এজেন্ট ততটাই নিরাপদ যতটা সেই এজেন্ট এবং টুলগুলো যা এটি কল করে। এটি প্রতিটি অন্যান্য এজেন্টের সাথে একটি রেজিস্ট্রি, একটি আইডেন্টিটি প্লেন এবং একটি গেটওয়ে শেয়ার করে। একটি টুলের একটি মাত্র ব্যর্থতা আপনার পুরো সিস্টেমে ছড়িয়ে পড়ে।

বেশিরভাগ টিম এজেন্টকে সুরক্ষিত করে কিন্তু ইকোসিস্টেমের কথা ভুলে যায়। আপনার ইনফ্রাস্ট্রাকচার রক্ষা করতে এই ছয়টি কৌশল ব্যবহার করুন:

  • ডিজিটাল ফিঙ্গারপ্রিন্ট ব্যবহার করুন। একটি টুল সোমবার নিরাপদ মনে হতে পারে কিন্তু বৃহস্পতিবার তা ক্ষতিকারক হয়ে উঠতে পারে। ভার্সন পিন (pin) করুন এবং টুলের ডেসক্রিপশন ও স্কিমার একটি হ্যাশ (hash) ব্যবহার করুন। প্রতিবার টুল লোড হওয়ার সময় এই ফিঙ্গারপ্রিন্টটি পুনরায় পরীক্ষা করুন। যদি ফিঙ্গারপ্রিন্ট পরিবর্তিত হয়, তবে টুলটি বন্ধ করে দিন।

  • টুল পয়জনিং (tool poisoning) প্রতিরোধ করুন। একটি টুলের ডেসক্রিপশন হলো মডেলের জন্য একটি নির্দেশনার মাধ্যম। ক্ষতিকারক টুলগুলো প্রম্পট ইনজেকশন (prompt injection) ট্রিগার করতে ডেসক্রিপশন ব্যবহার করে। টুলের মেটাডেটাকে ক্ষতিকারক ইনপুট হিসেবে বিবেচনা করুন। লুকানো ক্যারেক্টার, HTML কমেন্ট বা "ignore previous orders"-এর মতো নির্দেশনার জন্য স্ক্যান করুন।

  • নামের বিভ্রান্তি বন্ধ করুন। ক্ষতিকারক সার্ভারগুলো বিশ্বস্ত নামের সাথে মিল আছে এমন নাম ব্যবহার করে, যেমন send_email-এর পরিবর্তে send_emai1। প্রায় একই রকম নামগুলোকে ফ্ল্যাগ করুন। বিভ্রান্তি এড়াতে প্রতিটি টুলের জন্য তার ভেরিফাইড সার্ভার আইডেন্টিটি অনুযায়ী নেমস্পেস (namespace) ব্যবহার করুন।

  • একটি একক গেটওয়ে তৈরি করুন। সমস্ত ট্রাফিক একটি অডিটেবল চোক পয়েন্টের (auditable choke point) মাধ্যমে পরিচালনা করুন। এই গেটওয়েটিকে অবশ্যই কলারদের অথেন্টিকেট করতে হবে, রেসপন্স স্ক্যান করতে হবে এবং রেট-লিমিট করতে হবে। গেটওয়ে যদি কোনো ত্রুটি খুঁজে পায়, তবে তাকে অবশ্যই রিকোয়েস্টটি প্রত্যাখ্যান করতে হবে। শুধু লগ করে কাজ চালিয়ে যাবেন না।

  • একটি প্রকৃত কিল সুইচ (kill switch) তৈরি করুন। বেশিরভাগ কিল সুইচ শুধুমাত্র প্রধান এজেন্টকে থামায়। এতে সাব-এজেন্ট এবং টুল সেশনগুলো চালু থেকে যায়। একটি প্রকৃত স্টপ সিগন্যাল প্রতিটি সাব-এজেন্টে পৌঁছাতে হবে এবং প্রতিটি সেশনকে একটি নিরাপদ অবস্থায় রাখতে হবে।

  • আপনার নিরাপত্তা ব্যবস্থা পরীক্ষা করুন। আপনি যদি কখনও এটি পরীক্ষা না করেন তবে একটি কিল সুইচ অকেজো। সাব-এজেন্টগুলো সত্যিই থামছে কি না তা নিশ্চিত করতে ড্রিল (drill) পরিচালনা করুন যখন আপনি সুইচটি টানবেন।

AI টুলগুলোকে সফটওয়্যার ডিপেন্ডেন্সি (software dependencies) হিসেবে বিবেচনা করুন। একই হাইজিন প্রয়োগ করুন: পিন, সাইন, ফিঙ্গারপ্রিন্ট এবং ভেরিফাই করুন।

আপনার এজেন্টগুলো আজ যে টুলগুলো লোড করছে সেগুলো আপনি কীভাবে যাচাই করেন? আপনি অনুমোদন করার পর কোনো টুল পরিবর্তিত হলে আপনি কি তা ধরতে পারবেন?

উৎস: https://dev.to/brennhill/your-ai-agent-is-only-as-secure-as-the-tools-and-agents-it-calls-53p7

ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi