এমন একটি এজেন্টের জন্য ডিফেন্স ইন ডেপথ যা ভুল করতে পারে
প্রতিটি সুরক্ষা ব্যবস্থারই একটি বাগ (bug) থাকে। আপনি শুধু এখনও জানেন না সেটি কোনটি।
প্রোডাকশনের জন্য একটি স্বায়ত্তশাসিত (autonomous) এজেন্ট তৈরির একমাত্র যুক্তিসঙ্গত উপায় হলো এটি। বিবেক (conscience) কোনো কাজকে ভুলভাবে শ্রেণীবদ্ধ করতে পারে। কাউন্সিল একটি খারাপ আইডিয়া অনুমোদন করতে পারে। আইসোলেশন ওয়ালে (isolation wall) ফাঁক থাকতে পারে।
প্রতিটি স্তরই শেষ পর্যন্ত ব্যর্থ হবে।
ডিজাইন সংক্রান্ত প্রশ্নটি একটি নিখুঁত স্তর কীভাবে তৈরি করা যায় তা নয়। প্রশ্নটি হলো: একটি স্তর ব্যর্থ হলে তার পেছনে কী দাঁড়িয়ে থাকে?
সিস্টেমটিকে সুরক্ষিত রাখতে আমি ছয়টি স্তর ব্যবহার করি। শুরুর দিকের স্তরগুলো সাশ্রয়ী কারণ সেগুলো সমস্যা বাস্তবে রূপ নেওয়ার আগেই থামিয়ে দেয়।
• L0 — স্ট্রাকচারাল আইসোলেশন (Structural isolation)। বেস লেভেলে ভুল-টেন্যান্টের (wrong-tenant) কাজ প্রতিরোধ করে। • L1 — আইডিয়া-গেট (Idea-gate)। কোড তৈরির আগে বিতর্কের সময় খারাপ আইডিয়াগুলোকে থামিয়ে দেয়। • L2 — অ্যাকশন-গেট (Action-gate)। ঝুঁকির ওপর ভিত্তি করে কমান্ড অনুমোদন বা প্রত্যাখ্যান করার একটি রিফ্লেক্স। • L3 — রিসোর্স-গেট (Resource-gate)। মেমরি, বাজেট এবং অনিয়ন্ত্রিত খরচ নিয়ন্ত্রণ করে। • L4 — অ
উৎস: https://dev.to/artemmatviychuk/defense-in-depth-for-an-agent-that-will-definitely-screw-up-5en0
ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi