امنیت عامل هوش مصنوعی شما تنها به اندازه ابزارهای آن است
شما زمان زیادی را صرف مقاومسازی عامل هوش مصنوعی خود میکنید. محدودههای دسترسی را تعیین میکنید. کدها را در محیط ایزوله (sandbox) اجرا میکنید. خروجیها را زیر نظر میگیرید.
سپس عامل یک ابزار شخص ثالث را بارگذاری میکند. ناگهان، تمام تلاشهای امنیتی شما بیاثر میشود.
امنیت عامل شما تنها به اندازه امنیت عاملها و ابزارهایی است که فراخوانی میکند. این عامل یک رجیستری، لایه هویت (identity plane) و یک درگاه (gateway) را با تمام عاملهای دیگر به اشتراک میگذارد. یک نقص واحد در یک ابزار، در کل سیستم شما پخش میشود.
اکثر تیمها عامل را ایمن میکنند اما اکوسیستم را فراموش میکنند. از این شش استراتژی برای محافظت از زیرساخت خود استفاده کنید:
- از اثر انگشت دیجیتال استفاده کنید. یک ابزار ممکن است روز دوشنبه ایمن به نظر برسد اما روز پنجشنبه خصمانه عمل کند. نسخهها را ثابت (pin) نگه دارید و از هشِ (hash) توضیحات و طرحواره (schema) ابزار استفاده کنید. هر بار که ابزار بارگذاری میشود، این اثر انگشت را مجدداً بررسی کنید. اگر اثر انگشت تغییر کرد، اجرای