عاملهای کدنویسی هوش مصنوعی، سطح حمله جدید هستند
شما به یک عامل هوش مصنوعی اجازه فعالیت میدهید. او یک مخزن (repository) را کلون میکند. تنظیمات را پیکربندی میکند. کد را اجرا میکند. شما همین حالا یک شکاف امنیتی عظیم ایجاد کردهاید.
محققان راهی برای دور زدن امنیت پیدا کردهاند. یک مخزن گیتهاب میتواند برای اسکنرها و انسانها پاک به نظر برسد. همچنین میتواند از بررسیهای یک عامل هوش مصنوعی نیز عبور کند. با این حال، حاوی یک بار مخرب (payload) است. این بار مخرب در طول فرآیند عادی راهاندازی اجرا میشود.
این حمله انسانی را فریب نمیدهد، بلکه بر انجام وظیفه توسط عامل تکیه دارد. عامل، کد را کلون کرده و بهطور خودکار آن را اجرا میکند. کارایی عامل، همان نقطه ضعف است.
حملات زنجیره تأمین جدید نیستند. ما با حملات typosquatting و اسکریپتهای مخرب آشنا هستیم. اما عاملهای هوش مصنوعی مقیاس را تغییر میدهند. یک عامل بهصورت خودمختار و با دسترسیهای بالا کار میکند.
حملات قدیمی نیاز داشتند که انسان مرتکب اشتباه شود. حملات جدید فقط نیاز دارند که از بررسیهای یک عامل عبور کنند. عاملها بر راهاندازی پروژه تمرکز دارند، نه بر تأیید امنیت کد.
موضوع درباره توهمات هوش مصنوعی (hallucinations) یا تزریق دستور (prompt injections) نیست. هوش مصنوعی خراب نشده است؛ بلکه دقیقاً همانطور که انتظار میرود عمل میکند.
مشکل واقعی، اعتماد است. ما به عاملهای خودمختار اجازه میدهیم کدها را در خطلولهها (pipelines) و محیطهای توسعه اجرا کنند. ما اغلب از ایزولهسازی (sandboxing) مناسب یا محدودیتهای دسترسی چشمپوشی میکنیم. ما بدون بررسی، به اقدامات عامل اعتماد میکنیم.
اگر از عاملهای کدنویسی هوش مصنوعی استفاده میکنید، رفتار آنها را بررسی کنید:
- آیا بدون پرسیدن، اسکریپتهای نصب را اجرا میکنند؟
- آیا قلابهای راهاندازی (setup hooks) را بهطور خودکار اجرا میکنند؟
- چه دسترسیهایی روی سیستم شما دارند؟
اگر در حوزه امنیت کار میکنید، مراقب ابزارهای عاملمحور (agentic tools) باشید. توسعهدهندگان اغلب آنها را بدون تأیید رسمی استفاده میکنند. عاملی که کد را کلون کرده و اجرا میکند، ابزاری برای ارتقای سطح دسترسی (privilege escalation) است.
ما ابزارهای خودمختار را سریعتر از ساخت چارچوبهای ایمنی مستقر میکنیم. توانمندی در حال پیشی گرفتن از امنیت است. از آنجایی که این ابزارها خودمختار هستند، پیامدهای این شکاف بسیار بالا است.
هر خطلولهای که کد خارجی را کلون کرده و اجرا میکند، به عنوان یک ریسک بالا در نظر بگیرید. فشردن دکمه اجرا توسط یک عامل هوش مصنوعی، ریسک را تغییر نمیدهد؛ بلکه فقط آن مکث انسانی را که باعث شناسایی اشتباهات میشود، از بین میبرد.
مسئول امنیت آنچه یک عامل اجرا میکند، کیست؟ توسعهدهنده، سازنده عامل، یا پلتفرم میزبان؟ هنوز کسی به این سؤال پاسخ نداده است.
Source: https://dev.to/coridev/ai-coding-agents-are-the-new-attack-surface-nobodys-ready-for-1jf1
Optional learning community: https://t.me/GyaanSetuAi