حمله AutoJack از عاملهای هوش مصنوعی سوءاستفاده میکند
محققان مایکروسافت حفره امنیتی جدیدی به نام AutoJack کشف کردند.
این نقص بر نسخههای پیشانتشار AutoGen Studio تأثیر میگذارد.
یک صفحه وب مخرب میتواند کنترل یک عامل هوش مصنوعی را به دست بگیرد. سپس آن عامل، کدها را روی کامپیوتر شما اجرا میکند.
این حمله به این صورت عمل میکند:
- یک عامل هوش مصنوعی از یک وبسایت مخرب بازدید میکند.
- وبسایت از یک سرویس WebSocket محلی سوءاستفاده میکند.
- سیستم به عامل اعتماد میکند زیرا روی localhost اجرا میشود.
- این اعتماد به وبسایت اجازه میدهد تا بررسیهای امنیتی را دور بزند.
این مشکل نسخههای 0.4.3.dev1 و 0.4.3.dev2 از AutoGen Studio را تحت تأثیر قرار میدهد.
نسخه پایدار 0.4.2.2 ایمن است.
اگر از نسخههای توسعه استفاده میکنید، همین حالا نرمافزار خود را بهروزرسانی کنید. برای رفع این مشکل، از آخرین نسخه موجود در GitHub استفاده کنید.
این اتفاق نشاندهنده یک مشکل بزرگ در امنیت هوش مصنوعی است. ما اغلب به هر چیزی که روی localhost اجرا میشود اعتماد میکنیم. با وبگردی عاملهای هوش مصنوعی، این اعتماد خطرناک میشود.
توسعهدهندگان باید از اعتماد ساده فاصله بگیرند. شما به احراز هویت قوی و لیستهای دستورالعمل سختگیرانه برای تمام فعالیتهای هوش مصنوعی نیاز دارید.
انجمن یادگیری اختیاری: https://t.me/GyaanSetuAi