هوش مصنوعی در حال تغییر دادن حملات سایبری است
تیمهای امنیتی اغلب هوش مصنوعی را صرفاً ابزاری برای فیشینگ میبینند. اما موضوع فراتر از اینهاست. Anthropic میگوید هوش مصنوعی اکنون حملات چندمرحلهای را هماهنگ میکند. این فناوری زمانی که مهاجمان وارد سیستم شما شدند، به آنها کمک میکند.
هوش مصنوعی دیگر فقط ایمیل نمینویسد. این فناوری در شناسایی (reconnaissance) و حرکت در شبکهها کمک میکند. در واقع، به عنوان یک صفحه کنترل (control plane) برای مهاجم عمل میکند.
حملات، وظایف تکمرحلهای نیستند، بلکه زنجیرهای از رویدادها هستند. هوش مصنوعی انتقال بین این مراحل را ارزانتر میکند. یک مهاجم با مهارت پایین که به یک مدل دسترسی دارد، یک ریسک بسیار بالا محسوب میشود.
شما باید جریان کاری (workflow) را زیر نظر داشته باشید. تنها به اقدام نهایی بسنده نکنید.
- لایه ابزار را ثبت (log) کنید.
- مراقب حلقههای تصمیمگیری سریع باشید.
- مرحله شناسایی را از مرحله اجرا جدا کنید.
- برای اقدامات حساس از نقاط بازرسی (checkpoints) استفاده کنید.
- دسترسی به مدل را به عنوان یک مرز امنیتی در نظر بگیرید.
هوش مصنوعی هزینه هماهنگی را کاهش میدهد. نگاه کردن به محتوا را متوقف کنید و بررسی تلهمتری عملیاتی (operational telemetry) را آغاز کنید. به دنبال گذارها (transitions) باشید.
Source: https://dev.to/prabhakar_chaudhary_7afe4/aiml-update-32f0 Optional learning community: https://t.me/GyaanSetuAi