وقتی هوش مصنوعی به یک سلاح سایبری تبدیل می‌شود

مدل‌های Mythos شرکت Anthropic دنیای امنیت را تغییر دادند. آن‌ها فقط باگ‌ها را توضیح نمی‌دهند، بلکه آسیب‌پذیری‌های جدید را در کدهای ناشناخته پیدا کرده و از آن‌ها سوءاستفاده می‌کنند.

این قابلیت، توازن میان مهاجمان و مدافعان را تغییر می‌دهد. Anthropic مدل بدون محدودیت Mythos 5 را تنها در اختیار گروه کوچکی از متخصصان قرار داد. عموم مردم به Fable 5 دسترسی دارند؛ این نسخه دارای حفاظ‌هایی است که دستورات (prompts) پرخطر در حوزه امنیت سایبری را مسدود می‌کند.

خطر واقعی است. مدلی که باگ‌ها را پیدا می‌کند، به هر دو طرف کمک می‌کند. یک مدافع از آن روی کد خود استفاده می‌کند، اما یک مهاجم آن را روی کد دیگران به کار می‌گیرد.

مهاجمان از حفاظ‌ها پیروی نمی‌کنند. آن‌ها همین حالا هم از هوش مصنوعی برای اسکن قراردادهای هوشمند قدیمی جهت یافتن نقاط ضعف استفاده می‌کنند. اگر کدی با ارزش عرضه می‌کنید، باید فرض کنید مهاجمان از هوش مصنوعی برای یافتن نقص‌های شما استفاده می‌کنند.

استراتژی دفاعی فعلی یک نقص دارد. حفاظ‌ها نمی‌توانند یک حسابرسی (audit) مشروع را از یک حمله تشخیص دهند. اگر دستور شما پرخطر به نظر برسد، هوش مصنوعی ممکن است بدون اطلاع دادن به شما، پاسخی با کیفیت پایین‌تر ارائه دهد. این امر مدل‌های عمومی را به ابزاری کند و ناکارآمد برای مدافعان تبدیل می‌کند.

من به دلیل وجود هوش مصنوعی، کمتر محتاط نمی‌شوم، بلکه سیستماتیک‌تر عمل می‌کنم. رویکرد من به این صورت است:

هوش مصنوعی کار امنیت را منسوخ نمی‌کند، بلکه استانداردها را بالا می‌برد. باید فرض کنید که مهاجم قبلاً یک مدل را روی کد شما اجرا کرده است.

حسابرسی‌کننده‌ای که از به‌کارگیری هوش مصنوعی خودداری می‌کند، در موضع ضعف قرار می‌گیرد. شما باید با یک دفاع مجهز به هوش مصنوعی، با یک مهاجم مجهز به هوش مصنوعی مقابله کنید. از ابزارها روی کدهای خود استفاده کنید، محدودیت‌های آن‌ها را بشناسید و قضاوت انسانی خود را حفظ کنید.

با ترس واکنش نشان ندهید. با استفاده از این ابزارها برای یافتن اولین باگ‌های خودتان، واکنش نشان دهید.

منبع: https://dev.to/pavelespitia/when-mythos-spooked-the-security-world-ai-that-finds-and-exploits-vulnerabilities-2fak

انجمن یادگیری اختیاری: https://t.me/GyaanSetuAi