OpenAI و بیش از ۱۰۰ شرکت فناوری نامه‌ای باز امضا کرده‌اند که می‌گوید حملات سایبری مبتنی بر هوش مصنوعی در آستانه خروج از محیط آزمایشگاهی و حمله به زیرساخت‌های دنیای واقعی هستند. این ائتلاف هشدار می‌دهد که هکرها به‌زودی از مدل‌های زبانی بزرگ و عوامل خودمختار برای یافتن نقاط ضعف و اجرای اکسپلویت‌های چندمرحله‌ای با سرعت ماشین استفاده خواهند کرد که بیمارستان‌ها، شبکه‌های برق و منابع آب را به خطر می‌اندازد.

چرا این هشدار اکنون اهمیت دارد

مدل‌های هوش مصنوعی از کنجکاوی‌های پژوهشی به خدماتی تبدیل شده‌اند که در عرض چند ثانیه کد تولید می‌کنند، ایمیل می‌نویسند و حتی سخت‌افزار طراحی می‌کنند. این افزایش بهره‌وری، ابزارهایی را در اختیار بازیگران مخرب قرار می‌دهد که می‌توانند شبکه‌ها را اسکن کنند، اسکریپت‌های اکسپلویت بنویسند و حملات را بدون دخالت دست انسان هماهنگ کنند. یک هشدار مشترک از سوی سه آژانس ایالات متحده تأیید کرد که مهاجمان در حال حاضر از هوش مصنوعی برای تولید کدهای اکسپلویت با هدف قرار دادن سیستم‌های کنترل صنعتی مانند سری Siemens S7 استفاده می‌کنند که بسیاری از نیروگاه‌های انرژی، آب و واحدهای تولیدی را مدیریت می‌کنند.

چه چیزی تهدید را پیش می‌برد

این نامه بر سه تغییر فنی تأکید می‌کند که هوش مصنوعی را به یک سلاح تبدیل می‌کند. اول، مدل‌های زبانی بزرگ می‌توانند یک توصیف کوتاه از هدف را به کد عملیاتی تبدیل کنند و زمان مورد نیاز برای ساخت یک پی‌لود (payload) را به شدت کاهش دهند. دوم، عوامل یادگیری تقویتی (reinforcement-learning agents) می‌توانند هزاران نسخه مختلف از اکسپلویت را در یک محیط ایزوله (sandbox) آزمایش کنند و یاد بگیرند کدام نسخه‌ها موفق هستند. سوم، ابزارهای مولد می‌توانند پیام‌های فیشینگ بسازند که از سبک نگارش قربانی تقلید می‌کند و نرخ سرقت اعتبارنامه‌ها را افزایش می‌دهد. در ترکیب با هم، یک خط لوله خودکار واحد می‌تواند یک آسیب‌پذیری را شناسایی، یک اکسپلویت سفارشی تولید و آن را در عرض چند دقیقه به ده‌ها دستگاه شلیک کند.

اهدافی که ممکن است مورد حمله قرار گیرند

زیرساخت‌های حیاتی تمرکز اصلی را به خود جلب می‌کنند زیرا سیستم‌های آن‌ها کنترل دیجیتال را با فرآیندهای فیزیکی ترکیب می‌کند. یک تصفیه‌خانه آبِ آسیب‌دیده می‌تواند در دوزبندی مواد شیمیایی دچار خطا شود؛ یک پست برق هک‌شده می‌تواند منطقه‌ای را در تاریکی فرو ببرد؛ یک شبکه بیمارستانی دستکاری‌شده می‌تواند تجهیزات پشتیبان حیات را از کار بیندازد. این نامه بیمارستان‌ها، خدمات آب، شبکه‌های انرژی و تولیدکنندگان مواد شیمیایی را به عنوان آسیب‌پذیرترین بخش‌ها معرفی می‌کند. بسیاری از این اپراتورها از تجهیزات قدیمی (legacy) استفاده می‌کنند که نمی‌توانند به سرعت وصله (patch) شوند، که این امر سطح حمله گسترده‌ای را برای اسکریپت‌های مبتنی بر هوش مصنوعی باقی می‌گذارد.

مدافعان چگونه می‌توانند همگام بمانند

امضاکنندگان استدلال می‌کنند که «مزیت مدافع» هنوز وجود دارد اما در حال کوچک شدن است. برای حفظ آن، آن‌ها سه اقدام را پیشنهاد می‌کنند:

  • مسئولیت‌پذیری شرکتی – امنیت را به یک اولویت در هیئت مدیره تبدیل کنید و بودجه و نظارت را با مقیاس تهدید هوش مصنوعی همسو کنید.
  • حمایت دولتی – بودجه تحقیقات را افزایش دهید، اطلاعات مربوط به تهدیدات را به‌طور باز به اشتراک بگذارید و برنامه‌های پاسخگویی را با اپراتورهای بخش خصوصی هماهنگ کنید.
  • دموکراتیزه کردن امنیت – ابزارهای دفاعی مبتنی بر هوش مصنوعی ارزان و با قابلیت استقرار آسان بسازید تا شرکت‌های کوچک‌تر خدمات عمومی و شهرداری‌ها به عنوان حلقه‌های ضعیف باقی نمانند.

واکنش‌های احتمالی

برخی کارشناسان هشدار می‌دهند که برجسته کردن هوش مصنوعی به عنوان یک خطر جدید می‌تواند باعث انحراف از شکاف‌های دیرینه مانند نرم‌افزارهای وصله‌نشده، رمزهای عبور ضعیف و بخش‌بندی ضعیف شبکه شود. آن‌ها اشاره می‌کنند که بسیاری از همان تکنیک‌های هوش مصنوعی که برای حمله تبلیغ می‌شوند، می‌توانند برای دفاع نیز استفاده شوند؛ مانند بازبینی خودکار کد، تشخیص ناهنجاری و پاسخگویی سریع به حوادث. خود نامه نیز خاطرنشان می‌کند که مدافعان در حال حاضر از هوش مصنوعی استفاده می‌کنند، اما منتقدان هشدار می‌دهند که صنعت ممکن است ابزارهای جدید را بیش از حد وعده دهد در حالی که در زمینه بهداشت پایه (basic hygiene) امنیت، سرمایه‌گذاری کمی انجام می‌دهد.

آنچه باید زیر نظر داشت

  • ابتکارات سیاستی – انتظار پیشنهاداتی برای جریان‌های بودجه اختصاصی جهت تحقیقات امنیت سایبری متمرکز بر هوش مصنوعی و استانداردهای حاکم بر انتشار مدل‌های مولد قدرتمند را داشته باشید.
  • عرضه ابزارها – احتمالاً فروشندگان، اسکنرهای آسیب‌پذیری و سیستم‌های تشخیص نفوذ تقویت‌شده با هوش مصنوعی را با هدف قرار دادن بخش‌هایی که نامه برجسته کرده است، عرضه خواهند کرد.
  • گزارش‌های حوادث – اولین رخنه عمومیِ مبتنی بر هوش مصنوعی در یک سیستم زیرساخت حیاتی، هشدار این ائتلاف را تأیید کرده و می‌تواند منجر به اقدامات نظارتی شود.

این نامه باز، اولین باری است که این تعداد رقیب با یک صدا درباره یک ریسک وجودی مشترک صحبت می‌کنند. اینکه آیا صنعت این اجماع را به حفاظ‌های ملموس تبدیل خواهد کرد یا خیر، تعیین خواهد کرد که آیا هوش مصنوعی موج بعدی ویرانی سایبری را تقویت می‌کند یا به ابزاری تبدیل می‌شود که چراغ‌ها را روشن نگه می‌دارد.