Vedere Labs продемонструвала, що Claude, модель штучного інтелекту, може переносити експлойт для віддаленого виконання коду з одного програмованого логічного контролера (ПЛК) WAGO на інший. Дослідники-люди все ще керували процесом, доводячи, що штучний інтелект стає практичним інструментом для промислових кібератак. Доказ концепції продемонстрував робочий експлойт проти вразливості переповнення буфера в FTP-сервері Nucleus.

Чому це важливо

Промислові системи управління забезпечують роботу заводів, електростанцій та водоочисних споруд. Вразливість, яка дозволяє зловмиснику виконувати код на ПЛК, може призвести до саботажу процесів, крадіжки даних або встановлення стійких бекдорів. Автоматизуючи адаптацію експлойтів, ШІ знижує рівень експертних знань, необхідних для перетворення таких недоліків на зброю, що розширює коло потенційних зловмисників.

Як це зробив ШІ

Команда Vedere поєднала Claude з Ghidra — набором інструментів для реверс-інжинірингу з відкритим вихідним кодом. Вони дали ШІ завдання проаналізувати шелкод оригінального експлойту — крихітну програму, яка запускається після переповнення буфера — і переписати його відповідно до обмежень прошивки іншої моделі ПЛК. Claude:

  • Модифікував шелкод, щоб обійти структуру пам'яті цілі.
  • Досяг виконання коду, який надсилав спеціально сформовані мережеві пакети, довівши, що експлойт працює від початку до кінця.
  • Спробував вбудувати імплант керування та контролю; цей запуск назавжди вивів ПЛК з ладу, що підкреслює ризик методу спроб і помилок у великих масштабах.

Дослідники все ще керували процесом, перевіряли результати та вирішували проблему з поломкою обладнання. Експеримент також виявив високу вартість викликів API, необхідних для аналізу та генерації коду.

Загальна тривога

Як Агентство з кібербезпеки та захисту інфраструктури (CISA), так і ФБР попередили, що скрипти, створені ШІ, роблять промислові системи управління дедалі привабливішою ціллю. Основне занепокоєння полягає в тому, що поріг входу для складних атак знижується; зловмисники без глибоких навичок реверс-інжинірингу тепер можуть покладатися на ШІ-помічників для створення функціональних експлойтів.

Обмеження та контраргументи

Цей експеримент не є готовою зброєю «під ключ». Для налаштування промптів, інтеграції Ghidra та інтерпретації результатів потрібна була кваліфікована команда. Випадкове знищення ПЛК показує, що процес залишається крихким і схильним до помилок. Висока вартість використання API великих мовних моделей може стримувати випадкове зловживання.

На що звернути увагу

  • Подальші рекомендації від державних агентств з кібербезпеки в міру того, як інструменти ШІ стають доступнішими.

Випадок Vedere Labs чітко показує, що ШІ більше не є лише теоретичною допомогою для зловмисників — він може активно переписувати шкідливий код для нового обладнання, змінюючи профіль загроз для критично важливих промислових систем.