Як терористичні угруповання використовують LLM для створення зброї та планування операцій

Стрімка демократизація великих мовних моделей (LLM) принесла людству величезну користь, але нове тривожне дослідження виявляє темний бік цього технологічного стрибка. Терористичні організації зараз активно перетворюють популярні інструменти ШІ на зброю, щоб розширити свої оперативні можливості — від тактичної підготовки до розробки вибухових речовин.

Від джейлбрейку до спеціалізованих підрозділів ШІ

Нове дослідження Антонії Юліх з Кембриджської програми з питань науки та політики у сфері ШІ (CASP) виявило складний рівень впровадження ШІ в екстремістських угрупованнях. На основі 57 інтерв'ю з 27 колишніми членами організацій дослідження показує, що ІДІЛ пропонує навчання з промпт-інжинірингу та джейлбрейку ще з 2023 року. Це не просто випадкове використання; представники ІДІЛ активно навчали командирів тому, як обходити фільтри безпеки провідних галузевих моделей.

Найбільше тривожить те, що «Боко Харам» перейшла від спорадичного використання до інституціоналізованої інтеграції. Повідомляється, що обидві основні фракції угруповання створили спеціалізовані підрозділи ШІ. За словами Юліх, ці групи надають високого пріоритету навчанню з ШІ, збираючи своїх «найкращих фахівців» на спеціальних сесіях з використанням проєкторів, щоб продемонструвати, як маніпулювати цими потужними інструментами.

Використання популярних чат-ботів для отримання тактичної переваги

Дослідження підкреслює, що жоден великий гравець у сфері ШІ не застрахований від такого зловживання. Терористичні фракції використовують широкий спектр популярних чат-ботів, зокрема ChatGPT, Claude, Gemini, Grok, Meta AI та DeepSeek. Ці інструменти застосовуються для кількох критично важливих — і небезпечних — функцій:

  • Планування атак: Оптимізація логістики та розрахунок часу повстанських операцій.
  • Розробка зброї: Використання LLM для отримання знань про створення потужніших вибухових пристроїв.
  • Операційна безпека: Використання ШІ для маскування діяльності та підвищення безпеки зв'язку.
  • Тактична підготовка: В одному екстремальному випадку фракція ISWAP використовувала ШІ для аналізу та відтворення кінематографічних технік стрибків на мотоциклах, щоб долати бойові траншеї.

Провал добровільного саморегулювання

Ці висновки слугують похмурим підтвердженням тривалих попереджень від лабораторій ШІ, таких як OpenAI та Anthropic. Хоча розробники впровадили суворі механізми безпеки, дослідження свідчить про те, що добровільне саморегулювання не встигає за зловмисниками.

Сама природа LLM робить повну безпеку майже неможливою; Anthropic нещодавно визнала, що джейлбрейки, можливо, ніколи не вдасться повністю усунути. У той час як популярні чат-боти, такі як ChatGPT, переважно роблять наявні знання доступнішими, справжня екзистенційна загроза полягає в потенційному зловживанні спеціалізованими системами ШІ. Дослідники попереджають: хоча нинішнє використання залишається «традиційним», наступним етапом стане пошук терористами допомоги ШІ для розробки хімічної та біологічної зброї.

Чому це важливо для екосистеми ШІ

Цей розвиток подій знаменує зміну в дискусії про безпеку ШІ. Йдеться вже не лише про запобігання «галюцинаціям» або упередженим відповідям; йдеться про фундаментальну складність стримування демократизації смертоносних знань. Оскільки моделі ШІ стають дедалі ефективнішими у спеціалізованих галузях, таких як науки про життя, розрив між «доступною інформацією» та «можливістю перетворення її на зброю» продовжує скорочуватися, що потребує набагато надійніших і проактивніших архітектур безпеки.

Основні висновки

  • Інституціоналізоване зловживання: Такі угруповання, як «Боко Харам», перейшли від випадкового використання до створення спеціалізованих «підрозділів ШІ» для тактичного та логістичного планування.
  • Універсальна вразливість: Основні моделі, включаючи ChatGPT, Claude, Gemini та DeepSeek, обходяться за допомогою складного промпт-інжинірингу та навчання методам джейлбрейку.
  • Загроза спеціалізації: Хоча нинішнє зловживання зосереджене на плануванні та вибухівці, головним довгостроковим ризиком є використання спеціалізованого ШІ в галузі наук про життя для ведення хімічної та біологічної війни.