Керівник відділу етики OpenAI пішов зі своєї посади лише через рік. Про це повідомило видання Financial Times, що знову викликало сумніви щодо внутрішніх перевірок безпеки в лабораторії. Цей відхід є важливим, оскільки ця роль має слугувати внутрішнім «гальмом» компанії для стримування ризикованих розгортань, а раптова вакансія свідчить про те, що цього гальма може не бути.

Хвиля звільнень

Ця відставка не є поодиноким випадком. Протягом останніх двох років OpenAI спостерігала низку звільнень співробітників, що займалися питаннями безпеки. У 2024 році кілька членів команди Superalignment залишили компанію. Раніше, під час боротьби за управління у 2023 році, було усунуто членів ради директорів. Повторювана тема залишається незмінною: дослідники приєднуються, щоб забезпечити безпеку технологій, стикаються з опором і йдуть.

Яким мав бути функціонал цієї ролі

Керівник відділу етики контролює рішення щодо розгортання, методи роботи з даними та внутрішню перевірку потенційно шкідливих можливостей. Коли людина на цій посаді швидко залишає її, виникає питання: чи взагалі ця роль мала реальні повноваження.

Можливі причини плинності кадрів

  • Обмежені повноваження щодо зупинки релізів – якщо ця роль не може змусити продуктову команду призупинити запуск, посада стає символічною, а не функціональною.
  • Пріоритет швидкості над безпекою – конкуренція з іншими гігантами ШІ створює середовище, де швидке впровадження нових функцій цінується вище, часто за рахунок ретельної оцінки ризиків.
  • Комерційні пріоритети, що затьмарюють роботу з безпеки – керівництво може надавати перевагу проектам, що приносять дохід, залишаючи команди з безпеки з недостатньою кількістю персоналу та перевантаженими.
  • Вигорання через постійні конфлікти – неодноразові зіткнення між захисниками безпеки та інженерами продуктів можуть виснажити навіть найбільш відданих дослідників.

Ці фактори відображають ширшу напруженість у галузі: лабораторії винагороджують тих, хто випускає нові можливості, тоді як тих, хто сигналізує про небезпеку, іноді сприймають як перешкоди.

Контраргумент: внутрішні запобіжники можуть все ще існувати

OpenAI не розкривала публічно повноваження свого керівника з питань етики, а компанія не зробила жодних заяв щодо відставки. Цілком можливо, що інші внутрішні механізми — такі як крос-функціональні перевірки безпеки або зовнішні консультативні ради — продовжують функціонувати. Однак без конкретних доказів їхньої ефективності ця вакансія все одно залишає помітну прогалину.

Чому цей відхід важливий не лише для OpenAI

Якщо комерційна лабораторія ШІ не може утримати керівника відділу етики понад рік, модель залучення експертів із безпеки всередину комерційних підприємств здається крихкою. Anthropic, заснована на обіцянці створення безпечнішого ШІ, повідомляє про подібний тиск, і навіть більші фірми з величезними ресурсами документували конфлікти між відділами етики та продуктовими групами.

Що може змінити ситуацію

  • Незалежні аудитори з регуляторними повноваженнями – зовнішні органи, які можуть забезпечувати дотримання правил, а не покладатися на внутрішню добру волю.
  • Юридично обов'язкові оцінки безпеки – правила, що вимагають документального аналізу ризиків перед випуском будь-якої нової моделі.
  • Посилений захист викривачів – гарантії, які дозволяють працівникам висловлювати занепокоєння без страху перед помстою.
  • Публічне розкриття сигналів про небезпеку – прозорість, яка дозволяє зовнішнім експертам і громадськості бачити, які саме ризики були виявлені.
  • Фінансування досліджень безпеки окремо від комерційних інтересів – гранти або державне фінансування, що дозволяють роботі з безпеки бути захищеною від дедлайнів продуктів.

На що варто звернути увагу далі

Коли керівник відділу етики не може протриматися на посаді більше року, під питання ставиться сама структура. Доки динаміка впливу між амбіціями продукту та відповідальністю за безпеку не буде змінена, цикл втрати талантів, ймовірно, повторюватиметься. Наступні кілька місяців покажуть, чи зможе OpenAI — і вся спільнота ШІ — розірвати цей цикл.