Генеральний директор Google DeepMind Деміс Хассабіс запропонував нормативно-правову базу для регулювання випуску передових моделей ШІ. Він хоче створити спеціалізований орган стандартизації, який замінить нинішню розрізнену систему державних перевірок професійною та технічно суворою системою нагляду.

Модель FINRA для штучного інтелекту

У своїй пропозиції «A Framework for Frontier AI and the Dawning of a New Age» Хассабіс моделює нову структуру за зразком Служби регулювання фінансової галузі (FINRA). Він бачить це як незалежну організацію, яку підтримує уряд США, але фінансує індустрія ШІ.

Механізм працюватиме у два етапи. По-перше, передові лабораторії добровільно передаватимуть свої моделі Органу стандартизації для 30-денного огляду перед публічним релізом. Після того, як протоколи оцінювання доведуть свою ефективність, система перейде до обов'язкової вимоги: передові моделі повинні будуть проходити стандартизовані тести для виходу на ринок США. Така структура дозволяє виявити критичні вразливості як до, так і після розгортання.

Усунення недоліків поточного нагляду

Хассабіс наполягає на створенні спеціалізованого органу, оскільки вважає нинішні спроби регулювання недостатніми. Він наводить нещодавні перевірки урядом США моделей Mythos від Anthropic та Sol від OpenAI як повчальні приклади. Ці оцінки викликали хвилю критики через брак глибокої технічної експертизи та непрозорість прийняття рішень щодо термінів випуску.

Саморегульована організація дозволила б індустрії уникнути політичних тертя, які зараз супроводжують нагляд за ШІ. Радник Білого дому з питань ШІ Шрірам Крішнан нещодавно попередив, що створення «FDA для ШІ» всередині виконавчої влади малоймовірне. Модель у стилі FINRA пропонує компроміс: технічну незалежність без бюрократичних перешкод, властивих прямим державним установам.

Технічна експертиза та масштабована безпека

Хассабіс наголошує, що кадри для регулювання мають походити безпосередньо з індустрії та спільноти open-source. Завдяки персоналу, який розуміє архітектуру моделей та нові ризики, орган зможе оцінювати моделі з реальною експертною підтримкою.

Структура також передбачає децентралізований підхід до безпеки. Орган стандартизації міг би залучати спеціалізовані групи з безпеки ШІ для детальної оцінки ризиків. Оскільки організація адаптуватиметься до швидкого прискорення галузі, нагляд можна буде динамічно «посилювати» у міру появи нових, серйозніших ризиків. Це дозволить регулюванню бути стимулом для відповідальних інновацій, а не перешкодою.

Основні висновки

  • Гібридна модель регулювання: Хассабіс пропонує незалежний орган, що фінансується індустрією та підтримується урядом, за зразком FINRA, для нагляду за випуском передових моделей.
  • Поетапне впровадження: План починається з добровільних 30-денних перевірок перед релізом і переходить до обов'язкового дотримання вимог для ринку США.
  • Технічна суворість: Орган залучатиме експертів галузі та представників open-source, щоб подолати «дефіцит експертних знань», який спостерігається під час нинішніх державних перевірок.