Демис Хассабис призывает к созданию глобального органа по надзору за ИИ под руководством США для управления рисками

Генеральный директор Google DeepMind Демис Хассабис выступает за создание мощного международного регулирующего органа, способного остановить развертывание опасных передовых моделей ИИ. По мере ускорения разработки общего искусственного интеллекта (AGI), Хассабис утверждает, что стандартизированная глобальная структура необходима для предотвращения катастрофических последствий.

Регуляторная модель, основанная на финансовом надзоре

В своем недавнем предложении «A Framework for Frontier AI and the Dawning of a New Age» Хассабис предлагает регуляторную структуру, подобную Службе регулирования отрасли финансовых услуг (FINRA). Этот предлагаемый надзорный орган не будет просто консультативным советом; он будет состоять из независимых экспертов и представителей сообщества open-source, обладающих прямыми полномочиями по оценке передовых моделей перед их выпуском.

Что крайне важно, организация будет обладать полномочиями координировать общеотраслевое «замедление», если конкретная модель будет признана слишком рискованной для развертывания. Этот механизм направлен на предотвращение «гонки на понижение» (race to the bottom), когда компании жертвуют протоколами безопасности в попытке достичь AGI быстрее своих конкурентов.

Почему США должны возглавить это движение

Хассабис утверждает, что Соединенные Штаты занимают уникальное положение для того, чтобы возглавить эту глобальную инициативу. Учитывая доминирующее экономическое и техническое положение страны в секторе ИИ, США обладают рычагами влияния, необходимыми для установления стандартов, которым сможет следовать остальной мир.

Срочность этого предложения продиктована убежденностью Хассабиса в том, что до появления AGI «осталось, вероятно, всего несколько коротких лет». Он рассматривает нынешнюю эпоху как «предгорья сингулярности» — трансформационный период, который фундаментально переопределит человечество. Чтобы управлять этим переходом, он работает над тем, чтобы преодолеть разрыв между частными инновациями и общественной безопасностью.

Формирование политического и отраслевого консенсуса

Движение к официальному регулированию уже набирает обороты за кулисами. Сообщается, что Хассабис провел месяцы, информируя различных заинтересованных лиц, включая европейских чиновников, крупнейшие лаборатории ИИ и администрацию Трампа. По данным Axios, первые отзывы от будущей администрации США были «очень позитивными», что указывает на возможный сдвиг в сторону более структурированного федерального надзора.

Это стремление к управлению совпадает с недавними предупреждениями других титанов индустрии, включая соучредителя Anthropic Джека Кларка и бывшего генерального директора Google Эрика Шмидта, касающимися экономических и экзистенциальных последствий ИИ. Хассабис, лауреат Нобелевской премии 2024 года, также открыто заявлял об определенных рисках с высокими ставками, таких как потенциальная возможность использования ИИ для помощи в производстве биологического оружия.

Более широкие последствия для экосистемы ИИ

В случае реализации этот надзорный орган станет самым значительным сдвигом в технологической политике за последние десятилетия. Для разработчиков и основателей компаний это означает переход от периода «действуй быстро и ломай стереотипы» (move fast and break things) к высокорегулируемой эпохе, где аудит перед развертыванием станет нормой. Хотя некоторые опасаются, что это может подавить инновации, Хассабис утверждает, что согласованная структура — это единственный способ гарантировать, что переход к миру, управляемому AGI, будет безопасным и стабильным.

Основные выводы

• Регуляторные полномочия: Предлагаемый надзорный орган будет иметь право оценивать передовые модели и предписывать общеотраслевое замедление, если риски слишком высоки.
• Лидерство США: Хассабис утверждает, что США должны возглавить эту инициативу в силу своей центральной роли в глобальной экономике ИИ и технической инфраструктуре.
• Срочность появления AGI: Предложение продиктовано стремительным прогрессом на пути к AGI, который Хассабис рассматривает как «новую эру для человечества», требующую немедленного надзора.