Генеральный директор Google DeepMind Демис Хассабис предложил нормативно-правовую базу для регулирования выпуска передовых моделей ИИ. Он выступает за создание специализированного органа по стандартизации, который заменит нынешнюю разрозненную систему государственных проверок профессиональной и технически строгой системой надзора.

Модель FINRA для искусственного интеллекта

В своем предложении «A Framework for Frontier AI and the Dawning of a New Age» Хассабис основывает новую структуру на модели Управления по регулированию отрасли финансовых услуг (FINRA). Он видит это как независимую организацию, поддерживаемую правительством США, но финансируемую индустрией ИИ.

Механизм будет работать в два этапа. Сначала лаборатории, разрабатывающие передовые модели, будут добровольно передавать свои разработки Органу по стандартизации для 30-дневной проверки перед публичным релизом. После того как протоколы оценки докажут свою эффективность, система перейдет к обязательному требованию: передовые модели должны будут проходить стандартизированные тесты для выхода на рынок США. Такая структура позволяет выявлять критические уязвимости как до, так и после развертывания.

Устранение недостатков текущего надзора

Хассабис настаивает на создании специализированного органа, поскольку считает нынешние попытки регулирования недостаточными. В качестве предостережения он приводит недавние проверки правительством США моделей Mythos от Anthropic и Sol от OpenAI. Эти оценки вызвали волну критики из-за отсутствия глубокой технической экспертизы и непрозрачности процесса принятия решений относительно сроков выпуска.

Саморегулируемая организация позволит индустрии избежать политических трений, которые сейчас окружают надзор за ИИ. Советник Белого дома по вопросам ИИ Шрирам Кришнан недавно предупредил, что создание «FDA для ИИ» внутри исполнительной власти маловероятно. Модель в стиле FINRA предлагает компромисс: техническую независимость без бюрократических барьеров, характерных для прямого государственного ведомства.

Техническая экспертиза и масштабируемая безопасность

Хассабис подчеркивает, что специалисты по регулированию должны представлять индустрию и сообщество open-source. Благодаря штату сотрудников, понимающих архитектуру моделей и возникающие риски, орган сможет проводить оценку моделей на высоком экспертном уровне.

Предложенная структура также допускает децентрализованный подход к безопасности. Орган по стандартизации мог бы привлекать специализированные группы по безопасности ИИ для проведения детальной оценки рисков. Поскольку организация будет адаптироваться к стремительному ускорению развития отрасли, уровень надзора можно будет динамически «повышать» по мере появления новых, более серьезных рисков. Это позволит регулированию быть катализатором ответственных инноваций, а не препятствием для них.

Основные выводы

  • Гибридная модель регулирования: Хассабис предлагает создать независимый орган, финансируемый индустрией и поддерживаемый правительством, по образцу FINRA, для надзора за выпуском передовых моделей.
  • Поэтапное внедрение: План начинается с добровольных 30-дневных проверок перед релизом и переходит к обязательному соблюдению требований для рынка США.
  • Техническая строгость: Орган будет привлекать отраслевых экспертов и представителей open-source сообщества, чтобы устранить «дефицит экспертизы», наблюдаемый в текущих проверках под руководством государства.