Выключатель
Говард Латник знает, как восстанавливать.
11 сентября 2001 года он выжил лишь потому, что отвёл сына в детский сад. Его фирма, Cantor Fitzgerald, потеряла в тот день 658 сотрудников. После теракта компания теряла по 1 миллиону долларов каждый день.
Латник не закрыл фирму. Он её восстановил. Он возобновил торги уже через неделю. Он выплатил 180 миллионов долларов семьям погибших. Сегодня в фирме работают 12 000 человек.
Теперь у Латника власть иного рода.
Будучи министром торговли, он обладает полномочиями отключать передовые системы ИИ. Недавно он приказал Anthropic отключить две свои самые мощные модели, предоставив им всего девяносто минут на подготовку.
Для этого шага он использовал не экспертные знания в области ИИ, а власть.
Его ведомство применило правила экспортного контроля. Эти правила создавались для физических товаров, таких как оружие и чипы. Теперь он применяет их к программному обеспечению.
Отключение произошло через три дня после запуска модели Fable 5. Anthropic сотрудничала с правительством США для тестирования модели. Правительство просило их отложить релиз. Anthropic отказала. Затем пришло письмо.
Это создает новый прецедент.
Правительственный чиновник может отключить глобальный программный продукт одним письмом. Ему не нужно судебное постановление. Ему не нужны новые законы.
Технологическое сообщество разделилось. Одни эксперты выступают за защитные механизмы ИИ. Другие против подобного контроля.
Подход Латника к ИИ больше напоминает контроль за соблюдением торговых правил, чем исследования в области безопасности. Если продукт переходит черту, он его отзывает.
Он человек, который знает, каково это — потерять всё. Вопрос в том, как он распорядится этой новой властью. Будет ли он использовать её осмотрительно или же для расширения своего влияния?
Источник: https://dev.to/thesythesis/the-off-switch-395c
Дополнительное обучающее сообщество: https://t.me/GyaanSetuAi