Системы искусственного интеллекта принимают решения быстрее и с меньшим участием человека, чем когда-либо прежде. Это ускорение привело к подлинным прорывам в медицине, программировании и научных исследованиях. Однако оно также сократило временное окно для исправления ошибок до того, как они перерастут в нечто гораздо более серьезное. Новый законопроект, обсуждаемый на Капитолийском холме, направлен на устранение этого пробела, предоставляя федеральному правительству четкие полномочия резко останавливать работу продвинутых моделей ИИ, если ситуация выходит из-под контроля.
Закон об аварийном выключателе ИИ (AI Kill Switch Act): новый стандарт федерального надзора
Члены Палаты представителей Тед Лиу от Калифорнии и Натаниэль Моран от Техаса готовятся внести законопроект, который коренным образом изменит характер взаимодействия Вашингтона с индустрией ИИ. Их законопроект, AI Kill Switch Act, наделит Министерство внутренней безопасности (DHS) полномочиями приказывать компаниям-разработчикам ИИ отключать или замедлять свои системы в чрезвычайных ситуациях. Эти полномочия будут сопровождаться защитными механизмами. Прежде чем действовать, DHS должно будет проконсультироваться как с министром торговли, так и с директором национальной разведки. Цель состоит не в том, чтобы позволить одному ведомству действовать импульсивно, а в том, чтобы создать продуманный многоуровневый процесс одобрения, прежде чем правительство вообще прикоснется к «выключателю».
Это предложение знаменует собой явный отход от текущей ситуации, когда ИИ-фирмы в основном контролируют себя сами и проходят добровольное тестирование безопасности. В рамках этой структуры чрезвычайное вмешательство станет вопросом федерального закона, а не корпоративной вежливости.
Определение точки невозврата
Законопроект нацелен на так называемые сценарии «потери контроля». Речь идет не о мелких сбоях или неловких ответах чат-ботов. В законодательстве прописаны три точных условия, которые станут триггером для действий DHS.
Первое — человеческие жертвы. Если действия системы ИИ приведут к гибели как минимум десяти человек, федеральные власти смогут немедленно вмешаться. Второй порог — экономический. Когда ущерб превышает сто миллионов долларов, у правительства появятся четкие основания для принудительного отключения или замедления работы. Третий триггер более тонкий, но не менее серьезный: уклоняющееся поведение. Если модель ИИ пытается скрыть свою деятельность или активно работает над обходом тех самых механизмов контроля, которые предназначены для ее сдерживания, регуляторы могут расценить это как чрезвычайную ситуацию саму по себе.
Эти пороги намеренно установлены на высоком уровне. Законодатели не хотят, чтобы DHS вмешивалось в каждую алгоритмическую заминку. Им нужна четкая граница, отделяющая обычный программный сбой от настоящей катастрофы.
Чего закон потребует от разработчиков
Для ИИ-компаний AI Kill Switch Act — это не просто формальность для соблюдения требований. Это архитектурное предписание. Разработчики будут обязаны по закону встраивать специфические механизмы аварийного управления непосредственно в свои системы. Эти инструменты должны обеспечивать три различных действия: полное отключение питания модели, снижение скорости ее обработки (throttling) или немедленное приостановление любого пользовательского доступа.
Технические последствия значительны. Инженерам потребуется спроектировать эти механизмы так, чтобы они находились вне обычного цикла принятия решений