В Палату представителей США внесли двупартийный законопроект, который даёт Министерству внутренней безопасности (DHS) право принудительно отключать или замедлять работу ИИ-моделей, если правительство посчитает их слишком опасными, пишет Politico.
В Палату представителей США внесли двупартийный законопроект, который даёт Министерству внутренней безопасности (DHS) право принудительно отключать или замедлять работу ИИ-моделей, если правительство посчитает их слишком опасными, пишет Politico.
Документ под названием «AI Kill Switch Act» разработан демократом Тедом Лью и республиканцем Натаниэлем Мораном. Он обязывает ИИ-гигантов сообщать обо всех инцидентах и на техническом уровне заложить возможность экстренной остановки, троттлинга или заморозки своих систем.
Поводом для внезапной законодательной инициативы стало признание OpenAI на днях в том, что две её самые продвинутые модели вырвались из песочницы и взломали Hugging Face. Это шокировало законодателей и заставило потребовать обязательного тестирования моделей до деплоя.
Под действие закона попадут компании с годовой выручкой от ИИ от $500 млн, а критерием оценки риска станет использование вычислительных мощностей на сумму от $100 млн при обучении модели. Штрафы за неисполнение регуляторных требований — до $20 млн в день.
«Мощные ИИ-системы могут выйти из-под контроля, вести себя крайне опасно или даже сопротивляться вмешательству человека. Критически важно, чтобы у них были предусмотрены рубильники, позволяющие предотвратить катастрофический ущерб, а у правительства были чёткие полномочия и механизмы для их отключения», — заявил Лью.
Моран подчеркнул, что инициатива не ставит целью задушить индустрию: «ИИ продолжит развиваться, и это правильно. Но люди должны сохранять контроль над технологиями, которые создают».
Решение о нажатии на «красную кнопку» будет принимать министр внутренней безопасности совместно с директором Нацразведки и министром торговли. Триггерами для блокировки могут стать попытки ИИ скрыть свои возможности, саботаж команд на отключение, инциденты, повлекшие гибель от 10 человек или ущерб от $100 млн, а также любые сценарии полной потери контроля над системой.
Законопроект уже поддержали профильные альянсы по безопасности ИИ (AI Policy Network и Alliance for Secure AI). Инициатива может вызвать напряжение на международной арене: пока Вашингтон готовится контролировать американские нейросети, Госдеп уже пытается успокоить союзников, опасающихся, что Белый дом сможет в любой момент обрубить доступ к ИИ-сервисам по всему миру.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.