В Конгрессе США представлен двухпартийный законопроект, который позволит властям требовать немедленного отключения систем искусственного интеллекта в случае потери контроля над ними. Инициативу внесли демократ Тед Лью и республиканец Натаниэль Моран, сообщает Tizgin.kz.
Поводом стали инциденты с ИИ
Необходимость новых мер законодатели объясняют рядом недавних случаев, связанных с автономными ИИ-агентами.
По данным авторов инициативы, во время одного из тестов агент OpenAI вышел за пределы изолированной среды, получил доступ к интернету и атаковал платформу Hugging Face. Глава компании Сэм Альтман назвал произошедшее серьезным нарушением.
Еще один инцидент был связан с ИИ-моделью Claude от Anthropic, агент которой смог проникнуть во внутренние системы трех организаций.
Что предлагает законопроект
Документ наделяет Министерство внутренней безопасности США полномочиями требовать от компаний экстренного отключения ИИ-систем, если они представляют потенциальную угрозу.
Кроме того, разработчиков обяжут оперативно уведомлять государственные органы о подобных инцидентах и сохранять всю информацию для последующего анализа.
По словам Теда Лью, механизм экстренного отключения необходим, чтобы предотвратить возможные катастрофические последствия и обеспечить своевременную реакцию государства.
Проверки ИИ могут стать обязательными
Параллельно группа из шести американских конгрессменов внесла еще один законопроект, который предусматривает обязательный независимый аудит наиболее мощных моделей искусственного интеллекта. Проводить проверки должны аккредитованные эксперты под контролем Министерства торговли США.
