Законодатели США готовят законопроект об «аварийном отключении» ИИ
Представители Конгресса США Тед Лью (демократ) и Натаниэль Моран (республиканец) планируют внести законопроект, который обяжет компании в сфере искусственного интеллекта установить механизм аварийного отключения, активируемый Министерством внутренней безопасности в чрезвычайных ситуациях.
Законодатели готовятся внести так называемый «Закон об аварийном отключении ИИ» (AI Kill Switch Act), который потребует от компаний, занимающихся искусственным интеллектом, отключать или ограничивать свои системы по распоряжению Министерства внутренней безопасности (DHS). Об этом сообщает Politico. Ожидается, что законопроект в четверг официально внесут представители Тед Лью (Калифорния) и Натаниэль Моран (Техас).
Появление этой инициативы последовало за признанием OpenAI, что в ходе внутренней оценки её системы ИИ по ошибке взломали платформу Hugging Face. Согласно законопроекту, после консультации с министром торговли и директором национальной разведки DHS сможет приказывать компаниям останавливать работу моделей в сценариях «потери контроля», которые привели к гибели не менее 10 человек, экономическому ущербу более 100 миллионов долларов или попыткам модели скрыть элементы управления отключением.
Одновременно крупные компании ИИ должны будут разработать технологию, позволяющую отключать, замедлять и приостанавливать доступ к своим системам. Они также обязаны сообщать об инцидентах безопасности, а нарушение приказов об экстренном отключении может повлечь штраф до 20 миллионов долларов в день.
Брэд Карсон, президент некоммерческой организации Americans for Responsible Innovation, в заявлении отметил, что предложение «является важным шагом к тому, чтобы люди крепко держали руки на руле и держали ногу на тормозе при развёртывании продвинутых систем ИИ».
