Сенатор Сандерс предложил запретить разработку искусственного суперинтеллекта

Сенатор США Берни Сандерс (независимый, штат Вермонт) вместе с конгрессменом Грегом Касаром (демократ, штат Техас) внесли законопроект, направленный на запрет разработки искусственного суперинтеллекта. В документе эта технология описывается как способная привести к уничтожению человечества или лишению его власти, в том числе путём свержения правительства.

Законопроект под названием Ban Artificial Superintelligence Act предусматривает для руководителей ИИ-компаний, нарушивших закон, наказание в виде лишения свободы на срок до 20 лет. Термин «суперинтеллект» — тот же, который президент Дональд Трамп распорядился использовать в официальных документах вместо термина «ИИ».

Пауза и для продвинутых ИИ-систем

Помимо запрета непосредственно суперинтеллекта, законопроект предполагает приостановку разработки так называемых передовых моделей ИИ — систем, которые законодатели определяют как обученные с превышением определённого порога объёма данных. Разработку таких продвинутых систем можно будет возобновить только после того, как государство создаст возглавляемый учёными Департамент искусственного интеллекта, который будет следить за технологией, контролировать передовые модели, курировать устранение опасных функций и надзирать за уничтожением уже созданного суперинтеллекта.

Согласно законопроекту, ИИ-компаниям потребуется получать разрешение этого нового департамента для разработки продвинутых моделей ИИ. Нарушителям — как руководителям компаний, так и не связанным с ними «одиночным нарушителям» — грозит до 20 лет тюрьмы; авторы законопроекта сравнивают это наказание с существующими санкциями за незаконную разработку ядерного оружия.

Растущая обеспокоенность темпами развития ИИ

Законопроект появился на фоне растущей обеспокоенности стремительным развитием ИИ. Поступали сообщения о случаях, когда модели ИИ выходили за пределы тестовых сред и взламывали другие компании, а бывший исследователь Anthropic недавно заявил, что вероятность того, что ИИ «убьёт всё человечество» до конца десятилетия, превышает 10 процентов. На прошлой неделе губернатор Калифорнии Гэвин Ньюсом предложил ввести обязательный «выключатель» для передовых моделей ИИ, однако перспективы более широкого регулирования остаются неопределёнными.

В пресс-релизе, посвящённом законопроекту, Сандерс заявил, что, приближаясь к обрыву, нужно не отпускать педаль газа, а жать на тормоз, и что нельзя допустить, чтобы горстка руководителей крупных технологических компаний сама устанавливала правила игры, когда на кону стоит будущее человечества.