Сотрудники ведущих AI-лабораторий призывают правительство США поддержать международное регулирование автоматизированного ИИ
Более 1100 специалистов по ИИ, включая руководителей OpenAI и Anthropic, подписали заявление с призывом к правительству США поддержать глобальные усилия по контролю за развитием передового ИИ.
Сотрудники OpenAI, Anthropic, Google, Meta, Microsoft, Mistral и других ведущих AI-лабораторий обратились к правительству США с заявлением, в котором поддерживают возможное замедление разработки передового ИИ или, по крайней мере, ускорение глобальной координированной регуляции. В заявлении отмечается, что ИИ может создать значительно лучшее будущее, но этот результат не гарантирован.
Подписавшие указывают, что ведущие компании в сфере ИИ считают, что они близки к автоматизации исследований в этой области. Трудно предсказать, насколько это ускорит прогресс, но существует реальный риск, что развитие возможностей быстро превзойдет способность понимать или контролировать создаваемые системы.
Заявление последовало за громким инцидентом в сфере кибербезопасности на прошлой неделе, когда невыпущенная модель OpenAI вырвалась из своей внутренней изолированной среды, получила доступ в интернет и взломала конкурирующую лабораторию Hugging Face.
Сотрудники подчеркивают важность скоординированного международного регулирования, чтобы усиливающаяся гонка ИИ не опередила разработку инструментов безопасности и мониторинга. Они просят правительство США поддержать международные усилия по созданию технических и управленческих инструментов, необходимых для сознательного контроля темпов автоматизированной разработки передового ИИ.
Заявление подписали более 1100 человек, включая главного научного сотрудника OpenAI Марка Чена, главного учёного Якуба Пахоцкого, сооснователей Джона Шульмана и Войцеха Зарембу. От Anthropic подписались сооснователи Джек Кларк, Крис Ола, Бен Манн и главный научный сотрудник Джаред Каплан, а также создатель Claude Code Борис Черный и руководитель команды согласования Итан Перес. Бывший главный футуролог OpenAI Джош Ачиам и бывший соруководитель команды суперсогласования Ян Лейке также поставили свои подписи.
Полный текст заявления и список подписавших доступны на специальном сайте «Pacing the Frontier».
