Правительство США заставило Anthropic отключить модели ИИ на основании неясного экспортного контроля

В пятницу правительство США направило компании Anthropic письмо, в котором сослалось на неясную директиву экспортного контроля, фактически запретив неамериканцам, включая сотрудников компании, доступ к моделям Fable 5 и Mythos 5, ссылаясь на неопределённые соображения национальной безопасности. Письмо не было опубликовано, и Anthropic заявила, что полагает, что оно связано с обходом защитных барьеров модели, но не уверена из-за отсутствия подробностей.

В ответ Anthropic немедленно отключила обе модели для всех клиентов, чтобы обеспечить соблюдение директивы. Таким образом, правительство США без судебного решения вынудило технологическую компанию снять продукты с доступа. Этот шаг администрации Трампа показывает, что индустрия ИИ не защищена от вмешательства государства.

По данным Axios, директива была вызвана личностными различиями между Anthropic и администрацией, а не технической проблемой. Эксперт по кибербезопасности Кэти Муссури (Katie Moussouris) сообщила, что Anthropic поделилась с ней частным докладом исследователей Amazon, описывающим возможный обход защитных барьеров в Fable 5. Муссури заявила, что описанное действие ни в коем случае не должно было вызвать экспортный контроль — разница между просьбой «просмотреть код на предмет уязвимостей» и «исправить этот код» несущественна.

Десятки ведущих экспертов по безопасности призвали администрацию отменить распоряжение, назвав его опасным, так как оно лишает защитников передовых кибервозможностей. Журналист Джастин Хендрикс (Justin Hendrix) предупредил, что этот шаг может вызвать сомнения в надёжности американского ИИ для критических приложений. Правительство не объяснило причину использования экспортного контроля; возможно, чиновники неверно истолковали доклад или это способ давления на Anthropic. Инцидент создаёт опасный прецедент контроля над распространением программного обеспечения.