Anthropic приостанавливает доступ к моделям Fable 5 и Mythos 5 по распоряжению правительства США

Компания Anthropic, занимающаяся искусственным интеллектом, объявила, что выполнит директиву правительства США, запрещающую иностранным гражданам использовать её новейшие модели ИИ Fable 5 и Mythos 5 по соображениям национальной безопасности. Запрет распространяется на иностранных граждан как на территории США, так и за их пределами, включая иностранных сотрудников компании.

В сообщении в блоге поздно вечером в пятницу Anthropic сообщила, что получила письмо от правительства в 17:21 по восточному времени с требованием немедленно приостановить доступ к моделям. "Чистый эффект этого распоряжения заключается в том, что мы должны внезапно отключить Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение требований", — говорится в заявлении. Доступ ко всем другим моделям Anthropic не будет затронут.

Компания принесла извинения за неудобства пользователям и заявила, что работает над восстановлением доступа как можно скорее. Anthropic полагает, что власти узнали о потенциальном способе взлома модели Fable 5. Взлом ИИ означает, что хакеры используют уязвимости, обходя этические ограничения для выполнения запрещённых действий.

Anthropic попыталась преуменьшить значение проблемы, назвав уязвимости "относительно простыми" и отметив, что общедоступные модели смогли их выявить. Хотя компания выполняет директиву, она не согласна с тем, что "узкий потенциальный взлом должен быть причиной отзыва коммерческой модели, используемой сотнями миллионов людей". Anthropic также подчеркнула, что разработала "надёжные средства защиты, которые значительно снижают вероятность неправильного использования Fable для задач, связанных с кибербезопасностью".

Реагируя на новость в X, депутат Европейского парламента и лидер французской ультраправой партии "Национальное объединение" Жордан Барделла заявил, что этот шаг является резким напоминанием о том, что искусственный интеллект — это "важный вопрос национального суверенитета". Он добавил: "Государства, которые не разрабатывают быстро собственные модели, будут всё больше зависеть от выбора других держав: Франция должна ускорить поддержку компании Mistral AI и всей экосистемы ИИ".

Это не первое столкновение Anthropic с администрацией Трампа. В феврале Трамп приказал федеральным агентствам немедленно прекратить использование технологий Anthropic после того, как генеральный директор Дарио Амодеи и его фирма выступили против их использования в оборонных целях. "Нам это не нужно, мы этого не хотим и больше не будем с ними иметь дело!" — написал тогда Трамп в Truth Social, упомянув о шестимесячном переходном периоде. Позже Anthropic объявила о судебных исках после того, как правительство признало компанию "риском для цепочки поставок".