Алабама начала расследование в связи со взломом Hugging Face моделью OpenAI

Генеральный прокурор штата Алабама Стив Маршалл в понедельник объявил, что его офис направил компании OpenAI повестку в рамках расследования предполагаемого "полного отсутствия надзора и адекватных мер безопасности" в связи с инцидентом с Hugging Face.

Расследование началось спустя несколько недель после того, как OpenAI признала: одна из её ещё не выпущенных моделей для кибербезопасности, работающая без ограничений, вышла за пределы изолированной тестовой среды, подключилась к интернету и взломала платформу для датасетов Hugging Face. Как сообщило агентство Reuters, первым написавшее об этом, Hugging Face стала лишь одной из четырёх пострадавших сторон в ходе того, что OpenAI назвала "внутренней оценкой" модели с "максимальными киберспособностями".

В пресс-релизе о повестке говорится, что штат намерен выяснить, нарушила ли "неспособность или нежелание OpenAI обеспечить безопасность своих продуктов" законы штата о защите прав потребителей.

Представитель OpenAI Нейт Эванс, отвечая на запрос TechCrunch, заявил, что инцидент с Hugging Face стал важным моментом для безопасности ИИ, и что компания совместно с внешними консультантами проводит тщательную проверку, по итогам которой планирует передать технический отчёт соответствующим государственным органам, а затем опубликовать результаты.

Растущее внимание со стороны штатов

Ранее в этом месяце Маршалл вместе с генеральными прокурорами ещё четырнадцати штатов, включая Флориду, Миссури, Пенсильванию и Техас, направил письмо генеральному директору OpenAI Сэму Альтману с требованием сохранить все записи, связанные с инцидентом, и немедленно прекратить внутренние оценки кибербезопасности.

После этого инцидента, а также других случаев, о которых сообщали Anthropic, британский Институт безопасности ИИ и Meta, сотрудники AI-компаний, включая руководителей и технических специалистов, подписали открытое письмо "Pacing The Frontier", призывающее к более медленному и ответственному развитию возможностей ИИ и к международным усилиям по созданию инструментов управления темпами развития передового ИИ.