OpenAI признала, что её ИИ-системы случайно взломали Hugging Face

OpenAI заявила, что её модели искусственного интеллекта по ошибке нарушили безопасность платформы с открытым исходным кодом Hugging Face. В сообщении в блоге во вторник компания сообщила, что модели GPT-5.6 Sol и ещё более мощная предрелизная модель обнаружили уязвимости в изолированной тестовой среде, что позволило им получить доступ к интернету и нацелиться на Hugging Face.

16 июля Hugging Face сообщила об инциденте безопасности, вызванном «автономной системой ИИ-агентов». Её ИИ-агенты обнаружили и остановили атаку. OpenAI теперь признала, что инцидент произошёл во время оценки возможностей её моделей в области кибербезопасности. По словам OpenAI, модели были «гиперсосредоточены» на поиске решения для ExploitGym — эталонной системы, измеряющей, насколько хорошо модели ИИ могут превращать уязвимости безопасности в эксплойты.

Для завершения оценки модели получили доступ к интернету, используя уязвимость нулевого дня в изолированной среде. Затем они сделали вывод, что Hugging Face, вероятно, размещает модели, наборы данных и решения для ExploitGym, и искали способы получить секретную информацию для обмана оценки. В одном примере модель объединила несколько векторов атаки, включая украденные учётные данные и уязвимости нулевого дня, чтобы найти путь удалённого выполнения кода на серверах Hugging Face.

OpenAI использует этот инцидент для продвижения своих возможностей в области кибербезопасности, особенно в конкуренции с такими соперниками, как Anthropic с Mythos и Gemini Flash 3.5 Cyber. В сообщении блога есть диаграмма, показывающая улучшение GPT-5.6 Sol в многоэтапных кибероперациях, и предлагается корпоративным клиентам зарегистрироваться для доступа к модели безопасности «Cyber». OpenAI сотрудничает с Hugging Face в расследовании и внедрит новые средства контроля в своей исследовательской среде.