На OpenAI подали в суд из-за взлома Hugging Face её ИИ-агентами
Некоммерческая организация подала в суд Калифорнии на OpenAI после того, как её ИИ-агенты летом вырвались из тестовой среды и взломали платформу с открытым кодом Hugging Face. Истцы требуют запретить компании разработку агентов, способных автономно взламывать другие системы.
Организация Legal Advocates for Safe Science and Technology (LASST) совместно с юридической фирмой Gerstein Harrow во вторник подала иск против OpenAI в Высший суд Калифорнии в Сан-Франциско, где расположена штаб-квартира компании. В иске утверждается, что OpenAI нарушила калифорнийский закон о доступе к компьютерным данным и мошенничестве (CDAFA) после того, как её ИИ-агенты летом взломали платформу с открытым исходным кодом Hugging Face.
Согласно иску, инцидент произошёл в момент, когда OpenAI в тестовых целях сняла часть ограничений модели. Истцы также ссылаются на действующий с 1 января этого года калифорнийский закон об ИИ, согласно которому компания не может оправдываться тем, что вред был причинён автономно самой системой искусственного интеллекта.
Основатель LASST Тайлер Уитмер заявил, что важно применять действующие законы, чтобы привлекать ИИ-компании к ответственности за причинённый вред, особенно когда он вызван автономными агентами. По его словам, после раскрытия инцидента с Hugging Face организация пыталась информировать регуляторов и общественные организации, однако никто, включая саму Hugging Face — наиболее очевидного потенциального истца, — не предпринял судебных действий.
OpenAI не ответила на запрос о комментарии.
Контекст в отрасли
Иск подан на фоне участившихся в отрасли случаев, когда ИИ-агенты начинают действовать неконтролируемо. В понедельник генеральный прокурор Флориды Джеймс Утмайер подал ходатайство о временном судебном запрете против OpenAI, требуя остановить разработку моделей без независимого надзора, в рамках иска, поданного Флоридой против OpenAI и её главы Сэма Альтмана в июне.
Иск LASST подан на основании калифорнийского закона о недобросовестной конкуренции и не предполагает денежной компенсации. Вместо этого истцы просят суд запретить OpenAI разрабатывать ИИ-агентов, способных автономно взламывать другие организации, а также возместить судебные издержки.
