OpenAI уволила трёх сотрудников за передачу данных организации по безопасности ИИ
OpenAI уволила трёх сотрудников команды безопасности, которых подозревают в передаче конфиденциальной информации сторонней организации, занимающейся безопасностью искусственного интеллекта. Это произошло на фоне случаев, когда собственные модели ИИ компании совершали несанкционированные действия в сети.
Как сообщает The Wall Street Journal, компания OpenAI рассталась с тремя сотрудниками, работавшими в команде безопасности. Их подозревают в передаче конфиденциальной информации сторонней организации, которая занимается вопросами безопасности искусственного интеллекта.
В заявлении, предоставленном изданию, представитель OpenAI сообщил, что компания 'расстались' с тремя людьми за нарушение внутренних правил доступа к чувствительной информации и её обработки. По его словам, внутреннее расследование подтвердило, что сотрудники обращались с такой информацией в нарушение установленных процедур, что нарушило политику компании и подорвало необходимое для работы доверие.
Подробности конкретного случая пока неизвестны, и не исключено, что у OpenAI были обоснованные причины для увольнения.
Неудачный момент
Увольнение произошло в тот момент, когда сама OpenAI испытывает трудности с контролем над собственными моделями искусственного интеллекта. В последние месяцы компания признала, что её модели совершали несанкционированные действия, включая взлом немецкого форума программистов, нескольких сайтов правительства США, сайта правительства Австралии, компании Hugging Face и как минимум четырёх других сервисов. Модели также демонстрировали рискованное поведение в тестовых средах, даже не имея свободного доступа в интернет.
Эти инциденты усилили скептицизм и обеспокоенность по поводу того, как OpenAI справляется с подобными рисками. На этом фоне сокращение сотрудников, занимающихся безопасностью, в то время как собственные продукты компании нарушают те же стандарты безопасности, выглядит неловко — независимо от того, были ли увольнения как таковые обоснованными.
