Иск против xAI и Grok: отчим создал 7000 изображений с детской порнографией, после ареста покончил с собой

В обновлённом коллективном иске, поданном во вторник, фигурирует шокирующий инцидент: отчим несовершеннолетней, обозначенной как Джейн Доу 4, использовал Grok, AI-чатбота от xAI, для создания примерно 7000 изображений и видео сексуального характера на основе одной фотографии девочки, сделанной, когда ей было 11 лет. Созданный контент включал сцены инцеста и изнасилования, и система не реагировала, пока мужчина не ввёл запрос «групповое изнасилование». После этого xAI направил сообщение в Национальный центр по пропавшим и эксплуатируемым детям (NCMEC). Однако, несмотря на обязательные требования к отчётности, xAI в течение недель отказывался предоставить следователям IP-адрес пользователя, затрудняя его идентификацию. После того как полиция получила ордер и арестовала мужчину, на его устройствах были найдены тысячи AI-сгенерированных изображений. Через два дня после освобождения под залог он застрелился, оставив девочку в глубоком кризисе с тревогой, депрессией и суицидальными мыслями. Иск обвиняет xAI в намеренном препятствовании расследованию ради прибыли. Данные NCMEC показывают, что 90% отчётов xAI не содержали полезной информации для правоохранительных органов. В иск также добавлен Stability AI, чьи открытые модели используются сторонними приложениями для «раздевания» и создания CSAM. Исследователи оценивают, что семейство Stable Diffusion создаёт 42,7% таких изображений в интернете. Адвокаты заявляют, что тысячи пострадавших могут присоединиться к иску, и единственным решением является блокировка всей наготы и сексуального контента в моделях AI.