xAI подает в суд на пользователя за создание сексуализированных дипфейков с помощью Grok
Компания xAI подала иск против Терри Уэйна Харвуда, обвиняя его в использовании Grok для создания сексуализированных изображений реальных людей без их согласия.
Компания по искусственному интеллекту xAI подала иск против 67-летнего Терри Уэйна Харвуда из Южной Каролины, обвиняя его в использовании инструмента Grok для создания сексуализированных изображений реальных людей без их согласия.
Согласно жалобе, поданной в Техасе, ответчик с 8 декабря 2025 года по 18 февраля 2026 года загружал на свои два аккаунта xAI несексуальные фотографии многих взрослых и несовершеннолетних. Затем он просил Grok изменить эти изображения или создать новые, изображающие людей "в порнографической манере или иным образом сексуализируя их".
Компания заявила, что Grok "многократно" отказывался выполнять его запросы, но Харвуд повторно отправлял измененные запросы, чтобы обойти защитные механизмы ИИ. В одном примере в жалобе говорится, что он загрузил фото полностью одетой девочки примерно 10–11 лет и попросил Grok снять с нее всю одежду и заставить ее "позировать как модель Playboy", лежа в постели. Grok отказался, но ответчик продолжал отправлять измененные запросы.
Как отмечает Reuters, это один из первых исков, поданных компанией ИИ против пользователя, что сигнализирует о намерении xAI судиться за неправомерное использование Grok. После скандала регуляторы начали расследования: власти Калифорнии в середине января, британский регулятор Ofcom, Европейская комиссия и Комиссия по защите данных Ирландии.
xAI внедрила меры по предотвращению создания несогласованных сексуализированных дипфейков, но даже после этого пользователи все еще могли использовать Grok для "раздевания" мужчин, а Харвуд продолжал загружать изображения и создавать сексуализированные правки.
Офис генерального прокурора Южной Каролины объявил об аресте Харвуда 9 марта в рамках деятельности Целевой группы по преступлениям против детей в Интернете. Ему предъявлены три обвинения в сексуальной эксплуатации несовершеннолетнего второй степени и пять обвинений в сексуальной эксплуатации несовершеннолетнего третьей степени. Харвуд не только хранил материалы сексуального насилия над детьми, но и распространял их.
xAI требует от суда присудить неопределенную денежную компенсацию и покрыть расходы, понесенные в связи с защитой от любых судебных исков, которые могут подать его жертвы.
