xAI подает в суд на мужчину за использование Grok для создания дипфейков с детской порнографией

Компания xAI, принадлежащая Илону Маску, подала иск против Терри Уэйна Харвуда из Южной Каролины. Согласно иску, Харвуд "сознательно и намеренно использовал Grok для обхода защитных механизмов, изменения изображений без согласия, а также создания и распространения материалов с сексуальным насилием над детьми (CSAM)", нарушив тем самым политику компании.

Харвуд был арестован в феврале по обвинению в хранении и распространении CSAM, ему предъявлено восемь обвинений в тяжких преступлениях. В иске утверждается, что "по крайней мере некоторые" изображения, связанные с уголовными обвинениями против Харвуда, были созданы или изменены с помощью Grok. Сообщается, что Харвуд обошел защитные барьеры Grok и использовал инструмент для превращения несексуальных фотографий в изображения откровенно сексуального характера без согласия изображенных лиц.

После внедрения в прошлом году "пикантного" режима для Grok компания xAI добавила возможность редактировать изображения с помощью чат-бота, что привело к появлению волны сексуализированных дипфейков, в том числе с несовершеннолетними. В марте группа подростков подала в суд на xAI, утверждая, что Grok создал сексуализированные изображения их самих в несовершеннолетнем возрасте. Маск ответил, что любой, кто использует Grok для создания нелегального контента, понесет такие же последствия, как если бы он загружал нелегальный контент. Однако, судя по всему, это первый случай, когда xAI подает в суд на кого-либо за дипфейки, созданные с помощью Grok.

xAI утверждает, что предполагаемые действия Харвуда подвергли компанию "значительному юридическому риску и репутационному ущербу". Компания просит суд обязать Харвуда выплатить xAI все убытки, а также "разумные расходы, понесенные при защите в любом судебном разбирательстве, инициированном жертвой действий ответчика". Кроме того, xAI требует, чтобы судья запретил Харвуду создавать учетную запись xAI или использовать Grok.