Иск утверждает, что xAI Илона Маска обучала Grok на материалах о сексуальном насилии над детьми
В США подан коллективный иск, утверждающий, что xAI обучала свои модели Grok на материалах сексуального насилия над детьми. Истица, сама пострадавшая в детстве, требует компенсации и уничтожения связанного контента, созданного Grok.
В среду в федеральный суд США подан иск против компании Илона Маска xAI, в котором утверждается, что она обучала модели искусственного интеллекта Grok на материалах сексуального насилия над детьми (CSAM). Истица, известная как Джейн Доу, рассказала, что в начале 2000-х годов, когда она была дошкольного возраста, взрослые мужчины неоднократно насиловали её, создавая материалы для продажи педофилам в интернете.
С тех пор изображения Доу были внесены в списки идентификации, которые ведут такие организации, как Национальный центр по пропавшим и эксплуатируемым детям (NCMEC) и Канадский центр защиты детей. Она получает уведомления, когда её изображения всплывают в новых расследованиях, и недавно канадская организация сообщила ей, что обнаружила созданные искусственным интеллектом материалы с её изображением, связанные с xAI.
Утверждения об обучающих данных
В иске говорится, что изображения Доу с давно известными хеш-значениями были частью набора данных, который xAI использовала для создания функций генерации изображений и видео в Grok. Это первое дело, в котором xAI обвиняется в обучении на подобных материалах, однако иск не приводит подробных доказательств именно этого утверждения.
Более детально описываются обвинения в том, что Grok обучается на собственных сгенерированных результатах, поскольку условия использования xAI по умолчанию рассматривают как публичные посты в X, так и выходные данные самого Grok в качестве обучающих материалов. Хотя xAI, как утверждается, отфильтровывает насильственный контент из данных для обучения, в иске отмечается, что условия компании чётко не указывают на исключение CSAM, интимных изображений без согласия или иного неприемлемого контента.
Требуемые меры
Предлагаемый коллективный иск Доу представляет интересы всех жертв, чьи детские изображения использовались для создания подобных материалов с помощью Grok. Иск основан на федеральных законах против детской порнографии и так называемом законе Маши, которые позволяют пострадавшим подавать иски за производство, хранение и распространение такого контента. Адвокаты истицы требуют денежной компенсации для пострадавших, а также судебного постановления, обязывающего xAI уничтожить подобные материалы на своих серверах и не допустить их генерации в будущем. Компания X не ответила на запрос Ars Technica о комментарии.
