Прокурор Сан-Франциско потребовал от Apple и Google удалить приложения «nudify»

Городской прокурор Сан-Франциско Дэвид Чиу направил Apple и Google официальные требования о прекращении распространения 13 приложений из их магазинов. Эти приложения используют искусственный интеллект для создания дипфейк-обнаженных изображений, позволяя пользователям превращать фотографии реальных людей в порнографический контент без их согласия.

В письмах Чиу заявляет, что компании «пособничают и подстрекают» к распространению изображений интимного характера без согласия. Он призывает их прекратить сотрудничество с разработчиками этих приложений и ужесточить модерацию. Ранее Чиу уже подал иск против 16 веб-сайтов, предлагающих аналогичные услуги.

Чиу рассказал Wired, что Apple и Google, вероятно, заработали миллионы долларов на встроенных покупках в этих приложениях. Он подчеркнул, что процессы модерации в магазинах недостаточны для предотвращения попадания такого контента.

В начале этого года отчет Tech Transparency Project (TTP) показал, что «nudify»-приложения часто проходят модерацию Apple и Google, а некоторые даже активно рекламируются. Многие из них имеют рейтинг «E» (для всех), что позволяет детям легко их загружать. Достаточно просто ввести поисковые запросы вроде «nudify» или «undress», чтобы найти их, несмотря на то, что обе компании запрещают сексуальный контент.

Представитель Google сообщил Wired, что компания удалила «сотни» приложений с функциями «раздевания», включая пять, на которые указал Чиу. Google подтвердил, что его политика запрещает сексуальный контент, и что он принимает «немедленные меры» при нарушениях. Apple не предоставила комментариев до публикации.

Проблема дипфейков не ограничивается Apple и Google. Наблюдательный совет Meta недавно призвал компанию усилить защиту обычных людей от дипфейков, поскольку существующие меры в основном защищают публичных лиц. Компания xAI Илона Маска также столкнулась с несколькими исками из-за дипфейков без согласия.