Apple обновила правила App Store, чтобы прямо запретить ИИ-приложения для «раздевания»
Apple уточнила правила App Store и теперь более явно запрещает приложения, которые с помощью ИИ создают интимные изображения людей без их согласия. Изменения последовали за критикой из-за злоупотреблений Grok в соцсети X.
Компания Apple в пятницу, 16 октября, объявила об обновлённых правилах магазина приложений App Store, в которых более явно запрещены так называемые «nudify»-приложения, то есть программы, создающие с помощью инструментов искусственного интеллекта интимные изображения людей без их согласия. Изменения важны, поскольку определяют требования ко всем разработчикам, распространяющим приложения через магазин Apple.
Что требуют новые правила
В соответствии с требованиями Apple к модерации контента разработчики должны заблаговременно предотвращать и удалять сексуальные изображения, созданные без согласия. Тех, кто не внедряет достаточные меры защиты или не устраняет нарушения после уведомления, могут исключить из App Store.
Apple также уточнила правило о приложениях «bait-and-switch» — тех, что после одобрения добавляют или меняют функции, включая «раздевание» на фото. Кроме того, правила чётче указывают, что приложения, способствующие торговле людьми или эксплуатации детей, будут удалены из магазина и заблокированы для альтернативного распространения.
Предыстория
Изменения последовали за значительной критикой в адрес Apple. Ранее в этом году пользователи соцсети X с помощью чат-бота Grok создавали сексуализированные дипфейки без согласия изображённых людей, в том числе с несовершеннолетними. Apple не удалила из App Store ни X, ни Grok, однако сообщила сенаторам, что грозила сделать это в отношении Grok.
В июне на конференции разработчиков Apple WWDC протестующие требовали убрать из магазина Grok, X и все технологии «раздевания». В июле городской прокурор Сан-Франциско потребовал от Apple удалить 13 таких приложений, и, по словам компании, она это сделала.
