Соцсети наводнили подделки, созданные ИИ, на похоронах Хаменеи
В Иране на похоронах бывшего верховного лидера Али Хаменеи в Тегеране вместе с настоящими кадрами широко распространились созданные ИИ видео и фото, преувеличивающие число скорбящих.
Иран стал свидетелем огромных толп на похоронной процессии бывшего верховного лидера аятоллы Али Хаменеи в Тегеране, что было задокументировано международными агентствами. Но наряду с подлинными изображениями социальные сети наводнила волна созданных искусственным интеллектом (ИИ) видео и фото, ложно выдаваемых за кадры события.
В понедельник огромные толпы собрались, когда гроб Хаменеи провозили через столицу после двух дней прощания в Большой мечети Мосалла. Международные агентства зафиксировали плотные толпы, но одновременно распространился вводящий в заблуждение контент, созданный ИИ.
Одно широко распространённое видео, опубликованное лояльными режиму аккаунтами, набрало сотни тысяч просмотров и утверждало, что показывает «крупнейшие похороны в истории». Однако несколько признаков указывают на его искусственное происхождение: текст на фарси был бессмысленным, а мечеть в видео имела белый купол, тогда как на самом деле купол Большой Мосаллы голубой – как подтвердил корреспондент France 24.
Другое созданное ИИ изображение ложно утверждало, что показывает толпы у башни Азади в Тегеране. Система обнаружения OpenAI выявила водяной знак SynthID, подтверждающий создание с помощью их инструментов. Изображение также содержало географические несоответствия: ряды деревьев и здания, отсутствующие на недавних спутниковых снимках площади Азади.
Ещё одно созданное ИИ видео, просмотренное более миллиона раз, якобы показывает миллионы скорбящих, несущих гроб Хаменеи. Но в кадре видны типичные артефакты ИИ: искажённые руки, неестественное движение толпы и отсутствие чётких черт лиц.
Вводящий в заблуждение контент вокруг крупных событий обычно делится на три категории: старые кадры, выдаваемые за новые, подлинные изображения, вырванные из контекста, или полностью созданный ИИ медиа. В случае похорон Хаменеи большая часть вирусной дезинформации является синтетической.