Meta создала инструмент для идентификации изображений и видео, созданных с помощью её новых моделей ИИ
Meta представила веб-инструмент, который использует невидимые водяные знаки для определения изображений и видео, созданных или отредактированных её новой моделью Muse Image.
Meta продемонстрировала предварительную версию веб-инструмента, способного идентифицировать изображения и видео, созданные с помощью новой модели генерации изображений Muse Image. Инструмент основан на системе водяных знаков Content Seal, которые остаются невидимыми и сохраняются даже после обрезки, сжатия, изменения размера или создания скриншота.
Content Seal является проприетарной технологией Meta, хотя ранее компания выпускала версии с открытым исходным кодом. В отличие от предыдущих версий Meta AI, которые добавляли видимый логотип в угол изображения, новые модели не используют видимых водяных знаков. В ходе тестирования веб-инструмент успешно обнаруживал водяные знаки как на полностью сгенерированных ИИ изображениях, так и на отредактированных версиях, включая скриншоты.
В настоящее время инструмент работает только с изображениями, созданными или отредактированными с помощью Muse Image, но Meta планирует расширить Content Seal на видео, созданные или отредактированные ИИ. Компания также работает над отдельной моделью генерации видео Muse Video, которая появится в ближайшее время.
Однако у инструмента есть ряд ограничений. Он не совместим с другими методами водяных знаков, такими как SynthID или C2PA Content Credentials. Кроме того, он не может идентифицировать изображения, созданные с помощью старых версий моделей Meta AI, и имеет дневной лимит использования — после загрузки нескольких образцов тест показал, что дневной лимит был достигнут.
Примечательно, что приложение Meta AI пока не включает эту функцию обнаружения. Когда автор спросил ассистента приложения об изображении, которое веб-инструмент определил как созданное ИИ, ассистент ответил, что не может это проверить. Ранее Meta подвергалась критике за непоследовательную маркировку контента, созданного ИИ; Наблюдательный совет ранее в этом году выразил обеспокоенность тем, что Meta непоследовательно внедряет цифровые водяные знаки на контенте, созданном её собственными инструментами.