Google откатывает функцию генерации изображений на базе ИИ в Google Earth

Функция и её злоупотребление

В веб-версии Google Earth недавно появилась функция «Nano Banana 2», которая позволяла пользователям генерировать изображения на основе спутниковых, аэрофото- и 3D-данных с помощью текстовых запросов. Изначально её представляли как инструмент для визуализации исторических мест и проектов недвижимости. Однако вскоре исследователь Хенк ван Эсс из Digital Digging продемонстрировал, как с её помощью можно создавать вводящие в заблуждение изображения, например «беженцев у мексиканской границы» и «воронку от бомбы возле больницы в Газе».

Ответ Google и способы проверки

Google в ответ заявил, что серьёзно относится к дезинформации и что каждое сгенерированное с помощью функции изображение содержит цифровой водяной знак SynthID. Пользователям рекомендовали проверять подозрительные изображения через приложение Gemini или Google Lens в Поиске. Ван Эсс также советовал сравнивать изображения с другими спутниковыми платформами, такими как Sentinel-2 или Landsat, и проверять орбитальные данные, например время съёмки и название спутника.

Риск вводящих в заблуждение изображений и откат функции

Хотя некоторые сгенерированные изображения было легко распознать как поддельные — например, Сфинкс, объединённый со Статуей Свободы, — другие могли быть достаточно правдоподобными для распространения дезинформации. Digital Digging даже удалось обмануть ИИ-детектор Hive с помощью изменённого видео из Google Earth, что показывает, что водяной знак можно обойти или не заметить. После этих опасений Google объявил 31 июля об откате функции.