Google отключила генератор изображений в Google Earth из-за фейковых взрывов

Компания Google временно отключила функцию создания изображений при помощи Nano Banana 2 в Google Earth.

Инструмент проработал около суток: вскоре после запуска пользователи начали создавать и распространять фейковые снимки взрывов, протестов и других событий в реальных местах.

• Функцию представили 30 июля. Она позволяла выбрать любую точку в веб-версии Google Earth, нажать кнопку Create image и текстом описать желаемые изменения.

• Нейросеть использовала спутниковые, аэрофотоснимки и трёхмерные данные сервиса, чтобы создавать изображения, привязанные к реальной местности. 

Google рассчитывала, что инструмент пригодится для образования, архитектуры и городского планирования. Например, пользователям предлагали воссоздавать исторический облик достопримечательностей, проектировать застройку пустующих участков или показывать, как место может выглядеть в будущем.

Однако практически сразу в интернете появились сгенерированные изображения с последствиями вымышленных взрывов рядом с известными объектами и несуществующими протестами на площадях крупных городов. Эксперты также продемонстрировали возможность создавать правдоподобные фейки о конфликтах и чрезвычайных происшествиях.

Главную опасность эксперты увидели в подрыве доверия к спутниковым снимкам как таковым.

• Сообщество проверяющих факты предупредило, что возможность генерировать реалистичные фейковые снимки серьёзно осложнит борьбу с дезинформацией.

• Теперь верификаторам придётся сначала доказывать подлинность самого изображения, а уже потом — реальность события.

• По мнению аналитиков, злоумышленники могли бы фабриковать фейковые военные объекты, менять назначение зданий или подделывать последствия атак, выдавая всё это за настоящие данные.

В Google возразили, что сгенерированные картинки помечались как созданные ИИ и не показывались другим пользователям в основной версии сервиса. Но в компании признали, что пользователи распространяли материалы, которые могли нарушать правила. Инструмент был доступен пользователям по всему миру.

Функцию решили откатить до внедрения более надёжных ограничений. Сроки её возможного возвращения пока не называются.