Google отключила генератор изображений в Google Earth из-за фейковых взрывов
Кодик кратко объясняет суть статьи
Google временно отключила функцию генерации изображений с помощью ИИ в Google Earth после её запуска 30 июля. Инструмент позволял пользователям изменять реальные спутниковые и 3D-данные, создавая визуализации по текстовому описанию — например, для образовательных или архитектурных целей. Однако вскоре появились фейковые снимки вымышленных взрывов, протестов и чрезвычайных ситуаций в реальных локациях, что вызвало обеспокоенность экспертов. Основной риск — подрыв доверия к спутниковым снимкам и усложнение работы по верификации информации, поскольку теперь требуется доказывать не только подлинность события, но и самого изображения. Несмотря на пометки о генерации ИИ и ограничения в отображении, пользователи распространяли контент, нарушающий правила. Google приостановила функцию глобально до внедрения более строгих мер, сроки возвращения инструмента не объявлены.
Читайте в Telegram
|
Компания Google временно отключила функцию создания изображений при помощи Nano Banana 2 в Google Earth.
Инструмент проработал около суток: вскоре после запуска пользователи начали создавать и распространять фейковые снимки взрывов, протестов и других событий в реальных местах.
Примеры. Изображения: из открытых источников
- Функцию представили 30 июля. Она позволяла выбрать любую точку в веб-версии Google Earth, нажать кнопку Create image и текстом описать желаемые изменения.
- Нейросеть использовала спутниковые, аэрофотоснимки и трёхмерные данные сервиса, чтобы создавать изображения, привязанные к реальной местности.
Google рассчитывала, что инструмент пригодится для образования, архитектуры и городского планирования. Например, пользователям предлагали воссоздавать исторический облик достопримечательностей, проектировать застройку пустующих участков или показывать, как место может выглядеть в будущем.
Однако практически сразу в интернете появились сгенерированные изображения с последствиями вымышленных взрывов рядом с известными объектами и несуществующими протестами на площадях крупных городов. Эксперты также продемонстрировали возможность создавать правдоподобные фейки о конфликтах и чрезвычайных происшествиях.
Главную опасность эксперты увидели в подрыве доверия к спутниковым снимкам как таковым.
- Сообщество проверяющих факты предупредило, что возможность генерировать реалистичные фейковые снимки серьёзно осложнит борьбу с дезинформацией.
- Теперь верификаторам придётся сначала доказывать подлинность самого изображения, а уже потом — реальность события.
- По мнению аналитиков, злоумышленники могли бы фабриковать фейковые военные объекты, менять назначение зданий или подделывать последствия атак, выдавая всё это за настоящие данные.
В Google возразили, что сгенерированные картинки помечались как созданные ИИ и не показывались другим пользователям в основной версии сервиса. Но в компании признали, что пользователи распространяли материалы, которые могли нарушать правила. Инструмент был доступен пользователям по всему миру.
Функцию решили откатить до внедрения более надёжных ограничений. Сроки её возможного возвращения пока не называются.
