Слишком правдоподобные «катастрофы». Через сутки после запуска Google была вынуждена отключить новейшую ИИ-функцию Google Earth

Новый инструмент позволял генерировать фальшивые спутниковые снимки на основе реальных координат, что вызвало опасения из-за возможного распространения дезинформации

Google менее чем через сутки после запуска отключила новую функцию генерации изображений в веб-версии Google Earth.

Инструмент, основанный на модели Gemini Nano Banana 2, позволял создавать новые спутниковые сцены по текстовому описанию, используя реальные географические координаты.

Изначально технология позиционировалась как средство для городского планирования, реконструкции исторических событий и создания образовательных материалов. Однако вскоре исследователи и специалисты по проверке фактов обнаружили, что система практически не ограничивает запросы и способна создавать крайне реалистичные изображения несуществующих катастроф, военных действий и других чрезвычайных ситуаций.

В ходе тестов были получены изображения затопленного Капитолия США, разрушений на объектах инфраструктуры, массовых лагерей беженцев и других событий, которых в действительности не происходило.

Особую обеспокоенность вызвало то, что изображения создавались на основе реальных спутниковых снимков Google Earth, которым традиционно доверяют журналисты, аналитики и различные организации. Google заявила, что все сгенерированные изображения помечаются невидимым водяным знаком SynthID и не попадают на публичные карты сервиса. Однако компания признала, что этого недостаточно для предотвращения распространения скриншотов в интернете, и 31 июля решила временно отключить функцию до создания более надежной системы защиты от злоупотреблений.

Сроки повторного запуска пока не называются.