Google свернула новую функцию генерации изображений с помощью искусственного интеллекта в Google Earth спустя менее чем 48 часов после ее запуска. Причиной стали опасения, что инструмент позволит создавать реалистичные фейковые спутниковые снимки, которые могут использоваться для распространения дезинформации, сообщает BBC со ссылкой на заявление компании.

Функция, запущенная 30 июля, интегрировала в Google Earth модель генерации изображений Nano Banana 2. Пользователи могли выбрать на карте любую точку, нажать кнопку «Создать изображение» и ввести текстовое описание — система генерировала картинку на основе реальных спутниковых, аэрофотоснимков и трехмерных данных сервиса. Google позиционировала нововведение как инструмент для образования, архитектурного проектирования и визуализации исторических реконструкций — например, для «воссоздания» древнего города Помпеи или моделирования застройки пустующего участка.

Однако уже на следующий день исследователи и журналисты продемонстрировали, как легко инструмент можно использовать для создания фейков. Специалист по дезинформации Хенк ван Эсс сгенерировал изображения несуществующей атомной электростанции в Иране, лагеря беженцев на границе США и Мексики, а также фальшивой больницы с воронкой от бомбы в Газе. BBC Verify в ходе тестов создала кадры с обрушившейся Эйфелевой башней, гигантской воронкой, поглощающей пирамиду Хеопса, и российскими танками в Киеве.

«Подделке не обязательно выглядеть убедительной самостоятельно. Она наследует доверие карты, на которой была создана», — предупредил ван Эсс.

Эксперты отмечали, что Google Earth долгие годы был одним из самых надежных источников визуальной информации для журналистов и исследователей, а новая функция подрывала это доверие.

Google пыталась предотвратить злоупотребления с помощью нескольких механизмов. Во-первых, все сгенерированные изображения содержали невидимые цифровые водяные знаки SynthID. Во-вторых, компания заявляла, что система блокирует запросы на создание «вредоносного» контента. Однако BBC Verify выяснила, что оба механизма можно обойти: водяные знаки не всегда распознавались сторонними детекторами, а ограничения на темы удавалось преодолеть, слегка изменив формулировку запроса.

«Пространства, которые считаются „незапятнанными“ ИИ, особенно ценны для журналистов и людей, работающих на передовой в быстро развивающихся кризисных ситуациях. Тревожно, что еще один источник заслуживающей доверия информации размывается постоянными сомнениями в том, что мог быть задействован ИИ», — заявил исследователь ИИ-контента Генри Айдер.

31 июля Google объявила об откате функции.

«Мы видели, как геопространственные специалисты использовали эту функцию для полезных целей, однако мы также заметили, что люди публикуют скриншоты сгенерированных изображений, нарушающих наши правила. Поэтому мы откатываем эту функцию в Google Earth, пока работаем над внедрением более надежных механизмов защиты», — говорится в заявлении компании.

В Google подчеркнули, что сгенерированные изображения не добавляются в публичные карты Google Earth и видны только их создателю. Когда именно функция вернется, компания не уточнила.

Изображение: Google

Подписывайтесь на каналы Let AI be в Telegram и «ВКонтакте» — оставайтесь в курсе главных новостей в сфере искусственного интеллекта!