Google Earth: AI deepfakes tool shut down after 1 day
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Google всего за сутки свернула работу новой функции Google Earth, которая позволяла пользователям "редактировать" спутниковые снимки с помощью искусственного интеллекта через простые текстовые команды. Идея была такой: хочешь изменить реальную местность на карте — достаточно ввести текстовое описание, и искусственный интеллект тут же, по мановению программной волшебной палочки, дорисует нужную картинку. Но вместо невинных экспериментов люди быстро решили проверить систему на прочность.
Например, исследователь Henk van Ess с сайта Digital Digging использовал этот инструмент, чтобы добавить к мексиканской границе толпы беженцев, а рядом с больницей в Газе — воронку от бомбы. Подобные примеры показали, насколько легко люди могут создавать откровенные фейки, используя эту функцию — теперь на любых городах мира появятся непрошенные дополняющие детали, будто из параллельной реальности.
Первый официальный комментарий Google был довольно спокойным: мол, изображения, созданные с помощью Nano Banana 2 (так называется их алгоритм), автоматически помечаются цифровым водяным знаком, чтобы все знали — это плод воображения нейросети, а создатели запретили генерировать особо вредные сцены.
Но эксперимент быстро вышел из-под контроля. Уже на следующий день Google изменила риторику и приостановила работу этой функции. Причины не уточнили — публично Google не любит обсуждать провалы, но сказали дипломатично, что инструмент ещё не готов для массового применения без риска для репутации и здравого смысла. Классическая история больших надежд и скоропостижного краха: если дать людям в руки универсальный редактор реальности, удивляться последствиям остаётся всё меньше поводов.
PEREC.RU
Google решила поэкспериментировать с новой игрушкой: выпускать для широкой публики ИИ, который дорисовывает любые "желания" пользователей прямо на спутниковых снимках Google Earth. Мечты пользователей быстро переросли в попытки проверять границы дозволенного: появлялись безумные объекты и даже трагический антураж рядом с конфликтными зонами — всего-то нужно пару строк текста.
Корпорация, изначально вальяжно подчеркивая: "У нас всё метится водяными знаками и вредная фантазия не пройдёт", уже спустя день убирает продукт. Потому что пользователи, как всегда, оказались изобретательнее, чем программисты-пессимисты.
Google не объясняет, почему выключил функцию: возможно, усталость от необходимости постоянно извиняться, или привычная боязнь скандалов за изображения, которые завтра окажутся в новостях. Показательная модель цифрового мира — дать гипер-пластику фактам, но восхититься скоростью, с которой необходимость защищаться от собственных пользователей срабатывает в крупных фирмах.
Главный сарказм: чем больше возможностей — тем заманчивее их использовать не по назначению. Особенно если эти возможности скрываются за нейросетью с названием вроде Nano Banana 2. Впрочем, интернет помнит и не такие опыты с кривым юмором, а Google остается просто первым, кто за сутки сумел превратить "новый продукт" в мем и закрыть его. Это даже не провал, а эталон стартап-цирка.
