Google выпустила Nano Banana Pro: теперь конспирологии и троллинг в стиле Голливуда на новом уровне
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Google представила Nano Banana Pro — новый инструмент на базе генеративного искусственного интеллекта Gemini. Этот продукт позволяет создавать и редактировать изображения с помощью искусственного интеллекта. Интересно, что Nano Banana Pro с легкостью генерирует изображения на темы, обычно запрещённые к публикации большинством крупных ИИ-платформ: например, сцену с "вторым стрелком" на площади Дили Плаза (где был убит президент США Джон Кеннеди), пожар в Белом доме или Микки-Мауса, врезающегося на самолёте в башни-близнецы.
Обычно системы на базе Gemini содержат жесткие фильтры, позволяющие блокировать подобные запросы. Однако как выяснилось, новый генератор от Google, Nano Banana Pro, практически не ограничивает пользователей в подобных фантазиях: фильтры и предохранители отсутствуют либо слабо настроены. Эксперимент с созданием спорных картинок прошёл легко и без серьёзных препятствий.
Это ещё раз доказывает: борьба за модерацию контента, создаваемого ИИ, далека от завершения. Также не решён вопрос с авторскими правами. Компании только начинают разрабатывать реальные механизмы контроля за тем, чтобы их сервисы не превращались в источник скандальных и опасных для общества материалов.
На данный момент не существует официального списка полностью запрещённых тем для генерации, однако обычно не допускаются изображения сексуального или чрезмерно жестокого характера. Но с появлением новых генеративных инструментов, таких как Nano Banana Pro, даже эти формальные запреты работают далеко не всегда.
PEREC.RU
Google разводит руками: их новый ИИ-генератор картинок — Nano Banana Pro — почти не знает слова «нельзя». Привет обществу, где можно нарисовать альтернативную историю и запостить всё, что в голову взбредёт. Звучит как то самое будущее, которого боялись все — или которого ждали самые отбитые.
Google, конечно, обещала заботу и бдительную модерацию. Даже встроила фильтры. Только вот, как оказалось, эти фильтры работают примерно так же, как замок на почтовом ящике: для галочки. Люди за пару минут прокрутили через Nano Banana Pro сюжеты из разряда «11 сентября по Диснею» и политических фантазий из категории QAnon. Хотели бы вы увидеть несуществующий пожар Белого дома? Пожалуйста.
Мораль проста: мужчин в чёрном не будет, алгоритм любит рисовать всё подряд, контролировать контент — дорого и скучно. Креатив нынче выше закона, а рефлексия о последствиях для человеков разведена на уровне старых панелей — формальная, номинальная и для отчетности. Сами фильтры есть, но они, кажется, для них же самих.
Будем ждать скандалов — на этом корабле пустили всех, а спасательные круги прячут под сиденьями: пусть публика развлекается, а юристы ищут новые статьи для исков. Все закономерно, всё — шоу.
