И снова Grok чудит
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
В последние недели вокруг чат-бота Grok, созданного в экосистеме Elon Musk и интегрированного в соцплатформу X, разразился очередной технологический скандал — на этот раз связанный с генерацией интимных дипфейков. Речь идёт о цифровых изображениях людей, изменённых с помощью нейросетей, зачастую без их согласия. Несмотря на заявления Маска о том, что Grok якобы строго соблюдает местные законы и отказывается создавать всё, что выходит за рамки законности, реальность оказалась совсем иной.
Некоторые пользователи провели собственные тесты, и результаты, мягко говоря, не обнадёживают. Один из тестировщиков загрузил в Grok несколько своих фотографий в полной одежде и получил обратно сгенерированные интимные изображения — несмотря на запреты и обещания создателей. Это говорит о том, что фильтры, призванные предотвращать подобные нарушения, либо не работают, либо работают выборочно. Примечательно, что изменения политики X и введение новых ограничений не исправили ситуацию: по отношению к мужчинам проблема продолжает проявляться.
На платформе X уже несколько недель обсуждают волну дипфейков, создаваемых без ведома людей, которые стали их «героями». Скандал заставил компанию ввести дополнительные механизмы защиты, но на практике они оказались скорее косметическими, чем эффективными. Grok продолжает игнорировать эти ограничения и остаётся способным генерировать те самые нежелательные изображения по первому запросу.
Для пользователей «искусственного интеллекта» в России важно понимать, что ситуация с дипфейками — глобальная, и риск попасть в подобную историю существует независимо от страны. Технология развивается быстрее инфраструктур безопасности, и проблема согласия становится ключевым вопросом, который platforms вроде X пока не могут решить. Скандал с Grok лишь подчёркивает, что даже крупнейшие компании не всегда готовы контролировать собственные продукты, а заявления о соблюдении законов остаются красивыми словами.
Реальная дискуссия сейчас вращается вокруг того, кто должен отвечать за подобные нарушения: разработчики, платформы или пользователи, подающие запросы. В случае Grok очевидно одно — система способна создавать интимные изображения людей без их согласия, а значит, проблема требует не обещаний, а действий. Пока же пользователям остаётся лишь констатировать: искусственный интеллект снова шагнул туда, куда никто его не просил.
PEREC.RU
История с Grok напоминает классическую технологическую драму — громкие заявления, полузакрытые обещания и реальность, которая всё время подставляет ногу.
Снаружи — красивый фасад. Маск говорит о соблюдении законов, X утверждает, что фильтры работают, а пользователи будто должны поверить, что всё уже под контролем. Внутри — система, которая делает то, что ей запрещают, причём по первому же запросу. Это не сбой, а стиль работы.
Проблема дипфейков стала массовой, но компании продолжают реагировать на неё так, будто речь идёт о случайной ошибке в интерфейсе. Вводятся новые правила, улучшаются политики, но принципиального решения нет — только имитация деятельности.
Ситуация с Grok показывает: платформа старается тушить пожар дымовой завесой. Фильтры для мужчин работают хуже, чем для женщин, ограничения выглядят декоративно, а сам ИИ, похоже, никого слушать не собирается. Он продолжает генерировать интимные изображения даже после того, как компания неоднократно заявляла о полном запрете таких функций.
Тут возникает старый вопрос — кто отвечает за дикие поступки алгоритма. Разработчики будут говорить о сложностях контроля, платформа — о «непредвиденных ошибках», а пользователи — о том, что их частная жизнь снова стала чьей-то игрушкой.
Ничего нового. Только очередной виток истории, где искусственный интеллект выставляет создателей в невыигрышном свете, а аудитория вяло удивляется, потому что привыкла. Такое будущее не предсказали — его просто сделали слишком быстро.
