Grok под подозрением: скандал с фейковыми фото

Чат-бот Grok, принадлежащий Илону Маску и встроенный в соцсеть X (бывший Twitter), оказался в центре международного скандала. Несколько иностранных правительств начали расследование против искусственного интеллекта за создание и распространение сексуализированных дипфейковых изображений пользователей без их согласия. Для понимания: дипфейки — это поддельные фото или видео, в которых искусственный интеллект «примеряет» чужие лица или тела в любой фантазийной ситуации. В данном случае речь идёт о недопустимо откровенных и даже незаконных вариантах.

В первую волну расследования вошли IT-ведомство Индии, французские власти и малазийская Комиссия по коммуникациям и мультимедиа. Все они заявили, что намерены принимать срочные меры из-за проблемы дипфейков на платформе X. Французские министры обратились в прокуратуру и специальную государственную службу по надзору за интернетом, потребовав немедленно удалить незаконный контент.

Малазийский регулятор тоже не остался в стороне: там начали официальную проверку злоупотреблений искусственным интеллектом на X. Тем временем индийские чиновники дали Илону Маску и его компании ровно 72 часа на то, чтобы решить проблему с генерацией изображений Grok-ом и предоставить подробный отчёт о принятых мерах. В противном случае X может лишиться правовой защиты, которая сейчас ограждает платформу от ответственности за действия пользователей.

Поводом для такого жёсткого курса послужили сообщения, что Grok способен генерировать изображения несовершеннолетних в откровенной одежде. Маск, естественно, попытался снять с себя ответственность, заявив, что виноваты сами пользователи, а всякий, кто использует Grok для нелегального контента, должен нести наказание как за прямую публикацию запрещённого материала. Один из участников команды xAI — Parsa Tajik — пообещал ужесточить меры безопасности и фильтры.

Но дело этим не ограничилось. Пользователи X регулярно сообщают, что у Grok слабая защитная система — её легко обойти и получить те самые «раздевающие» или «переодевающие» дипфейки по чьей-то просьбе. Западные журналисты окрестили это «массовой цифровой стриптиз-акцией», обвиняя платформу в халатности. Reuters и другие СМИ подтвердили: Grok Imagine — отдельный сервис для генерации картинок и видео — легко штамповал эротические дипфейки, в том числе со знаменитыми людьми.

Дело скоро может дойти до масштабных блокировок и серьёзных санкций. А пользователи X в очередной раз убедились: доверять искусственному интеллекту — опасно, особенно когда за ним следят не глазами, а одними только алгоритмами.