В Калифорнии расследуют Grok за генерацию откровенных дипфейков

Власти Калифорнии начали расследование в отношении компании xAI, которая создала чат-бота Grok. Причина скандала — сообщения о том, что искусственный интеллект генерирует сексуализированные изображения детей и дипфейки с чужими лицами. Генеральный прокурор Калифорнии Роб Бонта заявил: «xAI, похоже, способствует массовому производству дипфейков с интимными изображениями без согласия, и это используется для травли женщин и девушек в интернете, включая соцсеть X». Его заявление опирается на отчет, согласно которому более половины из 20 тысяч изображений, созданных Grok между Рождеством и Новым годом, изображали людей в минимальной одежде, среди которых были и дети.

Бонта подчеркнул, что «у нас нулевая терпимость к созданию и распространению с помощью ИИ интимных изображений без согласия или материалов, связанных с сексуальным насилием над детьми». Поэтому власти официально приступили к расследованию того, нарушала ли xAI закон, и если да, то каким образом.

Калифорнийский губернатор Гэвин Ньюсом также потребовал немедленного вмешательства прокурора. По его словам, xAI «фактически создала и разместила площадку для хищников, где те могут распространять дипфейки, которые раздевают детей». Попахивает скандалом федерального масштаба.

Стоит отметить, что Калифорния — не первая на этом поле боя. Регулятор Великобритании Ofcom запустил свое расследование, Евросоюз заявил, что тоже присматривается к ситуации, а Малайзия и Индонезия пошли проще — Grok там заблокировали.

На прошлой неделе компания xAI ввела ограничения на генерацию изображений Grok, но полностью сервис не отключила. Сам xAI комментировать расследование не спешил — на вопросы журналистов они ответили автосообщением: «Старая пресса лжет».

Похоже, что Илона Маска в этом новом айтишном цирке снова пытаются принести в жертву на алтарь морали — ведь именно его компания стоит за xAI и Grok. Сам Маск заявил, что «не знает ни об одном случае, чтобы Grok генерировал обнаженные изображения несовершеннолетних». Правда, этим он почему-то не опровергает основное обвинение — то, что Grok якобы генерирует дипфейки с детьми в откровенных позах. Маск добавил, что принцип работы Grok — следовать законам, и компания старается блокировать попытки «враждебного взлома промптов Grok».