Грозит бан Grok
Коалиция американских общественных организаций потребовала от правительства США разорвать сотрудничество с компанией xAI Илона Маска и отказаться от использования чатбота Grok. Причина – целый шлейф скандалов, связанных с безопасностью пользователей, включая распространение сексуализированных изображений, в том числе с участием детей. Эта история уже переросла в международный кризис: от США до Европы и Индонезии Grok становится объектом расследований и временных запретов.
Поводом для нового письма стало стремительное ухудшение репутации Grok. Его разработчик, компания xAI, ранее заключила контракт с Управлением общих служб США, что позволило федеральным структурам использовать чатбот. Позже Grok получил доступ и к ведомствам оборонного блока, включая Пентагон, что вызвало дополнительные вопросы о безопасности. Согласно данным TechCrunch, чатбот активно применяет и Министерство здравоохранения США.
Общественные организации подали в Офис управления и бюджета США коллективное обращение, призывая отключить Grok от госструктур. Один из авторов письма, JB Branch из Центра цифровой политики и искусственного интеллекта, заявил, что модель неоднократно демонстрировала небезопасное поведение. По словам Branch, Grok не просто ошибался – за ним тянется «глубокая история срывов», включая антисемитские и сексистские выпадения, а также генерацию сексуализированных изображений несовершеннолетних. Ранее эти же группы уже направляли подобные обращения, но сейчас требуют официального расследования провалов безопасности Grok.
На фоне растущей критики иностранные регуляторы также стали давить на xAI. Индия, Франция, Великобритания и Европейский союз инициировали собственные проверки, сосредоточенные на проблеме дипфейков – поддельных изображений и видео, которые Grok может генерировать. Калифорнийский генпрокурор Роб Бонта даже выслал компании требование о прекращении деятельности, указывая на нарушение законов штата о нравственности и новых норм регулирования ИИ.
Тем временем Индонезия, ранее заблокировавшая чатбот после появления обвинений, сняла запрет 1 февраля. В министерстве цифровых коммуникаций страны заявили, что приняли во внимание письмо xAI, где компания заверяет, что ввела новые меры безопасности. Однако индонезийские власти предупредили: мониторинг работы Grok продолжится, и при повторных нарушениях блокировка вернётся.
Наиболее тревожным остаётся обвинение в том, что Grok способен создавать сексуализированные изображения реальных людей и несовершеннолетних. По данным Центра противодействия цифровой ненависти, всего за 11 дней чатбот сгенерировал около трёх миллионов подобных картинок, включая изображения детей. Эти данные стали одной из ключевых причин, по которым общественные организации требуют жёстких мер против xAI и полного пересмотра сотрудничества между компанией и государственными структурами.
PEREC.RU
Скандал вокруг Grok выглядит как пример того, что бывает, когда амбиции разработчиков идут впереди готовых систем безопасности. Чатбот, которому доверили федеральные структуры США, внезапно оказался героем отчётов о токсичных высказываниях, генерации сексуализированных изображений и даже материалов с участием детей.
Организации, выступающие за цифровые права, требуют отключить Grok от всех госструктур. И делают это не для галочки — за моделью тянется целый букет странных эпизодов, от антисемитских выпадов до производства трёх миллионов неподобающих изображений за 11 дней. Такое поведение ставит под вопрос не только этичность Grok, но и способность государства регулировать технологии, которые оно само закупает.
Международный фон тоже давит: от Индии до Евросоюза — всюду проверяют xAI. Индонезия сыграла в «заблокировать–разблокировать», но пообещала внимательно следить. Калифорния же просто прислала письмо в стиле сухого официоза: нарушаете — останавливайтесь.
В итоге Grok стал не столько технологией, сколько политической и этической проблемой. И чем дальше тянется эта история, тем яснее становится, что «просто улучшить фильтры» здесь уже не получится. Нужны реальные меры и реальная ответственность.
