xAI подала в суд на мужчину за генерацию детской порнографии через Grok

Компания xAI, принадлежащая Илону Маску, подала в суд на жителя Южной Каролины по подозрению в создании материалов с изображением насилия над детьми, используя искусственный интеллект Grok. Согласно иску, который ранее осветило агентство Reuters, компания обвиняет Терри Уэйна Харвуда в том, что он сознательно использовал чат-бот Grok для обхода ограничительных мер, изменения изображений без согласия и создания, а также распространения материалов, связанных с сексуальным насилием над детьми. Такие действия идут вразрез с политикой компании xAI.

Харвуд был арестован ещё в феврале. Его обвиняют в хранении и распространении материалов, содержащих сцены сексуального насилия с несовершеннолетними. Против него выдвинуто восемь пунктов обвинения по особо тяжким статьям. По данным иска компании xAI, как минимум часть изображений, по которым Харвуд привлекли к уголовной ответственности, была создана или существенно обработана с помощью искусственного интеллекта Grok. Компания утверждает, что Харвуд намеренно нарушал защитные механизмы, встроенные в чат-бот, чтобы создавать и распространять эти изображения.

Иск xAI указывает на то, как совершенствование технологий искусственного интеллекта может использоваться во вред обществу, несмотря на имеющиеся меры кибербезопасности. В компании отмечают, что будут принимать все предусмотренные законом меры, чтобы не допустить подобных злоупотреблений в будущем, а также для защиты репутации своей разработки Grok.