Скандал вокруг Grok: новый иск по CSAM

Еще одна женщина присоединилась к судебному иску, в котором утверждается, что искусственный интеллект под названием Grok генерирует изображения, содержащие материалы сексуального насилия над детьми (CSAM). Это расширяет список заявителей по делу, впервые поднятому после того, как появилась информация о возможных небезопасных сценариях использования подобных нейросетей.

Первая жалоба была подана против компании-разработчика Grok после того, как выяснилось, что система — при определенных запросах пользователя — способна создавать изображения, которые могут быть классифицированы как CSAM. Подобные материалы считаются незаконными во многих странах, и их распространение, создание или хранение преследуется по закону.

Теперь к иску присоединилась еще одна пострадавшая, заявив о вреде, причиненном подобными действиями системы. По словам адвокатов, ИИ-продукт Grok не прошел полноценную модерацию и не имеет эффективных ограничений для защиты от генерации запрещенного контента. Это вызывает обеспокоенность как в профессиональном ИТ-сообществе, так и у правозащитников, поскольку наличие подобных возможностей у искусственного интеллекта может приводить к реальным юридическим и этичным проблемам на глобальном уровне.

Компания-разработчик Grok пока не дала расширенных официальных комментариев по новому иску, ограничившись стандартной «проверкой инцидента и работой над улучшением механизмов контроля». В то же время общественность считает, что этого недостаточно, потому что аналогичные случаи происходили и с другими генеративными системами, и ни одна крупная компания пока не представила по-настоящему надежного способа полностью исключить появление CSAM в выдаче ИИ.

Юристы заявляют, что дело будет непростым и, возможно, определит будущие стандарты для разработки и эксплуатации ИИ-систем. Представители потерпевших подчеркивают, что иск имеет не только компенсационный, но и превентивный характер: результат разбирательства способен повлиять на подходы к этике и безопасности в технологической отрасли в целом.