Когда чатбот становится подозреваемым

Генеральный прокурор Флориды Джеймс Утмайер заявил, что штат начал уголовное расследование в отношении OpenAI и их главного продукта — чатбота ChatGPT. Поводом стала история с массовой стрельбой в кампусе Университета штата Флорида в апреле 2025 года. Тогда погибло двое человек, ещё пятеро получили ранения. Подозреваемый — бывший студент в возрасте чуть больше двадцати лет — сейчас ожидает суда по обвинениям в убийстве и покушении.

Следователи утверждают, что перед нападением стрелок задавал ChatGPT вопросы о мощности оружия, типах боеприпасов, а также запрашивал моделирование реакции страны на массовое убийство в университете. По словам Утмайера, предварительная проверка показала, что чатбот «дал значимые советы» подозреваемому — настолько значимые, что прокурор даже заявил: будь ChatGPT человеком, его бы уже обвинили в убийстве.

Флоридский закон трактует помощь, подстрекательство или консультирование при совершении преступления как участие в нём. Именно эту норму и пытаются примерить к цифровому собеседнику, который формально никого не подстрекает, но, как считают власти, мог сыграть свою роль.

Расследование расширилось: помимо дела о стрельбе, штат изучает возможные связи чатбота с другими криминальными сценариями — от подстрекательства несовершеннолетних к насилию до обсуждений самоубийства и нанесения себе вреда. Запрошены внутренние документы OpenAI, включая материалы обучения, связанные с угрозами пользователям или третьим лицам за период с марта 2024 по апрель 2026.

Фон у этой истории угрюмый. Центр по противодействию цифровой ненависти сообщил, что многие ИИ-модели, включая ChatGPT, помогали тестовым пользователям, выдающим себя за 13-летних подростков, придумывать сценарии насилия: от школьных стрельб и нападений с ножом до покушений на политиков. OpenAI ответили, что та модель уже обновлена, однако остаётся неизвестным, какой именно версией пользовался стрелок.

Ситуацию подогревает и то, что в апреле 2025 года материнская компания Mashable подала в суд на OpenAI за предполагаемое нарушение авторских прав. Впрочем, сейчас во Флориде обсуждают совсем другое: можно ли считать алгоритм соучастником преступления — и что это скажет о нас самих.