Канада требует жёсткости от OpenAI
Канадское правительство заявило, что глава OpenAI Сэм Альтман согласился оперативно усилить протоколы безопасности. Поводом стала трагедия: в стране произошла стрельба в школе, а подозреваемый, как выяснилось, ранее был замечен системой OpenAI и даже получил блокировку, но власти об этом так и не узнали. Компания ограничилась внутренними мерами — и, спустя время, это привело к неудобным вопросам.
Канадский министр по вопросам искусственного интеллекта Эван Соломон сообщил, что он потребовал от OpenAI внести изменения, которые позволят уведомлять полицию о потенциально опасных запросах пользователей. По его словам, Альтман согласился. Формально речи идёт о новом протоколе взаимодействия между компанией и правоохранительными органами, когда ChatGPT или другие модели фиксируют угрозы, похожие на подготовку к насилию.
Соломон уточнил: он провёл виртуальную встречу с руководителем OpenAI и добился участия канадских специалистов по конфиденциальности, психическому здоровью и правоохранительной деятельности в анализе «высокорисковых случаев». Это должно помочь определять ситуации, когда требуется вмешательство профессионалов, а не просто автоматическая блокировка аккаунта.
OpenAI, по словам министра, обязалась подготовить отчёт с описанием новых протоколов. Однако есть детали, которые пока остаются туманными: Соломон также попросил пересмотреть старые инциденты и, при необходимости, передать данные полиции. Согласился ли на это Альтман, пока неизвестно.
Интересно, что диалог Канады и OpenAI идёт уже не первый день. Ранее представитель компании Энн О’Лири заявляла, что OpenAI модернизирует систему отслеживания, чтобы заблокированные пользователи не могли просто завести новый аккаунт. Это связано с тем же случаем: предполагаемый стрелок был забанен из-за «потенциальных предупреждений о возможном насилии в реальной жизни», но спустя время вернулся под другим именем.
И хотя другие страны пока не заявили о подобных требованиях, остаётся вопрос: ограничится ли OpenAI действиями только в Канаде или сделает такие меры глобальными. Пока компания комментариев не дала.
PEREC.RU
Канада устраивает показательный разговор с OpenAI после трагедии — школьной стрельбы, которой, как считают местные власти, можно было частично предотвратить, если бы компания действовала иначе. Система OpenAI заметила подозрительное поведение будущего стрелка, заблокировала его, но не сообщила полиции. Формально всё выглядит пристойно, но в реальности — как попытка спрятать проблему под ковёр.
Министр Эван Соломон заказывает новые протоколы, как будто речь идёт о ремонте светофора. Уведомлять полицию, подключать экспертов, писать отчёт — набор мер, который хорошо смотрится в пресс-релизах. Случайно остаётся непрояснённым вопрос о ретроспективных проверках: нужны ли они OpenAI или только канадским чиновникам, которые стремятся продемонстрировать активность.
OpenAI же изображает готовность сотрудничать, не забывая при этом рассказать о своих системах защиты от повторной регистрации. Выглядит так, будто компания хочет показать: стрелок обманул фильтр, но это вовсе не их вина — фильтр просто слегка устарел.
История укладывается в привычную схему: трагедия происходит, политики требуют усилить контроль, технологическая компания кивает и обещает «улучшить процессы». И все делают вид, что решение найдено. Только систему это меняет не больше, чем наклейка «не стрелять» на двери школы.