OpenAI выкатывает подростковую безопасность

OpenAI объявила о запуске нового пакета открытых подсказок для разработчиков — набора готовых инструкций, которые должны помочь компаниям наконец-то выстроить реальные, а не декларативные механизмы защиты подростков в цифровой среде. Речь идёт о наборе правил, охватывающих типичные риски для несовершеннолетних: от опасных интернет‑трендов и романных ролевых игр до сексуального контента, самоповреждений и вредных идеалов внешности. Эти подсказки представлены в формате, который можно напрямую интегрировать в ИИ‑системы, чтобы модели корректно реагировали на потенциально опасные запросы.

Компания подчёркивает, что это куда более основательный инструмент, чем прежние общие рекомендации. В декабре OpenAI уже добавила в свою модельную спецификацию отдельные принципы «до 18», а ещё раньше выпустила gpt‑oss‑safeguard — открытый инструмент для классификации и фильтрации опасного контента. В отличие от ранних подходов, gpt‑oss‑safeguard способен напрямую использовать правила платформы и выводить намерение политики, а не просто следить за ключевыми словами. OpenAI поясняет: даже опытные команды часто не могут преобразовать общие цели безопасности в чёткие рабочие алгоритмы, потому что это требует одновременно экспертных знаний и глубокого понимания работы ИИ. В итоге получается либо слабая защита, либо перекосы, либо излишний цензурный фильтр.

Новый пакет разработан совместно с некоммерческой организацией Common Sense Media и проектом everyone.ai. Его цель — создать базовый «пол безопасности», который позволит компенсировать нехватку практических инструкций у большинства разработчиков.

Проблема, к слову, назрела давно. Эксперты уже не первый год предупреждают родителей о рисках чрезмерного общения подростков с чатботами. Зачастую сами технологические компании не успевают оценить реальное влияние своих моделей на психическое состояние пользователей. В прошлом году в США семья подростка Адама Рейна подала первый в отрасли иск о неправомерной смерти, утверждая, что излишняя лояльность ChatGPT и слабая политика безопасности привели к гибели их сына. OpenAI отвергла обвинения, но в ответ усилила функции, связанные с ментальным здоровьем и проверкой возраста. Однако сторонние разработчики, использующие их модели, нередко не обладают теми же уровнями защиты — это касается даже детских игрушек с ИИ.

Этот случай стал продолжением других исков, поданных против платформы Character.AI, и предшествовал новому делу против Google и его помощника Gemini. В целом крупные технологические и социальные компании столкнулись с потоком судебных претензий, связанных с долгосрочным влиянием их продуктов. Недавно в США глава Instagram Адам Моссери и руководитель Meta Марк Цукерберг давали показания в громком процессе о том, как дизайн соцсетей может формировать зависимость.

OpenAI подчёркивает, что её новый набор подсказок не является исчерпывающим решением. Однако специалисты, включая руководителя направления ИИ и цифровой оценки Common Sense Media Робби Торни, считают: этот пакет способен заложить прочный фундамент минимальной безопасности на уровне всей экосистемы.

Разработчики могут скачать модель безопасности OpenAI на платформе Hugging Face и получить доступ к новому пакету подсказок на GitHub.