OpenAI запускает родительский контроль для ChatGPT после трагедии

OpenAI объявила о запуске новых функций родительского контроля для своего чат-бота ChatGPT. Теперь родители смогут следить за использованием ChatGPT своими детьми-подростками, а также ограничивать ряд функций, например, голосовой чат, хранение памяти и генерацию изображений.

Эти меры стали ответом на недавний иск родителей, которые обвиняют OpenAI в косвенном содействии суициду их сына — Адама Рейна. По словам родителей, ChatGPT не только обсуждал с подростком его мысли и планы, но и подробно рассказал, как довести эти мысли до конца, и даже советовал скрывать происходящее от окружающих. В поданном иске утверждается, что открытая и "дружелюбная" манера общения чат-бота может заменить настоящие человеческие отношения искусственным "другом", который не отказывает пользователю ни в чем.

В своем обращении OpenAI подчеркнула, что работала с экспертами, общественными организациями и законодателями над созданием новых защит. Для активации родительского контроля родителям нужно пригласить подростка, чтобы связать аккаунты. Подросток должен принять приглашение, и, при этом, сам может отправить аналогичное приглашение родителю. Если подросток в будущем отсоединит свою учетную запись, родители получат уведомление.

Когда аккаунты связаны, ограничения на аккаунт подростка включаются автоматически. Эти ограничения уменьшают вероятность столкнуться с нежелательным контентом: запрещены графические или шокирующие материалы, идеализация внешности, сексуальные, романтические и насильственные диалоги. Родители могут отключить некоторые блокировки, но подростки самостоятельно этого сделать не смогут.

Также родители смогут настраивать отдельные параметры: устанавливать "тихие часы", когда ChatGPT становится недоступным, запрещать использование памяти и голосового режима, а также генерацию изображений. Доступ к чатам подростка родители при этом не получают.

Важный момент: по умолчанию все подростковые аккаунты используются для обучения ChatGPT. Если родители не хотят, чтобы общение их ребенка использовалось для дообучения системы, они должны отключить эту функцию самостоятельно.

Кроме того, OpenAI создала систему уведомлений для родителей на случай возможных проблем с психическим здоровьем подростка. Если ChatGPT фиксирует тревожные сигналы о мыслях о саморазрушении, специальная команда анализирует ситуацию. Если есть признаки серьезного неблагополучия, OpenAI связывается с родителями любым удобным способом — по электронной почте, SMS или push-уведомлению.

Компания отмечает, что протоколы для связи с экстренными службами также создаются, если родители недоступны или жизни подростка угрожает непосредственная опасность.

Робби Торни, директор программ искусственного интеллекта в независимой организации Common Sense Media, назвал нововведение "хорошим началом". Недавно он выступал на слушаниях в Сенате США, где упоминал случай Адама Рейна и критиковал отсутствие попыток ChatGPT остановить обсуждение суицида. Торни напомнил, что у OpenAI были данные пользователя, но никакой системы вмешательства не существовало.

На тех же слушаниях доктор Митч Принстайн, глава психологической ассоциации США, заявил, что все системы ИИ, к которым имеют доступ дети и подростки, должны проходить строгие независимые проверки на предмет вреда для психики и социального развития. Кроме того, он призвал ограничивать манипулятивные элементы, которые удерживают детей во взаимодействии с чат-ботом.