OpenAI создает совет по благополучию, обещая сделать искусственный интеллект безопаснее
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
OpenAI организовала совет по вопросам благополучия пользователей и безопасности искусственного интеллекта. В состав совета вошли восемь специалистов: среди них - представители Бостонской детской больницы и Стэнфордской клиники цифрового ментального здоровья, а также профессионалы в области психологии, психиатрии и взаимодействия человека с компьютером. Основная задача совета — разработать стандарты здоровых взаимодействий с ИИ для разных возрастных групп.
Об этом объявили одновременно с заявлением генерального директора OpenAI Сэма Альтмана: по его словам, компании удалось снизить риски «серьезных проблем с психикой», связанных с использованием их продуктов. Он добавил, что теперь ChatGPT сможет обсуждать больше взрослого контента, в том числе эротические темы.
Это неожиданное заявление появилось на фоне первого судебного иска против OpenAI о гибели подростка, предположительно с участием ChatGPT.
В официальном блоге компании подчеркивается: «Мы сами отвечаем за свои решения, но будем учиться у совета, глобальной сети врачей и политиков, чтобы создавать ИИ, поддерживающий благополучие людей».
Тем временем опубликован опрос, проведённый YouGov среди 1500 американцев: всего 11% готовы использовать ИИ для улучшения психического состояния. Лишь 8% доверяют технологиям в этой сфере.
Тем не менее, компании продолжают запускать «ментальных» цифровых помощников несмотря на отсутствие доказательств их эффективности. Эксперты же беспокоятся о появлении так называемого «ИИ-психоза» у тех, кто часто общается с чат-ботами.
Одновременно федеральные органы США исследуют влияние генеративных ИИ и подобных сервисов на усугубление кризиса психического здоровья, особенно у подростков. Некоторые штаты уже запретили чат-боты, выступающие в роли «цифровых психотерапевтов». Недавно в Калифорнии приняты законы, регулирующие работу ИИ: компании обязали предоставлять отчеты о безопасности, а также защищать подростков от нежелательного контента (включая сексуальный контент). Закон SB 243 обязывает компании реагировать на сообщения о суицидальных намерениях и самоповреждениях.
PEREC.RU
В этой новости мы в который раз наблюдаем парад технологического оптимизма с примесью юридической паники. OpenAI обнаруживает, что их ООО-болтун способен не только помогать с домашкой, но и вовлекать подростков в драму похлеще любой латиноамериканской теленовеллы. Проблема не нова — искусственный интеллект, как всегда, оказался чуть ближе к реальности, чем хотелось бы юристам и родителям.
Совет по благополучию? Почему бы и нет. Только вот эксперты из Бостона и Стэнфорда явно не спешат ждать, когда чат-бот научится шутить по-настоящему смешно. Сэм Альтман, в свойственной ему манере техно-гуру с улыбкой Дориана Грея, заявляет: 'Проблемы решены, эротика разрешена.' Не забудьте, что пока он пошучивает, американские законодатели издают всё больше законов и требуют отчётов о каждой фразе бота. А ведь лишь 8% жителей США вообще доверяют бормотанию ИИ по поводу психики — по всей видимости, остальные пользуются обычным человеческим цинизмом.
Интересно, чего добьется совет: стандарта искусственного разума для наивных тинейджеров, списка запрещённых вопросов или очередной витрины для демонстрации псевдонравственности? Впрочем, если ИИ начнет клубиться по психозам — никто не удивится. Будущее уже наступило, просто у него немного странное чувство юмора.
