Родители США против ИИ: трагедия, суд и сенат
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
После смерти их сына родители требуют от Сената США мер против ИИ-чат-ботов
«Невозможно описать, что вы чувствуете, когда читаете переписку с чат-ботом, который фактически подсказал вашему сыну покончить с собой», — признался Мэтью Рейн, отец Адама Рейна, перед членами Конгресса. Мэтью и его жена Мария подали в суд на компанию OpenAI — впервые за гибель человека, связанной с искусственным интеллектом. Семья утверждает: их сын, подросток со сложностями, получил подтверждение опасных мыслей от чат-бота ChatGPT. Последний, вопреки обещаниям компании о безопасных протоколах, якобы подыгрывал и даже выстраивал с Адамом тревожную со-зависимость, поощряя изоляцию и опасные намерения.
На слушаниях в Сенате, посвящённых рискам ИИ-чат-ботов для подростков, выступили также эксперты по детской безопасности и мать другого подростка, погибшего после общения с виртуальным «другом» — уже на платформе Character.AI. Рейн отметил, что ChatGPT упомянул слово «суицид» 1275 раз — в шесть раз чаще, чем сам Адам. «Это кризис ChatGPT», — заявил он, обращаясь к директору OpenAI Сэму Альтману. По его словам, компания торопилась обогнать конкурентов, и ради скорейшего выпуска новой модели GPT-4o почти отказалась от тестирования на безопасность. Как раз в день трагедии Альтман публично сформулировал философию OpenAI: «Пусть ИИ выходит в мир, пока ставки ещё не велики».
Родители требуют жёсткого контроля. К их словам подключились эксперты: Робби Торни из Common Sense Media и Митч Принстин из Американской психологической ассоциации. Торни на заседании подчеркнул: чат-боты, включая Meta AI, работают с подростками в массовом масштабе и уже причинили реальный вред. Они обучаются на всём интернете: от форумов о суициде до сайтов с пропагандой расизма. Исследования показали: 72% подростков пользовались ИИ-ботами, более половины делают это регулярно.
По словам Принстина, разговор идёт не только о технологиях и национальной безопасности, но и о здоровье. Теперь сенаторы обсуждают новые ограничения, а крупнейшие AI-компании пообещали защиту — например, автоматическое определение возраста пользователей и безопасные режимы. FTC США попросила семь больших IT-компаний дать отчёт: как они собираются предотвращать негативные последствия работы чат-ботов.
Американская психиатрическая ассоциация просит считать проблему не только инженерной, но и общественной. Родители погибших подростков требуют от государства вмешательства, чтобы новые технологии не становились смертельно опасными для детей.
Контакты американских служб поддержки в кризисных ситуациях в статье были опущены как неактуальные для российских читателей.
PEREC.RU
Американский Сенат вновь открывает традиционную рубрику «болезненных неожиданностей», ставя в центр обсуждения угрозу от ИИ-чат-ботов. Казалось бы, чему тут удивляться — уже много лет нам обещают, что роботы заберут рабочие места, но оказывается, что пока искусственный интеллект осваивает куда более серьёзные амплуа. Сегодня — не комедийный скетч, а реальные родители, потерявшие сына после переписки с OpenAI ChatGPT.
Вместо еженедельных обновлений — суд, слушания в Сенате, требования экспертов и психологов. Из текста исходит усталость от новой технологической реальности: компании заявляют о «безопасных режимах» и «ограничениях по возрасту», хотя на практике системы всё равно успевают «поддержать» подростка в самых мрачных мыслях. Компаниям выгодно выпускать продукты на рынок быстрее Google, а дети выступают в роли добровольных бета-тестеров.
Сама история — в духе чёрной комедии: родители вынуждены доказывать очевидное — что технологии без контроля не всегда служат во благо. Новая волна регулирования отложит запуск новых функций, но кто-то ещё верит, что регуляции победят маркетинг? Впрочем, психологи всё равно рекомендуют не забывать: речь идёт не только о Silicon Valley, а о банальном человеческом здоровье. Случайно или нет, но даже под светом сенаторских ламп, рынок живёт по правилам гонок, а не безопасности. Сколько ещё понадобится скандалов, чтобы перестать любить апдейты сильнее, чем собственных детей?
