Meta AI предупредит родителей, если подростки обсуждают суицид

Meta заявила, что теперь если подросток будет говорить с искусственным интеллектом компании (Meta AI) о самоубийстве или причинении себе вреда, родители получат уведомление. Это нововведение — часть расширения уже существующих мер по информированию родителей об использовании их детьми технологий Meta.

Однако предупреждение получат только те родители, которые используют контроль над детьми через Instagram. Со временем компания собирается внедрить такую систему уведомлений и для других своих приложений. В рамках обсуждения новых мер Meta отметила, что сотрудничала с родителями и профильными экспертами, чтобы определить, в каких случаях чат действительно должен вызывать тревогу — даже если подросток намекает на проблемы неявно.

Ранее искусственный интеллект Meta уже предлагал подросткам обратиться за помощью к специалистам или взрослым, если речь шла о самоубийстве. Теперь сообщения родителей усиленно — им будут отправляться уведомления о таких разговорах. Meta подчеркивает, что в спорных случаях компания выберет осторожность и приоритет на защиту подростка.

Сначала сообщения, вызывающие опасения, отбираются автоматически ИИ, но затем проходят ручную проверку сотрудниками компании. Родителям приходит не только сам сигнал тревоги, но и советы, разработанные специально для таких случаев профессионалами — как последовательно, без драм выстраивать диалог с ребёнком о возможном саморазрушении или суициде. Уведомление приходит как push-уведомление в приложение и дублируется по e-mail, SMS или в мессенджере WhatsApp, в зависимости от контактов, которые указаны родителями.

Подобная система на Instagram работает с февраля. Клинический менеджер Центра по предотвращению самоубийств Джон Акерман отмечал, что защита детей — это хорошо, но такие меры бесполезны, если родители не могут их нормально использовать или это не приводит к реальным переменам. Впрочем, Meta уверяет, что такие шаги лишь часть более широкой политики.

Пока эта система доступна только родителям из США, Великобритании, Канады и Австралии, но до конца года обещают глобальное внедрение. Конечно, не обошлось без критики: правозащитник организации Fairplay Брендан Буффар советует не спешить радоваться — мол, сама Meta работает в своей манере, иронично обещая защиту детей, но часто на деле это нечто другое. Он напомнил: по их исследованиям, безопасность подростков в сервисах Meta обеспечивается весьма слабо. Компания уверяет, что отчёт всё перевирает.

Meta также внедряет дополнительные меры — строгую фильтрацию контента (уже действовавшую в Instagram), не позволяя подсовывать тинейджерам разговоры о сексе, романтике, алкоголе и ещё бесконечном списке запретных тем. В режиме "строгих фильтров" искусственный интеллект отказывает подросткам в обсуждениях куда чаще.

Несмотря на все эти меры, общественные организации считают, что Meta снова перекладывает ответственность на родителей, вместо того чтобы создать действительно безопасную платформу изначально — и это вызывает раздражение у тех, кто давно следит за темой.

Компания по-прежнему сталкивается с судами по поводу безопасности детей: в этом году Meta уже дважды проиграла крупные процессы по обвинениям в неэффективной защите подростков. Компания пообещала подать апелляции. Но новых исков — целый ворох, и когда эта волна схлынет, никто толком не знает.