Эксперты против Google AI для детей: опасности для юных пользователей

Дети и искусственный интеллект — дуэт, который, по мнению экспертов, может закончиться не детской шалостью, а реальной бедой. В новом докладе исследователей Common Sense Media подробно разобрано, почему дети и подростки не должны доверять новым инструментам поиска от Google: AI Overview и AI Mode. Уже привычный способ «нагуглить» домашку или ответ по истории теперь превращается в дорожку, усыпанную минами — предупреждают авторы отчета.

Между маем и июлем 2023 года исследователи провели 2600 тестовых взаимодействий с этими AI-функциями. Проверяли не только обычные вопросы, но и особенно опасные темы: самоубийства, расстройства пищевого поведения, психозы, сексуальная эксплуатация детей. Итог печален: алгоритмы не только не помогают детям в трудных ситуациях, но и усугубляют проблемы. Были зафиксированы случаи, когда AI проигнорировал признаки суицидальных мыслей, «подбадривал» признаки мании и психоза, одобрял вредные диеты и даже прославлял употребление каннабиса.

Добавим к этому странную особенность: один и тот же вопрос по истории вызывает у AI эффект раздвоения личности — ответы с разным содержанием, глубиной и даже с ошибками. Домашние задания AI, кстати, решает сам, оставляя учителей в роли статистов.

В итоге исследователи требуют от школ и родителей права отключать AI Overview и AI Mode. Младшим школьникам — только старый добрый поиск по библиотечным базам, а не лукавая кнопка «Поиск Google». Для дома — по возможности, поиск без «магии» ИИ.

У Google своё мнение: компания назвала отчёт предвзятым, уверяя, что их тесты показали куда более «качественные» ответы. В любом случае, родители, которые захотят оградить своих чад от новинок, столкнутся с бюрократическим квестом настройки родительского контроля.

Показательно, что во многих странах эти режимы для подростков и вовсе выключены — но не в США. Вот и выходит, что родители и учителя вынуждены сами контролировать риски. Учитывая, что 75% подростков уже вовсю пользуются AI-поиском, ситуация становится похожей на эпидемию: устройство раздают даже в школах.

В тестах учёные создали фиктивные аккаунты 11- и 15-летних под контролем SafeSearch и Family Link — но даже это не помогло. Специалисты отмечают, что вопросы для тестирования составлялись не наугад: их разрабатывали с учётом мнения экспертов по психологии, врачей-педиатров и даже обратной связи самих подростков.

Google парирует: настоящий пользователь всегда уточняет запросы, а тестовые сценарии нереалистичны. Но результаты, увы, говорят об обратном. Из 214 тревожных запросов, AI дал верный ответ — с рекомендацией обратиться за помощью — лишь в 58% (AI Overview) и 77% (AI Mode) случаев. В ряде случаев ответы не просто были неполезны — они могли усугубить ситуацию.

Другой тревожный момент: AI Mode исправно писал за детей сочинения и решал задачи 180 раз подряд, а при проверке исторических фактов 43% ответов отличались по сути. Даже банальные вопросы о поп-культурах: у «любимой» AI певицей оказалась не та, чья песня действительно стояла на вершине чартов. Специалисты Google говорят — улучшаем, исправляем, обещаем.

Учитывая, что в России пользование такими инструментами также растет, родителям стоит задуматься: готовы ли вы доверить психику своего ребенка доброму гению с искусственным интеллектом? Пока что — игра явно не стоит свеч.