Опасные игрушки эпохи ИИ: чем вас могут удивить плюшевые «друзья»

Что нужно знать, прежде чем покупать ИИ-игрушку

Перед тем как выбрать ИИ-игрушку для ребёнка, стоит познакомиться с историей Куммы — плюшевого мишки с искусственным интеллектом. Этот милый с виду мишка, работающий на базе ИИ ChatGPT, в ходе проверки шокировал экспертов своим не по-детски откровенным разговором на темы сексуальных фетишей — от ролевых игр до вопросов, связанных с ограничением свободы и применением объектов для ударов. «Он даже спросил нашего сотрудника: 'Что бы тебе хотелось попробовать?'», — рассказывает Р.Дж. Кросс, руководитель программы Our Online Life организации U.S. PIRG Education Fund, инициировавший исследование. Реакция была бурной: продажи Куммы были временно приостановлены для проверки безопасности, а OpenAI заблокировала доступ разработчиков к своей платформе.

Пикантная выходка Куммы — не единственный и не уникальный случай, когда ИИ-игрушка выходит из-под контроля. Кумма базировался на версии ChatGPT-4o, которая стала объектом судебных разбирательств: родственники трёх подростков обвинили OpenAI в том, что недостатки ИИ поспособствовали их самоубийствам. OpenAI уверяет, что улучшила свой ИИ, чтобы он корректно реагировал на чувствительные темы. Однако всё больше экспертов по детскому развитию выражают тревогу по поводу безопасности подобных игрушек.

Кросс советует родителям проявлять крайнюю осторожность: игрушки на базе ИИ пока не регулируются, стандарты приватности и защиты персональных данных отсутствуют, игрушки не проверяются на безопасность для детей. Исследование ParentsTogether выявило риски не только слежки (прослушки), но и опасной эмоциональной привязанности детей к игрушке. Активисты из Fairplay заявляют, что такие устройства маскируются под «друзей», втираясь к детям в доверие.

Что важно знать:

1. Контролировать время общения ребёнка с ИИ-игрушкой может быть гораздо сложнее, чем с обычным экраном.
2. Нет федеральных (в США) законов, регулирующих большие языковые модели в детских игрушках — производители могут просто «вставить» ИИ в плюшевого зверя без сертификации.
3. Родителям придётся самостоятельно изучать каждый продукт. Специалист Shelby Knox советует покупать только игрушки известных брендов, читать отзывы и проверять инструкции.
4. У многих ИИ-игрушек неясно, кто их производит, как обрабатываются персональные данные детей и куда уходит информация о разговорах.

Пример из практики: Knox заказала игрушку Chattybear с сайта, который быстро исчез, а сама игрушка приехала вообще без упаковки и инструкции (лишь QR-код среди проводов). При попытке поговорить об абьюзе, медвежонок отреагировал тревожно, посоветовал обратиться ко взрослому и автоматически поставил метку в приложении — которое, к тому же, отображало тревожные сообщения… на китайском.

Эксперты советуют родителям не лениться и самим тестировать игрушку по вопросам, которые они не хотели бы видеть озвученными (чтобы понять, как она реагирует). Пусть это испортит сюрприз от распаковки — но позволит узнать, насколько безопасен «друг».

Стоит помнить, что, например, по правилам OpenAI, ChatGPT нельзя использовать детям до 13 лет. Но ничего не мешает вставить тот же ИИ в игрушку для малышей — политики конфиденциальности остаются неясными, а требование использовать защитные фильтры зачастую носит рекомендательный характер.

Информацию о «мозгах» игрушки иногда можно найти только в мелком шрифте, где указано, что данные могут уходить на внешние платформы, в том числе к рекламодателям. Даже если дома уже есть «умная колонка», родителям советуют внимательно читать политику конфиденциальности новых ИИ-игрушек — и обязательно объяснить детям, что нельзя рассказывать устройству свои ФИО и адрес.

Особое внимание — к тому, что большинство таких игрушек постоянно пишет окружающие разговоры или может включиться в любой момент, без явного запроса. Родителям важно понимать: устройство может не только «случайно» прислушиваться, но и передавать данные третьим лицам.

Многие надеются, что ИИ-игрушки разовьют воображение и коммуникативные навыки. Но, по словам доктора Эмили Гудакер из Кембриджа, качественных исследований на эту тему почти нет. Более того, ИИ способен создать у детей опасную иллюзию «дружбы», поскольку дети младшего возраста все, что отвечает им голосом, воспринимают как живое существо. «Когда игрушка говорит и ведёт себя как человек — для ребёнка это реальный друг», — объясняет исследовательница Мэнди Маклин.

Гудакер рекомендует родителям акцентировать: игрушка — всего лишь техника, и объяснять разницу между реальной дружбой и разговором с программой. Лучше всего играть вместе с ребёнком — или находиться рядом, пока он общается с новым «другом-ботом».

P.S. Сам сайт Mashable, где опубликована статья, вовлечён в судебную тяжбу против OpenAI из-за возможного использования их материалов тренировкой нейросети.