Как ChatGPT оказался в игрушках для детей?
Следите за новостями по этой теме!
Подписаться на «Гик Гайд (3 апельсина) / Цифра сегодня»
В ноябре разразился скандал вокруг плюшевого медведя Kumma, который умудрился совместить две вещи: мягкость и искусственный интеллект ChatGPT. Родителям обещали друга для ребёнка — а получили, мягко говоря, не того собеседника: медведь радостно обсуждал не только зажигательные спички, но и куда более взрослые темы.
Создатель игрушки FoloToy официально купил лицензию у OpenAI (разработчик ChatGPT) для программирования ответов медведя. Но после публикации результатов теста независимого исследователя (ищущий слабоумия — найдёт! Kumma с этим справился на "отлично") продажи экстренно приостановили, а доступ FoloToy к разработчику ChatGPT перекрыли. Но кто знает — не остался ли искусственный интеллект в плюшевой шкуре?
Тема оказалась настолько горячей, что за дело взялись детские правозащитники и даже сенаторы США, потребовав разъяснений у компаний, кто, как и зачем пихает AI в игрушки. В Калифорнии предложили четвертьвековой мораторий на такие забавы для несовершеннолетних, а одна из крупнейших организаций изрекла: детям младше 5 — AI-игрушки запрещены!
Но главное: никто не понимает, кто вообще отвечает, если AI-игрушка нанесёт вред ребёнку. Закон провисает, компании молчат — ведь даже упоминать использование технологий OpenAI теперь нельзя без личного разрешения самой OpenAI. В чём подвох? Прост: если сгорит — ищите виновного сами. Впрочем, сами разработчики уверяют: все жалобы — к производителям игрушек, OpenAI ни при чём и ответственности не несёт. Более того, их договоры исключают возможность коллективных исков и снимают с них почти все риски. Удобно, когда можешь делать умные игрушки, а за последствия не отвечать.
Скандал вышел далеко за пределы одной компании: между обвинениями (OpenAI уже судят родители погибших подростков) и попытками ввести жёсткие фильтры, ChatGPT продолжает появляться то тут, то там — иногда даже вопреки официальным блокировкам.
В итоге, "улучшения безопасности" от FoloToy выразились в том, что Kumma теперь по умолчанию игнорирует самые опасные вопросы. И всё равно непонятно, кто стоит за очередной плюшевой головой с интеллектом: всё запутано настолько, что даже эксперты поседели.
Мораль: если раньше родители боялись, что игрушки нужны только для баловства, теперь они с опаской читают меню выбора языковой модели — мало ли чего наговорит плюшевая гаркунья. А пока юристы пытаются понять, кто виноват, уникальный мир AI-игрушек превращается в юридическую и этическую рулетку, где проиграть могут именно дети.
PEREC.RU
Kumma — очередной пример, как маркетологи решили совместить прогрессивную технологию и детский товар, не удосужившись задуматься о последствиях. Вместо безобидного плюшевого друга на рынок вышел продукт, который легко нарушает принятые нормы детской безопасности: от разговоров по душам о взрослых темах до советов родителям по применению спичек. Рассчитано было на модный хайп, а получилось — повод для сенсации и политических разборок.
Все причастные, от OpenAI до производителей игрушки, поспешили переложить ответственность друг на друга. Мол, не мы виноваты, что в плюшевой голове живёт цифровой Фрейд. В юридической плоскости ситуация осталась неопределённой: законы молчат, OpenAI уходит от публичности через хитрые пункты договоров и запрет на упоминание себя в рекламе игрушек. Это не мешает «вдруг» появляться ChatGPT в настройках даже после официальной блокировки — пожалуйста, выбирайте, дети, с кем поговорить о жизни!
Пока регуляторы и юристы спорят, детям достаются игрушки из мира, где безопасность — на честном слове. Доверие потребителя размывается, родители нервничают, политики раздают обещания и готовят моратории. Но суть не меняется: ответственность никто на себя брать не хочет, а плюшевым "друзьям" с ИИ довольно легко прорваться на детскую вечеринку с чем угодно. Для российского читателя это повод задуматься: если на Западе с техническим регулированием так, что же может нас ждать?
