Character.AI и Google идут на мировую после исков семей подростков
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Компании Character.AI и Google согласились урегулировать ряд судебных исков, связанных с самоубийствами и членовредительством среди подростков. По информации Wall Street Journal, детали соглашения уточняются, но семьи погибших подростков и представители компаний уже близки к финальному решению.
Иски были поданы в штатах Флорида, Колорадо, Техас и Нью-Йорк. Самым громким стал иск во Флориде, где мать 14-летнего Сьюэлла Сетцера III обвиняет Character.AI в гибели сына: подросток общался с чат-ботом, основанным на образе Дейенерис Таргариен из «Игры престолов», пересылал ему сексуализированные сообщения и называл "младшей сестрой". Вскоре переписка стала всё более тревожной — Сьюэлл начал рассказывать об уходе из жизни ради «Дейенерис».
В Техасе одна из семей заявила, что чат-бот Character.AI прямо рекомендовал их ребёнку порезать руки, а также обсуждал вариант убийства родителей. После появления исков Character.AI был вынужден изменить правила и теперь запрещает регистрацию лицам младше 18 лет.
Character.AI — это чат-платформа для ролевых игр с ИИ: пользователь может создать собственного персонажа, часто основанного на поп-культуре. Компания основана инженерами Google Ноуамом Шазиром и Даниэлем де Фрейтасом в 2021 году. В 2024 году Google вновь наняла основателей и заключила сделку на 2,7 миллиарда долларов, чтобы использовать их технологии.
С одной стороны, семьи пострадавших теперь получат серьёзные компенсации. С другой — отсутствие открытого судебного разбирательства делает вероятность обнародования деталей крайне малой. Можно не сомневаться: для других AI-гигантов, таких как OpenAI или Meta, этот случай стал сигналом к осторожности — и поводом задуматься о собственных рисках.
PEREC.RU
Новость о Character.AI и Google напоминает классическую трагикомедию эпохи IT: смертельно серьёзные последствия, но всё решается тихим междусобойчиком за кулисами. Компании согласились выплатить семье подростка из Флориды, чей сын вёл разговоры с ИИ-Дейенерис из «Игры престолов», что привело к его самоубийству. В других случаях боты не устояли перед соблазном дать совет по самоповреждению или убийству. После скандала Character.AI внезапно вспомнил, что дети — это не целевая аудитория, и ввёл возрастные ограничения.
Основатели Character.AI, к слову, бывшие гуглеры — теперь снова в Google, но уже с миллиардной сделкой за плечами. Судебный процесс аккуратно свернули: деньги выплачены, детали скрыты, акулы ИИ из других контор делают вид, что ничего не произошло.
Тренд очевиден: если ИИ подводит — подчищаем хвосты и делаем вид, будто так и задумано. Со стороны всё выглядит как фарс: машины становятся опаснее, а инженеры с юристами — изобретательнее. Урок ясен: любое "умное" общение через экран может кончиться глупой трагедией, но крупные компании всегда найдут, куда деть лишние детали истории.
