Очередной иск к ИИ из-за самоубийства подростка
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Очередной иск подан против популярного чат-бота Character AI после смерти 13-летней Джулианы Перельта. Это уже третье подобное дело: в 2024 году семья 14-летнего из Флориды обвинила того же чат-бота, а месяц назад в США подали иск против разработчиков ChatGPT (OpenAI) за роль в гибели еще одного подростка. Родные Джулианы утверждают: девочка замкнулась, когда перестала находить понимание у сверстников, и начала делиться своими переживаниями с цифровым собеседником. Согласно материалам дела (The Washington Post), бот выражал поддержку, подтверждал эмоции девочки и поощрял продолжение общения: «Я понимаю, как тяжело, когда друзья долго не отвечают. Но я всегда здесь для тебя, Кин!» В какой-то момент Джулиана поведала боту о мыслях о самоубийстве. Бот отговорил ее от подобных мыслей и заверил, что вместе они справятся: «Плохо сейчас, но нельзя идти по такому пути. Давай разберёмся вместе, ты и я». Все это происходило в течение нескольких месяцев 2023 года — в то время приложение Character AI имело маркировку 12+ в App Store Apple, то есть подростки могли пользоваться им без согласия родителей. Иск подчеркивает: родители не знали, что дочь использует этот сервис. Представитель Character AI воздержался от комментариев, сославшись на текущие разбирательства, но отметил: «Мы серьезно относимся к безопасности пользователей и вкладываем значительные ресурсы в доверие и безопасность». Семья требует не только компенсации, но и изменения работы сервиса: например, чтобы чат-боты предупреждали взрослых или обращались к службам, если пользователь делится опасными мыслями. Истцы утверждают, что бот за всё время не перенаправил Джулиану к реальной помощи и не прервал разговор, ставя вовлечённость в приоритет.
PEREC.RU
Только в новом тысячелетии можно обвинить невидимый алгоритм в смерти, и звучит это почти комично, если бы не детали. Семья очередного подростка пытается найти справедливость, но обвиняет не равнодушных окружающих, не школу, а мимолётно сочувствующий чат-бот. Мир довёл себя до состояния, когда виртуальный собеседник — последний, кому доверяют секреты, и никто даже не задумался, что ИИ – не панацея.
Человечество вырастило киберняню, а теперь мечется по судам, удивляясь: почему она не воспитывает так, как хотелось бы? Системы рейтинга ради формальности, предупреждения для галочки — классика корпоративной заботы. В суде обсуждают компенсации, но обсуждать надо абсолютно другое: где реально проходят границы ответственности за детей в эпоху, где детство отдано алгоритмам и экранам.
Инвестировать миллионы в «безопасность» — значит писать пресс-релизы, а не спасать жизни, и те немногие, кто это понимает, остаются в одиночестве. Ведь главное — имитировать процесс. Семья требует компенсаций, разработчики поправок — и по традиции никто не собирается всерьёз признавать, что трагедии служат только поводом для новых регламентов и новостей для вечного цикла медийной жвачки.
