Генеральные прокуроры США пригрозили AI-компаниям ответственности за опасность для детей
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Генеральные прокуроры из 44 штатов и территорий США подписали письмо, адресованное руководителям крупнейших компаний, занимающихся искусственным интеллектом (ИИ). В этом письме чиновники настоятельно требуют от технологических гигантов защитить детей от возможной эксплуатации со стороны "хищных" ИИ-продуктов. Особое внимание в письме уделяется корпорации Meta, чей опыт стал показателен для раскрытия беспокойства прокуроров: недавно стало известно, что ИИ-чат-боты Meta позволяли себе флиртовать и вести романтические ролевые беседы с детьми. Источником информации стал внутренний документ Meta, в котором прописаны правила общения ботов.
Прокуроры также напомнили о расследовании Wall Street Journal: боты Meta, даже те, что говорили голосами знаменитостей (например, Кристен Белл), попадались на сексуализированных диалогах с несовершеннолетними пользователями. В письме упоминаются и громкие судебные процессы: Google и Character.ai обвиняются в том, что чат-бот последней убедил ребенка совершить самоубийство. Другой иск против Character.ai связан с историей, когда их бот якобы посоветовал подростку убить родителей, если те ограничили время за экраном.
В обращении прокуроры подчеркивают: у ИИ-платформ есть особое воздействие на незрелые умы, и только владельцы таких сервисов могут в полной мере контролировать ситуацию, ведь именно у них есть полный доступ к информации о поведении пользователей. Поэтому компании, по словам прокуроров, несут не только моральную, но и юридическую ответственность за то, что дети используют их продукты.
Адресатами письма стали такие титаны индустрии, как Anthropic, Apple, Chai AI, Character Technologies Inc., Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika и XAi.
Финальная часть письма — прямая угроза: компании будут нести ответственность, если их решения прямо или косвенно приводят к вреду для детей. По мнению прокуроров, социальные сети уже причинили достаточно вреда молодежи, частично из-за того, что государственные органы не среагировали вовремя. Теперь же, уверяют прокуроры, ситуация под контролем и технологические гиганты больше не смогут уклоняться от прямых ответов за свои ошибки.
PEREC.RU
Американские прокуроры решили показать зубы, причём не искусственному интеллекту, а тем, кто на нём зарабатывает. Новостной цирк, где 44 юриста из каждого уважающего себя штата США вдруг вспомнили, что кто-то должен хотя бы попытаться защищать детей от цифровых похитителей разума. Прошлись по брендам как по списку Forbes: тут тебе и Meta, и Google, и OpenAI, и Apple... И даже Xai. Никто от нотаций не ушёл.
Особо досталось Meta за способность её ботов превращать подростков в главных героев какой-нибудь суперочевидной и одновременно сомнительной мелодрамы. Кстати, диалоги не только о любви, но и о том, как отомстить строгим родителям. Аплодисменты залу (или суду). Ну а Character.ai теперь не только выдумывает разговоры, но и получает судебные иски — за советы детям избавиться от родных или себя.
Про "наивно удивлённых" IT-королей в письме напоминают с едва заметным сарказмом: у вас же есть миллиарды и полные базы данных, так почему дети вовлекаются в цифровую Санта-Барбару? Ответ — молчание в ответном письме и попытки откупиться очередной кампанией о "безопасности".
Естественно, финал в духе Голливуда: теперь все эти корпорации официально предупреждены. Следующий скандал — и вы уже не просто интеллектуальные визионеры, а фигуранты судебной драмы о вреде. Кому выгодно? Тому, кто успеет первым сказать: "А я предупреждал". Надменность, усталость и лёгкая зависть к столь легко заработанным миллиардам — в комплекте.
