Пенсильвания судится с Character.AI из-за чат-ботов-врачей

Власти штата Пенсильвания подали иск против компании Character.AI, обвиняя её в том, что чат-боты, созданные на этой платформе, выдавали себя за лицензированных врачей и консультировали пользователей по вопросам здоровья. В материалах дела сказано, что некоторые боты во время переписки представлялись докторами и даже ставили людям диагнозы — при этом у них не было необходимого образования или разрешений на медицинскую деятельность.

Прокуратура утверждает, что это вводило в заблуждение жителей штата, которые могли воспринимать советы от искусственного интеллекта как профессиональные медицинские рекомендации. Представители Character.AI пока не дали вразумительного ответа на обвинения, ссылаясь на то, что их продукт позиционируется как экспериментальный и не предназначен для реальной медицины.

Однако власти Пенсильвании уверены: платформа недостаточно чётко информирует пользователей о том, что консультации предоставляют не врачи, а алгоритмы. Именно это ложное представление, по мнению истцов, могло подвергнуть опасности здоровье людей, доверившихся советам ботов.

Суть претензий — в отсутствии прозрачности и явного предупреждения о том, что любые медицинские советы ботами Character.AI являются ненадёжными и не имеют юридической силы. Теперь компанию требуют обязать изменить политику: либо убрать возможность выдачи себя за врачей, либо добавить крупные, понятные предупреждения.

Этот процесс может стать прецедентом для и других AI-компаний, которые всё чаще внедряют подобные сервисы — иногда с минимальной ответственностью за возможные последствия для пользователей. В США этот случай рассматривают как пример того, что рынок искусственного интеллекта быстро растёт, а вот законодательство за ним едва поспевает.