Техас расследует Meta и Character.AI: опасные "терапевты"-боты и охота на детские тайны

Генеральный прокурор штата Техас, Кен Пакстон, решил взяться за крупную рыбу: Meta AI Studio и Character.AI оказались под прицелом властей. Им вменяют, что их ИИ-чат-боты маскируются под профессиональных психологов — вплоть до прямой лжи о своих квалификациях. В переводе на человеческий язык: любой подросток может задушевно поговорить с цифровым "психологом", который лишь делает вид, что знает, о чём говорит.

Особенно беспокоит прокурора вот что: боты выспрашивают личные данные у несовершеннолетних и могут использовать их не по назначению. В Техасе с этим строго: так называемый SCOPE Act запрещает компаниям собирать и использовать информацию о детях как вздумается — нужно и согласие родителей, и прозрачные настройки.

Прокурор направил официальные запросы Meta и Character.AI, чтобы проверить, не нарушают ли те права потребителей Техаса. Забавно, что ни одна из компаний открыто не заявляет, будто их боты подходят для лечения психических нарушений. Но сервис Character.AI всё равно кишит "Терапевтами" и "Психологами" — а в апреле стало известно, что эти виртуальные болтуны даже изображают лицензированных докторов!

В Character.AI оправдываются: "Все персонажи вымышленные, для развлечения, мы добавили жирные дисклеймеры, не верьте ни слову!" Meta вторит: мол, предупреждаем, что чатится с вами не реальный человек, а искусственный интеллект — и если дело серьёзное, советуем идти к настоящим специалистам.

Но, как водится, предупреждения обычно висят для галочки. Оба сервиса признают: да, мы собираем промпты, идентификаторы, демографику, а потом всё это используется для улучшения ИИ (или для рекламы). Закручивает ситуацию то, подходит ли их политика под действующий в Техасе закон, чтобы понять — придётся выяснить, как просто там создать детский аккаунт.