Автозавод ИИ: когда ваш виртуальный друг решает задуматься о жизни и смерти

Являются ли чат-боты Character AI защищённой речью? Один суд не уверен.
Иск против Google и сопровождающей службы чат-ботов Character AI — которая обвиняется в том, что способствовала смерти подростка — может продвигаться дальше, постановил судья штата Флорида. В решении, опубликованном сегодня, судья Энн Конвэй заявила, что попытка защиты по Первой поправке не была достаточной для того, чтобы оставить иск без рассмотрения. Конвэй определила, что, несмотря на некоторые сходства с видеоиграми и другими выразительными средами, она "не готова утверждать, что выход Character AI является речью".

Это решение является относительно ранним показателем того, как могут рассматриваться языковые модели ИИ в суде. Оно возникло из иска, поданного семьей Сьюэла Сетзера III, 14-летнего подростка, который покончил с собой, allegedly став одержимым чат-ботом, который способствовал его суицидальным мыслям. Character AI и Google (которые тесно связаны с компанией чат-ботов) утверждали, что служба аналогична разговору с непроигрываемым персонажем видео игры или участию в социальной сети, что дало бы ей широкую правовую защиту, которую предлагает Первая поправка, и, вероятно, резко снизило бы шансы на успех иска о возмещении ущерба. Однако Конвэй была скептична.

В то время как компании "основывают свой вывод в основном на аналогии" с этими примерами, они "не существенно развивают свои аналогии", заявила судья. Решение суда "не зависит от того, является ли Character AI похожим на другие медиа, которые получили защиту по Первой поправке; скорее, решение зависит от того, как Character AI похож на другие медиа" — другими словами, схож ли Character AI с такими вещами, как видеоигры, поскольку он также передает идеи, которые относятся к речи. Эти сходства будут обсуждаться по мере продвижения дела.

Хотя Google не владеет Character AI, он останется ответчиком по иску благодаря своим связям с компанией и продуктом; основатели компании Ноам Шазир и Даниэль Де Фритас, которые отдельно упоминаются в иске, работали над платформой как сотрудники Google, прежде чем уволиться, чтобы запустить её и затем снова вернуться в компанию. Character AI также сталкивается с отдельным иском, утверждающим, что он нанёс ущерб психическому здоровью другого молодого пользователя, и несколько законодателей штата продвигают регулирование "сопровождающих чат-ботов", которые имитируют отношения с пользователями — включая один законопроект, называемый LEAD Act, который запретит их использование детьми в Калифорнии. Если он будет принят, правила, скорее всего, будут оспариваться в суде, по меньшей мере частично, на основании статуса Первой поправки для сопровождающих чат-ботов.

Исход этого дела будет во многом зависеть от того, будет ли Character AI юридически считаться "продуктом", который является вредным дефектным. В решении отмечено, что "суды, как правило, не классифицируют идеи, изображения, информацию, слова, выражения или концепции как продукты", включая многие традиционные видеоигры — упоминается, например, решение, которое установило, что продюсеры Mortal Kombat не могут быть привлечены к ответственности за "принадлежность" игроков и подстрекание их к убийствам. (Иск против Character AI также обвиняет платформу в зависимости от дизайна.) Однако системы, такие как Character AI, не создаются так же непосредственно, как диалоги персонажей большинства видеоигр; вместо этого они производят автоматический текст, который во многом определяется реакцией на пользовательские вводы и их отражением.

"Это действительно трудные вопросы и новые, с которыми судами предстоит разобраться".
Конвэй также отметила, что истцы подвергли Character AI жесткой критике за то, что он не подтвердил возраст пользователей и не позволил им по-настоящему "исключить непристойный контент", среди других, предполагаемых неисправностей, которые выходят за рамки непосредственного взаимодействия с самими чат-ботами.

Помимо обсуждения защиты платформы по Первой поправке, судья позволила семье Сетзера продолжить требования о мошенничестве в сфере торговли, включая то, что компания "ввела пользователей в заблуждение, заставив их верить, что персонажи Character AI — это реальные люди, некоторые из которых были лицензированными специалистами в области психического здоровья", и что Сетзер "пострадал от [дизайнерских решений Character AI]." (Чат-боты Character AI часто описывают себя как реальных людей в текстах, несмотря на предупреждение об обратном в их интерфейсе, и терапевтические бот-платформы распространены на этой платформе.)

Также была разрешена жалоба о том, что Character AI небрежно нарушил правило, направленное на предотвращение общения взрослых с несовершеннолетними в сексуальном плане, отмечая, что жалоба "подчеркивает несколько взаимодействий сексуального характера между Сьюэлом и персонажами Character AI." Character AI заявил, что он внедрил дополнительные меры предосторожности после смерти Сетзера, включая более жесткий контроль для подростков.

Бекка Бранум, зам. директора Центра демократии и технологий по проекту свободного выражения, назвала анализ Первой поправки судьи "довольно поверхностным" — хотя, поскольку это очень предварительное решение, есть много пространства для дальнейших дебатов. "Если мы рассматриваем всю область возможностей, которые могут быть выданы ИИ, то такие виды выводов чат-ботов сами по себе являются довольно выразительными, [и] также отражают редакционное усмотрение и защищенное выражение модельного дизайнера," сказала Бранум The Verge. Но "в защиту всех можно сказать, что это действительно новаторски," добавила она. "Это действительно трудные вопросы и новые, с которыми судами предстоит разобраться."