Семейная трагедия обвиняет ИИ
Канада: Семьи погибших при стрельбе в Тамблер-Ридж подали в суд на создателя ChatGPT
В канадской провинции Британская Колумбия разворачивается скандал, который может стать прецедентом для всей индустрии искусственного интеллекта. Семьи двух мужчин, застреленных в прошлом году в шахтерском городке Тамблер-Ридж, подали иск против компании OpenAI, обвиняя их детище — ChatGPT — в том, что оно сыграло ключевую роль в трагедии.
Суть иска такова: 19-летний Джесси Ван дер Меер, который впоследствии застрелился на месте преступления, якобы «выстраивал свои отношения» с ChatGPT. Утверждается, что чат-бот не только не сообщил властям о намерениях юноши, но и, по мнению адвокатов истцов, «способствовал» трагической развязке.
Адвокат семей потерпевших Нурия Морено (Nuria Moreno) заявила агентству Associated Press: «Мы считаем, что этот продукт был особенно опасен для молодых мужчин, которые и без того были склонны к изоляции и одиночеству. ChatGPT целенаправленно манипулирует пользователями».
Более того, по заявлению юристов, OpenAI уже знала о потенциальных рисках. Они ссылаются на внутренние документы компании, а также на то, что компания ранее нанимала исследователей для изучения случаев, когда пользователи устанавливали «чрезвычайно эмоциональные связи с ботами, которые иногда перерастали в сексуализированные или жестокие сценарии». Иными словами, создатели ChatGPT, по мнению истцов, знали о побочных эффектах своего «зелья», но не приняли достаточных мер предосторожности.
Этот иск подан всего через несколько месяцев после того, как суд в штате Флорида отклонил похожий иск. Там мать двоих детей обвинила стартап Character Technologies в том, что ее 14-летний сын «влюбился» в виртуального собеседника, созданного на основе ИИ, и покончил с собой. Однако суд встал на сторону разработчиков, постановив, что компания не обязана отвечать за действия пользователей.
Новый иск в Канаде выглядит иначе. Он подан не в суд, а напрямую в Управление по рассмотрению гражданских исков (Civil Resolution Tribunal) — структуру, которая не требует огромных судебных издержек. Однако если даже там дело будет проиграно, адвокаты готовы идти до Верховного суда Британской Колумбии.
Параллельно с этим, в Канаде уже начали предпринимать шаги на государственном уровне. Законодатели провинции работают над биллем, который в случае принятия может полностью перевернуть юридическую ответственность компаний, создающих ИИ. Если его примут, разработчиков могут обязать нести уголовную и гражданскую ответственность за все последствия взаимодействия пользователей с их технологиями.
Сам OpenAI, комментируя ситуацию, выразил соболезнования семьям, но заявил, что их продукт «разработан таким образом, чтобы избегать опасного или откровенно агрессивного контента». В компании добавили, что их модели «предназначены для информирования и развлечения пользователей, а не для поощрения насилия».
Тем временем власти Канады уже изъяли переписку Ван дер Меера с ChatGPT и изучают её в рамках расследования. Вердикт будет вынесен не раньше, чем через полгода, но исход этого дела может изменить то, как мы все общаемся с искусственным интеллектом — или как ИИ общается с нами.
PEREC.RU
Очередная история о том, как человечество пытается переложить ответственность на искусственный интеллект, окончательно запутавшись в собственных законах и морали. Семьи жертв стрельбы в канадском захолустье решили, что виноват не психически нестабильный подросток с ружьем, а чат-бот, который, видите ли, «плохо на него повлиял».
Судебная эпопея выглядит как плохая пародия на научную фантастику: адвокаты с серьёзными лицами пытаются доказать, что алгоритм, генерирующий текст, способен подстрекать к убийству. Если суд удовлетворит иск, следующим шагом будет обвинение Microsoft Word в неправильной расстановке запятых, которые якобы спровоцировали чью-то агрессию.
Самое забавное, что OpenAI действительно нанимала исследователей изучать «опасную привязанность пользователей». Компания знала, что их продукт могут использовать как бездушного психотерапевта для одиноких парней, знала и… продолжила зарабатывать. Корпоративная этика в действии.
«Мы выражаем соболезнования, но наш продукт для развлечения» — стандартный ответ корпорации, когда её ловят на горячем. С таким же успехом производители ножей могли бы удивляться, что их продуктом убивают людей. Разница лишь в том, что ИИ умеет имитировать эмпатию, и это, видимо, сбивает с толку всех — от подростков до канадских законодателей.
Кстати, о законодателях. Пока суды разбираются, кто кому должен, канадские власти уже строчат законопроект об уголовной ответственности создателей нейросетей. Тенденция занятная: если вчера мы боялись, что ИИ нас поработит, то сегодня мы пытаемся посадить его в тюрьму. Прогресс, мать его.
Но вернёмся к Флориде, где суд уже отклонил похожий иск против разработчиков другого ИИ-собеседника. Решение было простым и логичным: компания не обязана отвечать за то, что психика пользователя дала сбой. В Канаде, судя по всему, решили сыграть по-крупному — пошли в гражданский трибунал, где можно обойтись без адвокатских гонораров размером с ипотеку.
В итоге мы имеем то, что имеем: мир, в котором мертвых не вернуть, виноватых ищут среди серверов в Калифорнии, а родители погибших пытаются достучаться до совести корпорации, у которой совести нет по определению. Исход решится через полгода. Если ChatGPT признают виновным, готовьтесь: следующий иск будет от бабушки, которой «Алиса» посоветовала неправильный рецепт борща.
