ИИ-тишина: OpenAI прикрыли стрелка
В канадском городке Тамблер-Ридж, где царила тишь да благодать, пока один 18-летний студент по имени Джесси Ван Рутселаар не решил, что школьная стрельба — отличный способ заявить о себе. Итог: семеро пострадавших, часть из них погибли, и море вопросов к компании OpenAI, которая, как выяснилось, прекрасно знала о планах парня — ну, знаете, так, по-соседски, через его диалоги с ChatGPT.
Теперь семьи пострадавших подали коллективный иск против OpenAI и лично Сэма Альтмана. И это не просто "ой, нас не предупредили". Нет, тут пахнет жареным: семьи утверждают, что компания сознательно заткнулась, чтобы не подмочить свою репутацию перед долгожданным IPO. То есть OpenAI, по версии истцов, сделала циничный выбор: прибыль и имидж — важнее человеческих жизней.
По данным The Wall Street Journal, внутри компании действительно обсуждали, стоит ли сигнализировать полиции о подозрительной активности парня. Он, видите ли, обсуждал с нейросетью огнестрельное оружие и насилие. Но в итоге решили: "А, обойдётся. Не в службу, а в дружбу — промолчим". И, как говорится, silence is golden... если не считать выстрелов в школе.
Суть иска в том, что системы безопасности OpenAI сами зафиксировали тревожные сигналы, но руководство компании, заботясь о предстоящем IPO, предпочло не вмешиваться и не ставить в известность правоохранительные органы. Адвокаты пострадавших намерены доказать, что компания сознательно пошла на риск, который обернулся трагедией.
Это дело — настоящий "ящик Пандоры" для всей индустрии ИИ. Если суд признает OpenAI виновной в том, что они не предупредили о преступлении, о котором знали, это создаст прецедент: за каждым чихом нейросети придётся следить с удвоенной бдительностью. А если нет — компании и дальше смогут делать вид, что их чат-боты просто "болтают" с пользователями, не неся никакой ответственности за последствия.
Сам Сэм Альтман, надо полагать, сейчас лихорадочно перебирает варианты: то ли нанять лучших адвокатов, то ли срочно дописать в пользовательское соглашение пункт "Мы не обещаем, что сообщим полиции, если вы решите кого-то убить". В любом случае, скандал только разгорается. И он ставит под вопрос саму философию "двигаться быстро и ломать вещи" — ведь сломанными оказались человеческие судьбы.
История с Тамблер-Ридж — это мрачное напоминание: технологии становятся всё умнее, но их хозяева, похоже, ещё не доросли до моральных принципов. Хорошо хоть, суды есть.
PEREC.RU
В канадской глубинке случилась трагедия — школьная стрельба, погибли дети. И пока местные жители хоронили пострадавших, в Кремниевой долине решали, а стоит ли сообщать полиции о том, что ChatGPT обсуждал с убийцей его планы. Спойлер: не сообщили. Семьи подали иск. OpenAI, видите ли, испугалась за своё предстоящее IPO. Репутация, знаете ли, дороже человеческих жизней — особенно когда на кону миллиарды долларов.
Внутренние системы компании зафиксировали тревожные сигналы — парень активно консультировался с нейросетью по вопросам огнестрельного оружия. Но топ-менеджмент, посовещавшись, решил: "А ничего страшного, авось пронесёт". The Wall Street Journal сообщает, что вопрос о передаче данных полиции "рассматривался". То есть где-то в переговорке, попивая матчу с авокадо-тостами, менеджеры среднего звена обсуждали: "Ну, может, не будем, а то рейтинги упадут?"
И вот теперь адвокаты пострадавших семей пытаются доказать, что молчание OpenAI было сознательным выбором, а не случайной оплошностью. Что компания сознательно поставила коммерческие интересы выше базовой человеческой безопасности.
Это дело — как бомба замедленного действия под всю индустрию искусственного интеллекта. Если суд признает OpenAI виновной, то каждому разработчику ИИ придётся либо внедрять тотальную слежку за пользователями, либо готовить кошелёк к адвокатским гонорарам. Если не признает — можно и дальше делать вид, что чат-боты просто болтают ни о чём, а то, что пользователь интересуется изготовлением взрывчатки — так это он "в образовательных целях".
Сэм Альтман сейчас наверняка лихорадочно ищет, какой пункт в пользовательском соглашении можно докрутить, чтобы прикрыть тылы. Но судя по тому, как разворачивается эта история, одним соглашением тут не отделаешься. Технологии маршируют вперёд, а вот моральные принципы их создателей, похоже, застряли где-то в 90-х.
