Сбой Google с расистским словом
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Google снова отличился — и, увы, не в лучшем смысле. Компания разослала пользователям автоматическое уведомление, сгенерированное искусственным интеллектом, в котором оказалось расистское оскорбление. Речь идёт о наиболее известном в англоязычном мире расовом слове, начинающемся на N — оно недопустимо при любом использовании. Уведомление вело к материалу издания The Hollywood Reporter о недавнем инциденте на премии BAFTA, но скандальным стало то, что оскорбление оказалось прямо в тексте пуш-уведомления.
Первым это заметил пользователь Instagram по имени Danny Price. Он приложил скриншот и язвительно подписал, что уж очень «интересным» выдался Месяц истории чернокожих — ежегодный февральский период в США, когда общество говорит о вкладе темнокожих людей в историю. Google принесла извинения, удалила уведомление и заявила, что предпринимает меры, чтобы подобное больше не повторилось.
Ситуация стала продолжением другого громкого эпизода — того самого на BAFTA. Во время выхода американских актёров Michael B. Jordan и Delroy Lindo на сцену мужчина из зала выкрикнул N‑слово. Позже выяснилось, что это был активист, живущий с синдромом Туретта, John Davidson. Люди с этим неврологическим расстройством нередко сталкиваются с неконтролируемыми вокальными и моторными тиками, включая непроизвольные выкрики. Davidson заявил, что был «глубоко потрясён тем, что его непроизвольные тики могли быть расценены как намеренные или осознанные».
Инцидент вызвал бурную реакцию, обсуждения и споры — как о жизни людей с тяжёлыми вокальными тиками, так и о том, почему общество снова требует «больше понимания» для тех, кто произнёс оскорбление, а не для тех, кто вынужден это переживать. В частности, многие отмечали, что актёрам на сцене пришлось сохранять лицо, хотя ситуация была явно неприятной.
Осечка Google стала лишь последней в цепочке странных решений AI в новостных уведомлениях. Год назад Apple полностью отказалась от собственных AI‑пушей после серии нелепых ошибок. Среди них была особенно громкая: читателям сообщили, что Luigi Mangione, обвиняемый в убийстве главы UnitedHealthcare Brian Thompson, якобы застрелился — что не соответствовало действительности. В итоге технологические гиганты снова оказались в привычной роли: обещают, что всё исправят, и надеются, что пользователи забудут.
PEREC.RU
Google снова оказался в центре шума — и всё благодаря автоматическому уведомлению, в котором искусственный интеллект вставил расистское N‑слово. История, как это часто бывает, началась не с технологий, а с людей: на премии BAFTA мужчина с синдромом Туретта непроизвольно выкрикнул то же слово, что и стало причиной последующих обсуждений. Но именно Google умудрился перенести это слово в пуш‑уведомление, от чего ситуация заиграла новыми оттенками.
Компания извинилась, пообещала всё исправить — стандартный набор, который давно никого не удивляет. Технологические гиганты давно живут в режиме «мы что‑то сломали, но обязательно починим», и все делают вид, что это в порядке вещей. Apple уже наступала на те же грабли, когда их AI уведомил людей о вымышленной гибели обвиняемого по делу об убийстве.
Скандал с BAFTA лишь усилил эффект: общество снова спорит о том, где проходит граница между невольным действием человека с заболеванием и травмой тех, кто становится свидетелем расистских выпадов — пусть даже непроизвольных. На этом фоне ошибки искусственного интеллекта выглядят не злыми, а нелепыми — будто машина пытается играть в журналиста, но постоянно забывает, что слова имеют вес.
История показывает одно: пока AI учится, ответственность несут всё равно люди. А значит, каждая такая ошибка — не просто технологический сбой, а повод вспомнить, что автоматизации мы доверяем куда больше, чем она пока способна выдержать.
