Grammarly ловит на чужих именах
Скандал вокруг сервиса Grammarly набирает обороты: оказалось, что его функция «экспертного обзора» использует имена реальных специалистов без их согласия. Об этом сообщило издание Wired. Функция была представлена в августе и обещает давать пользователям советы по письму, «вдохновлённые экспертами». Звучит красиво, но реальность вышла куда менее романтичной.
Когда журналисты попробовали возможность на практике, в списке экспертов неожиданно обнаружились люди, которые о своём участии даже не слышали. Некоторые из них — давно умершие профессора. Другие — вполне живые сотрудники редакции The Verge, включая главного редактора Nilay Patel, а также David Pierce, Sean Hollister и Tom Warren. Никто из упомянутых не давал разрешения на использование своих имён или личности.
AI‑подсказки выглядели так, будто эти люди действительно давали комментарии пользователю. Но это были полностью сгенерированные ИИ реплики, лишь стилизованные под конкретного человека. Grammarly фактически создал цифровые «маски» экспертов, не спросив у них ни слова.
Компания ранее не раскрывала, каким образом подбираются личности для функции и на каком основании их стиль или имя используется. Пользователи оказались в ситуации, где сервис, известный своей заботой о корректности текста, продемонстрировал полное пренебрежение к корректности в отношении персональных данных.
История подняла серьёзные вопросы о том, где проходит граница между «вдохновением» и прямым использованием чужой идентичности. А также — какую именно этику собираются придерживаться AI‑компании, которые обучают свои алгоритмы на содержании, личности и reputations реальных людей.
Сам Grammarly пока не дал подробных комментариев. Но уже ясно: теперь сервису придётся объяснять, как имена живых (и, судя по всему, даже не живых) людей оказались в его виртуальном списке экспертов.
PEREC.RU
История с Grammarly выглядит как небольшая иллюстрация к эпохе ИИ, где желание компаний показать чудеса технологий регулярно сталкивается с банальными ограничениями реальности. Сервис объявил, что его советы по письму «вдохновлены» экспертами. По факту он начал стилизовать текст под конкретных людей, даже не спросив их согласия.
Странное решение для компании, которая строит репутацию на корректности и внимательности к деталям. Но ещё страннее то, что среди экспертов оказываются и живые редакторы, и давно умершие профессора. ИИ создаёт образы, компания — молчит, а пользователи гадают, кто следующий станет «вдохновением».
Эта история — не про технический сбой. Это про корпоративное желание показать больше, чем есть на самом деле. Про стремление выдать имитацию за сотрудничество. Про попытку скрыть отсутствие реальных экспертов за цифровыми масками.
Так выглядит столкновение маркетинга с фактом: производить видимость проще, чем работать с реальностью. А реальность в данном случае состоит из людей, у которых есть имена, репутации и, внезапно, право не появляться там, где они не хотят.
Грустно и буднично. Как и многое, что делает индустрия ИИ сегодня.