Грамматика против двойников

Компания Grammarly, известная своим сервисом для проверки текста, оказалась в довольно щекотливой ситуации. Выяснилось, что её система искусственного интеллекта использовала стили реальных экспертов и редакторов без их прямого разрешения, включая сотрудников издания The Verge. Проще говоря, ИИ пытался подражать людям, которые об этом даже не подозревали.

Функция под названием Expert Review, доступная в приложении Superhuman, показывала пользователям рекомендации по редактированию и поясняла, что они якобы «вдохновлены» реальными специалистами. Проблема в том, что никто этих специалистов не спрашивал, хотят ли они быть источником вдохновения для ИИ.

Директор по управлению продуктами Superhuman Ailian Gan выступила с официальным заявлением. Она признала, что компания получила достаточно негативных отзывов и что решение использовать экспертные стили без явного разрешения было ошибочным. В итоге Superhuman полностью отключила функцию Expert Review и пообещала переработать её — на этот раз с уважением к тому, как реальные эксперты хотят (или не хотят) быть представлены.

Gan отметила, что компания намерена дать специалистам полный контроль: смогут ли они участвовать в таких моделях или предпочитают держаться подальше от ИИ. Компания подчеркивает, что намерена делать всё иначе и более прозрачно.

По сути, ситуация подняла важный вопрос: где проходит граница между обучением ИИ и нарушением прав реальных людей? Пока компании экспериментируют с возможностями машинного обучения, вопрос согласия и авторских прав становиться особенно актуальным. И Superhuman, похоже, уже получила урок, который в будущем может пригодиться всей индустрии.