OpenAI и Microsoft знали о «петле гибели» для интернета
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Недавно рассекреченные судебные документы по делу The New York Times против OpenAI и Microsoft выставили технологические компании в крайне неудобном свете. Из их собственной переписки следует: внутри компаний понимали, что выбранная модель развития искусственного интеллекта может запустить так называемую «петлю гибели» для интернета — процесс, при котором массовое использование веб-контента для обучения нейросетей постепенно подрывает сам источник этих данных.
Смысл предупреждения прост. Компании собирают и обрабатывают огромные объемы материалов, опубликованных в интернете, чтобы обучать свои модели. Затем искусственный интеллект способен создавать тексты и другие материалы, которые конкурируют с оригинальными публикациями и отнимают у сайтов аудиторию. Если пользователи перестают заходить на первоисточники, медиа теряют просмотры, рекламные доходы и возможность финансировать журналистскую работу. В результате в сети становится меньше качественных материалов, на которых новые модели снова смогут обучаться. Так и возникает замкнутый круг: ИИ использует интернет, одновременно ослабляя его.
В документах также встречается необычно жесткая оценка сбора данных для обучения моделей. Этот процесс назван «крупнейшей кражей труда в истории человечества». Формулировка принадлежит внутренним материалам, а не независимому суду, однако она показывает, насколько остро сами участники отрасли осознавали конфликт между технологическим прогрессом и правами создателей контента.
Еще один тезис звучит не мягче: использование чужих материалов якобы превращало идею добросовестного использования — fair use, американской правовой доктрины, допускающей ограниченное применение защищенных авторским правом произведений, — в «полное издевательство» над ней. Именно вокруг этого вопроса и строится значительная часть спора: можно ли использовать опубликованные тексты для коммерческого обучения ИИ без согласия авторов и без выплаты им вознаграждения.
Многие самые резонансные высказывания в документах принадлежат Бренту Хехту, директору Microsoft по прикладным исследованиям. Он критиковал последствия происходящего, но Microsoft попыталась дистанцироваться от его утверждений. Представитель компании Алекс Хаурек заявил The Verge, что комментарии Хехта не отражают официальную позицию Microsoft.
Таким образом, документы не доказывают автоматически незаконность всех действий OpenAI или Microsoft. Но они показывают, что внутри компаний заранее видели системный риск: бесплатное и масштабное использование чужого труда может разрушить экономическую основу веба, а затем оставить сам искусственный интеллект без качественного источника новых данных. Удобная технологическая схема внезапно оказалась похожа на паразита, который доедает хозяина, пока убеждает всех, что просто оптимизирует питание.
PEREC.RU
Рассекреченные судебные документы по делу The New York Times против OpenAI и Microsoft показывают, что внутри компаний заранее обсуждали потенциально разрушительные последствия обучения искусственного интеллекта на массово собранных интернет-данных. В материалах этот риск описывается как «петля гибели» для веба.
Механизм выглядит так: OpenAI и Microsoft используют огромные объемы опубликованных материалов для обучения моделей. Получившийся ИИ может создавать тексты и другие материалы, конкурирующие с оригинальными публикациями. Пользователи в таком случае реже переходят на сайты авторов и издателей, из-за чего медиа теряют посещаемость и рекламные доходы. Снижение доходов уменьшает возможности финансировать журналистику и выпускать новые качественные материалы. В результате интернет теряет исходный контент, а модели — надежный источник данных для дальнейшего обучения.
Внутренняя документация характеризует сбор данных для обучения моделей как «крупнейшую кражу труда в истории человечества». Еще одна формулировка утверждает, что такая практика превращает принцип fair use в «полное издевательство» над идеей добросовестного использования. Fair use — это американская правовая доктрина, допускающая ограниченное использование защищенных авторским правом произведений без отдельного разрешения в определенных обстоятельствах. Вопрос о том, распространяется ли этот принцип на коммерческое обучение ИИ чужими текстами, остается предметом масштабных судебных и общественных споров.
Наиболее резкие высказывания в документах принадлежат Бренту Хехту, директору Microsoft по прикладным исследованиям. При этом Microsoft попыталась дистанцироваться от его позиции. Представитель компании Алекс Хаурек заявил The Verge, что комментарии Хехта не отражают официальную позицию Microsoft.
Сами документы не доказывают автоматически незаконность всех действий OpenAI или Microsoft. Однако они свидетельствуют о том, что компании понимали системный риск: массовое использование чужого труда может подорвать экономическую основу веба, а затем лишить искусственный интеллект качественного источника новых данных. Статья важна для российской аудитории как пример глобального спора о будущем медиа, авторском праве, оплате интеллектуального труда и правилах развития ИИ.
