ArXiv против искусственного бреда

Известная платформа arXiv, на которой публикуется академические препринты — то есть научные статьи до официального рецензирования, решила пойти войной против, мягко говоря, сомнительных работ, созданных с помощью искусственного интеллекта (ИИ). Руководство сайта обеспокоено тем, что всё больше исследователей выкладывают тексты, наполненные так называемым "AI slop" — мусором от нейросетей, вроде выдуманных ссылок ("галлюцинаций" — когда ИИ придумывает источники) и автоматических ремарок, которые авторы даже не удосужились стереть из результата работы машины.

Теперь, если редакторы arXiv найдут неопровержимые доказательства, что авторы не удосужились проверить результаты генерации LLM (большой языковой модели, такой как ChatGPT), их забанят на год от публикаций. Это касается случаев, когда в работе обнаруживаются откровенные "ошибки ИИ" или "мета-комментарии" (например, фразы от имени нейросети или примечания по типу "заполни позже"), оставшиеся в черновике.

Томас Диттерих, заведующий секцией компьютерных наук arXiv, прямо заявил: если хотите публиковаться у нас — сначала удостоверьтесь, что не полагались на "невидимую руку" ChatGPT, а результаты проверяли самостоятельно. Кроме годичного бана, под новые правила попадут и будущие публикации: их будут принимать только если статья появилась также в уважаемом научном журнале после нормального научного рецензирования.

Для России ситуация с подобными "псевдо-открытиями" тоже актуальна: арXiv часто становится площадкой для быстрых публикаций и заявок на открытия. Новые правила могут значительно усложнить жизнь для тех, кто надеялся воспользоваться нейросетями, чтобы создать видимость научной работы. P.S. Кодекс поведения для авторов arXiv теперь чтят особо строго — так что изучайте правила перед загрузкой статьи. И никаких "галлюцинаций" в списках литературы!