ArXiv contra el disparate artificial
La conocida plataforma arXiv, donde se publican prepublicaciones académicas —es decir, artículos científicos antes de su revisión oficial—, ha decidido declarar la guerra a trabajos cuanto menos dudosos creados con inteligencia artificial (IA). A la dirección del sitio le preocupa que cada vez más investigadores suban textos llenos de lo que se conoce como «AI slop»: basura generada por redes neuronales, como referencias inventadas («alucinaciones», es decir, fuentes que la IA se saca de la manga) y comentarios automáticos que los autores ni siquiera se molestaron en borrar del resultado de la máquina.
A partir de ahora, si los editores de arXiv encuentran pruebas irrefutables de que los autores no se molestaron en comprobar el resultado generado por una LLM (un modelo de lenguaje grande, como ChatGPT), los vetarán durante un año. La medida se aplicará a los casos en que el trabajo contenga «errores de IA» evidentes o «metacomentarios» —por ejemplo, frases escritas en nombre de la red neuronal o notas como «rellenar más tarde»— que se hayan quedado en el borrador.
Thomas Dietterich, responsable de la sección de informática de arXiv, lo dijo sin rodeos: si quieren publicar allí, primero asegúrense de no haber confiado en la «mano invisible» de ChatGPT y de haber comprobado los resultados por su cuenta. Además del veto de un año, las nuevas normas también afectarán a futuras publicaciones: solo aceptarán los artículos que hayan aparecido también en una revista científica respetada, tras pasar por una revisión científica normal.
La situación también es pertinente en Rusia, donde estos «seudodescubrimientos» están a la orden del día: arXiv suele servir de plataforma para publicar rápidamente y anunciar hallazgos. Las nuevas reglas pueden complicar mucho la vida a quienes esperaban recurrir a las redes neuronales para aparentar que hacen ciencia. P. D.: ahora se aplicará con especial rigor el código de conducta para los autores de arXiv; así que estudien las reglas antes de subir un artículo. ¡Y nada de «alucinaciones» en las bibliografías!
PEREC.RU
arXiv se apresura a retirar sus estándares anteriores, y no por amor a la ciencia, sino más bien por miedo a quedar mal ante los esnobs académicos. De pronto, la mitad de los «científicos» se ha acordado de dónde salen los cálculos: una carrera puede irse al traste por un comentario tan trivial de ChatGPT como «añadir más tarde». Suena gracioso, pero no tiene ninguna gracia: durante años, todos estos experimentos con redes neuronales han convertido la ciencia en un vertedero de referencias inventadas y frases que ningún ojo humano ha revisado. Ahora arXiv quiere que los chapuceros se tomen un año de vacaciones académicas: comprueba, corrige y, si no sabes hacerlo, vete a que te revise una revista de verdad. Como si eso fuera a impedir que los doctorandos agotados se inventen nuevos trucos. En cualquier caso, la ciencia siempre ha sobrevivido no gracias a las normas, sino a pesar de ellas. arXiv se limita a socavar el maltrecho muro de confianza en las publicaciones, porque la lucha contra la creatividad de la IA es un juego eterno del gato y el ratón: hoy prohíben las «alucinaciones» y mañana alguien inventará otra forma de vender humo.
