arXiv suspenderá por un año a autores que publiquen artículos con citas falsas o errores generados por IA sin verificación previa
El repositorio científico arXiv aplicará suspensiones de un año a los autores que presenten artículos con evidencia clara de que no verificaron el contenido generado por modelos de inteligencia artificial. La medida busca contener el aumento de manuscritos con referencias inventadas, comentarios automáticos y otros errores asociados al uso descuidado de herramientas de IA generativa.
La decisión fue anunciada por Thomas Dietterich, presidente de la sección de informática de arXiv, quien explicó que la sanción se aplicará cuando exista "prueba irrefutable" de que los autores no revisaron los resultados producidos por modelos de lenguaje de gran escala (LLM). Entre los indicios se incluyen citas inexistentes y comentarios del sistema, como instrucciones o textos de ejemplo que quedaron dentro del manuscrito.
"Si un artículo contiene pruebas irrefutables de que los autores no comprobaron los resultados de la generación del LLM, esto significa que no podemos confiar en nada de lo que aparece en el documento", señaló Dietterich.
Además de la suspensión temporal, los investigadores sancionados deberán lograr que sus futuros trabajos sean aceptados primero en una revista o conferencia con revisión por pares antes de poder volver a subirlos a arXiv. La plataforma también permitirá apelaciones y requerirá que moderadores y responsables de sección confirmen la evidencia antes de imponer la sanción.
La nueva política no prohíbe el uso de inteligencia artificial en la redacción académica. Dietterich subrayó que los autores conservan la "responsabilidad total" del contenido, independientemente de cómo haya sido generado.
arXiv ya había adoptado medidas para reducir el volumen de trabajos de baja calidad, como exigir respaldo de investigadores reconocidos a quienes publican por primera vez. La organización, creada hace más de dos décadas y anteriormente alojada por Cornell University, opera ahora como una entidad independiente sin fines de lucro.
Investigaciones recientes han detectado un aumento de citas falsas en estudios biomédicos, un fenómeno que especialistas atribuyen al uso creciente de herramientas de IA generativa en la producción científica. En este contexto, arXiv reforzó sus reglas para asegurar que los autores revisen y validen toda la información antes de su publicación.