or Ewelina Kochanowska
Publicado originalmente en Biblioteka Analiz Nº 645 (13/2025)
🔗 Artículo original en polaco: rynek-ksiazki.pl
Las editoriales enfrentan hoy numerosos desafíos para verificar la autenticidad de los textos enviados. Una de las amenazas más significativas de los últimos años ha sido el uso masivo de modelos de inteligencia artificial generativa, como ChatGPT, para crear o "mejorar" artículos científicos. Aunque estas herramientas pueden apoyar la creatividad, se utilizan cada vez más de forma poco ética, generando contenido sin revelar el uso de IA.
El fenómeno del contenido generado por IA en publicaciones académicas no es marginal. Según la revista Applied Intelligence, ChatGPT fue mencionado en aproximadamente el 10% de los artículos publicados en cada una de las revistas analizadas, lo que muestra que autores de diversas disciplinas adoptaron rápidamente estas herramientas.
Un fenómeno particularmente preocupante en el mundo académico es el crecimiento de las llamadas paper mills — organizaciones informales o incluso criminales que preparan artículos científicos a pedido, a menudo a gran escala. Estas "fábricas de contenidos" ofrecen publicaciones listas para usar, oportunidades para figurar como coautor, o la venta directa de artículos a revistas específicas. Cada vez más recurren a la IA generativa para producir rápidamente textos aparentemente originales y formalmente correctos.
Las editoriales científicas son uno de los principales objetivos de estas prácticas, especialmente aquellas que publican artículos de acceso abierto sin exigir criterios rigurosos. Las paper mills se aprovechan de que muchas redacciones confían únicamente en herramientas de análisis de similitud para detectar plagio. En este contexto, los textos generados por IA suelen superar los controles de originalidad tradicionales, ya que los sistemas estándar de detección de plagio se enfocan en comparar con fuentes existentes.
Sin embargo, un texto generado por IA puede ser "original" en el sentido de que no contiene plagio directo, ya que fue construido mediante predicciones estadísticas del lenguaje. Solo un análisis estilométrico y lingüístico — es decir, detección de IA — puede aportar evidencias de que el texto no fue producto del trabajo humano, sino de un modelo de lenguaje.
Para los editores académicos, responsables de la calidad y autenticidad de las publicaciones, esta información es crucial tanto desde el punto de vista ético como legal. Según un informe de Nature de 2024, más de 10,000 artículos científicos sospechosos, publicados en los últimos años en revistas asiáticas y de Europa del Este, podrían haberse originado en paper mills. Muchos de ellos incluían datos falsificados, gráficos aleatorios y textos generados o editados con IA.
En respuesta, la detección de IA — especialmente cuando se combina con el análisis de metadatos (como autorías repetidas, afiliaciones, envíos múltiples en poco tiempo) — se está convirtiendo en una herramienta clave para combatir este fenómeno. Un estudio de la Universidad de Stanford demostró que los modelos de detección de IA identificaron correctamente fragmentos generados en 9 de cada 10 casos, siempre que se tratara de textos científicos extensos.
Así, la detección de IA se convierte en una herramienta revolucionaria, ya que al analizar el estilo y la estructura del lenguaje puede señalar que un texto — aunque no tenga similitudes visibles — presenta rasgos característicos de contenido generado automáticamente. Además, muchos informes de detección pueden señalar qué partes del texto podrían haber sido creadas por modelos de lenguaje y cuáles probablemente fueron escritas por humanos, lo cual es esencial para evaluar la contribución individual de los autores.
Un ejemplo de ello proviene de una editorial europea reconocida, que colabora con una base de datos de indexación internacional. Gracias a la detección de IA, descubrieron que varios autores de una misma institución presentaron en poco tiempo una docena de artículos con estructuras, estilos y diseños gráficos casi idénticos. Aunque cada artículo era "original" en cuanto a contenido, los informes mostraron que la mayor parte de los textos presentaban signos claros de haber sido generados por ChatGPT o Gemini. La editorial notificó a la revista, y tras una auditoría interna, todos los artículos fueron retirados y la institución quedó bajo supervisión.
En resumen, implementar la detección de IA en los sistemas antiplagio aporta numerosos beneficios. En primer lugar, aumenta la credibilidad de la editorial, garantizando a revisores y lectores que los contenidos publicados son auténticos. También fortalece el proceso de revisión por pares, al ofrecer una herramienta adicional para evaluar la calidad. Actúa como medida preventiva — el simple hecho de que los textos se analicen puede disuadir del uso encubierto de IA — y ayuda a cumplir con los requisitos de bases de datos internacionales. Por ejemplo, Scopus y Web of Science están empezando a exigir transparencia sobre el uso de inteligencia artificial.
En una era en la que la IA transforma rápidamente la comunicación académica, las editoriales deben responder con igual rapidez. La detección de IA en sistemas antiplagio ya no es un lujo, sino una necesidad si queremos mantener estándares éticos, credibilidad editorial y proteger la integridad del conocimiento científico.
Fuentes:
Picazo-Sanchez, P., Ortiz-Martin, L. (2024) “Analysing the impact of ChatGPT in research”, Applied Intelligence.
🔗 https://doi.org/10.1007/s10489-024-05298-0
Van Noorden, R. (2023), “More than 10,000 research papers were retracted in 2023 – a new record”, Nature.
🔗 https://www.nature.com/articles/d41586-023-03974-8
Cell Press (2023), “AI-generated academic science writing can be identified with over 99% accuracy”, ScienceDaily.
🔗 https://www.sciencedaily.com/releases/2023/06/230607124132.htm