Cuando la cita no lleva a ningún lado

Elise Servajean
Universidad Andrés Bello

El contenido fabricado por IA ya es difícil de detectar casi en cualquier ámbito. La empresa de ciberseguridad DeepStrike estima que los deepfakes en circulación pasaron de 500.000 en 2023 a cerca de 8 millones en 2025 y que gran parte ya engaña a ojos entrenados. Lo mismo pasa con textos, ya sean noticias, informes, reseñas, todo puede fabricarse hoy en minutos. Y por supuesto el mundo de las publicaciones científicas no es la excepción.

En la versión 2025 de NeurIPS, una de las conferencias de IA más prestigiosas del mundo, las publicaciones enviadas pasaron de 12.343 en 2023 a 21.575 en 2025, un aumento de casi 75% en dos años, y ese volumen ya desborda la capacidad de revisión humana detallada. De los 5.290 papers finalmente aceptados, se detectó que al menos 53 contenían citas falsas: autores que no existían, DOIs inventados y referencias a estudios que nunca se publicaron. Cada uno había pasado por la revisión de entre tres y cinco expertos que no lograron detectar estos “errores” de contenido. Si eso pasa en la cuna de la IA, no hay razón para pensar que el resto de las disciplinas está mejor parada.

La tendencia se repite en toda la producción científica. Un estudio publicado en Scientometrics ya documentó el despegue de la IA generativa en la producción científica entre 2017 y 2023, con un crecimiento marcadamente más rápido que el de otras tecnologías de IA. Datos más recientes de ScholarOne, una plataforma que gestiona el envío de manuscritos para cientos de revistas, muestran que la tendencia no se ha frenado. En el primer trimestre de este año, las revistas recibieron 33% más artículos que en el mismo período de 2025. El año anterior, ese crecimiento había sido del 17%.

El problema está en que no todo ese aumento es fraude burdo, ni todo es ciencia acelerada por una herramienta útil. Es una mezcla donde ya no se puede distinguir con facilidad. Un estudio revisó 5.514 citas en 50 papers sobre IA, verificando cada una contra Crossref y Semantic Scholar. El resultado fue que 17% de esas citas no llevan a ningún lado. La mayoría no son inventos completos, sino títulos reales con metadatos alucinados, un DOI que no corresponde, un volumen que no existe. Y lo inquietante no es solo el número sino cómo se propaga. Cuando una cita fantasma entra en la literatura y otro paper la cita a su vez, el error queda incrustado en el sistema y se va heredando.

Y el incentivo apunta en la dirección contraria a frenar esto. Investigación reciente sobre adopción de IA muestra que quienes la usan publican varias veces más y son citados con mucha mayor frecuencia que quienes no. En un sistema donde sobrevivir depende de publicar, usar estas herramientas es una ventaja que ya nadie puede rechazar. El resultado es una carrera donde producir rápido paga y verificar cuesta un tiempo que nadie tiene.

No creo que la solución sea prohibir la herramienta. Pero si seguimos abordando esto como un problema de detección de texto sospechoso, seguiremos mirando el síntoma equivocado. El fondo del problema no cambia. Producir paga, verificar no. Hasta que eso cambie, una de cada seis citas no llevará a ningún lado, al menos en los papers sobre IA auditados hasta ahora.