Cyberpediapor Brain

Detectores de texto generado por IA: por qué sus resultados no bastan

Un detector de texto generado por IA da una puntuación, no una prueba: lo que dicen los trabajos de investigación sobre sus errores.

En esta página
  1. 1En 30 segundos
  2. 2De qué se trata
  3. 3Preguntas directas
  4. 4Cómo funciona
  5. 5Qué hace usted
  6. 6Las trampas
  7. 7Fuentes
  8. 8Citar este artículo

En 30 segundos

Dónde ocurre
Varios de los trabajos citados tratan de textos de estudiantes y de manuscritos académicos, ámbitos donde se emplean estos detectores[4][5].
Lo que vale la puntuación
Un análisis matemático concluye que un detector que se basa solo en el texto y que tiene una capacidad de detección útil produce forzosamente falsas acusaciones, a una tasa ligada al solapamiento entre la escritura de los estudiantes y la salida de las IA[5].
El reflejo
No hacer de una puntuación la prueba única, porque, según el análisis matemático, un detector útil que solo juzga el texto produce forzosamente falsas acusaciones[5].

De qué se trata

Un detector de texto generado por IA da una puntuación, y esa puntuación puede equivocarse en los dos sentidos. Investigadores han constatado que estas herramientas marcan a menudo como generados por IA textos escritos por un humano y retocados ligeramente con herramientas de IA[1]. Una paráfrasis repetida puede hacer bajar claramente las detecciones, en un ataque probado por investigadores[2]. Cuando los textos cambian de dominio o de generador, clasificadores muy eficaces en su dominio de origen se degradan claramente[3].

Las tasas de falsos positivos sobre textos escritos por humanos varían muchísimo de un detector a otro[4]. El autor de un análisis matemático sostiene que una puntuación de detección no debería servir de prueba única en un procedimiento disciplinario[5]. Este artículo explica esos límites a quien recibe una puntuación o tiene que leerla.

Preguntas directas

¿Puede un detector probar que un texto procede de una IA?

Según el análisis matemático de un investigador[5], un detector útil que solo juzga el texto, de una sola vez, produce forzosamente falsas acusaciones, en la evaluación de estudiantes. Este límite procede de la diversidad de las personas que escriben. No depende de la calidad del modelo de IA y no se corrige con una mejor ingeniería de los detectores ni con la tecnología[5]. El autor sostiene por ello que una puntuación no debería ser la única prueba en un procedimiento disciplinario[5].

¿Puede marcarse por error un texto escrito por un humano?

Sí. Investigadores evaluaron doce detectores sobre 14,7 mil muestras retocadas con distintos grados de implicación de la IA: los detectores marcan con frecuencia como generados por IA textos incluso muy poco retocados[1]. Los autores señalan que este tipo de clasificación puede conducir a falsas acusaciones de plagio[1].

¿Un texto retocado ligeramente por una IA es «generado por IA»?

Los detectores tienen dificultades para distinguir los grados de implicación de la IA, según el mismo estudio[1]. Este añade que muestran sesgos contra los modelos más antiguos y más pequeños[1].

¿Se puede engañar a un detector?

Investigadores probaron un ataque por paráfrasis recursiva sobre pasajes de unos 300 tokens, contra detectores de marca de agua, de redes neuronales, de clasificación sin ejemplos (zero shot) y de búsqueda de coincidencias[2]. Este ataque puede reducir significativamente las tasas de detección, degradando solo un poco la calidad del texto en muchos casos[2]. También estudiaron, sobre modelos con marca de agua (watermark), ataques de spoofing destinados a que un texto humano se clasifique como escrito por una IA: un atacante puede deducir las firmas ocultas de un texto de IA sin acceso completo al detector[2].

¿Sigue siendo fiable un detector fuera del marco de pruebas?

No necesariamente. Un equipo entrenó un modelo con 30 características lingüísticas: sobre dos corpus de referencia, alcanza una puntuación F1 de 0,9734[3]. Pero una evaluación sobre otros dominios y otros generadores revela un fracaso importante de generalización[3]. Las características que más cuentan cambian mucho de un corpus a otro, lo que indica que los detectores se apoyan a menudo en indicios de estilo propios de un conjunto de datos y no en señales estables de una escritura por máquina[3].

¿Cambian los resultados de un detector a otro?

Mucho. Sobre 135 389 pares de documentos (manuscritos de redactores no nativos y versiones corregidas por nativos) pasados por 13 detectores, las tasas de falsos positivos sobre textos humanos van del 0,0 % al 100,0 %[4]. Las mismas correcciones hacen subir la puntuación de algunos detectores y la hacen bajar en otros[4]. Las variaciones de la puntuación están correlacionadas con la magnitud de la corrección[4].

Cómo funciona

Un detector asigna una puntuación a un texto. Los detectores se diferencian por su método: marca de agua, red neuronal, clasificador sin ejemplos o búsqueda de coincidencias[2]. Los investigadores distinguen también las cifras obtenidas en un banco de pruebas de la fiabilidad en una situación real: muchos sistemas muestran una exactitud elevada en banco de pruebas, pero su fiabilidad en condiciones reales sigue siendo incierta[3].

En una evaluación de trabajos, el examinador no conoce generalmente la forma de escribir propia de cada estudiante[5]. Esta situación forma parte de las razones que, según el análisis matemático, hacen inevitables las falsas acusaciones para un detector útil[5].

Qué hace usted

  • Usted recibe una puntuación: no debería ser la única prueba en un procedimiento disciplinario[5].
  • Usted lee dos puntuaciones distintas: las mismas correcciones hacen subir la puntuación de algunos detectores y bajar la de otros, y las tasas de falsos positivos sobre textos humanos van del 0,0 % al 100,0 % según los detectores[4].
  • Usted quiere saber si un texto revisado o corregido es «humano»: los detectores tienen dificultades para distinguir los grados de implicación de la IA[1], y el estilo de una corrección profesional influye en sus puntuaciones[4].

Las trampas

  • Creer una cifra de banco de pruebas: un detector eficaz sobre un corpus se degrada claramente cuando cambia el dominio o el generador[3].
  • Ignorar el estilo: el estudio sobre los redactores no nativos identifica el estilo de una corrección profesional como una variable de confusión en los resultados de los detectores[4]. Estudios anteriores han informado de tasas elevadas de falsos positivos para el inglés no nativo[4].
  • Creer que una herramienta mejor resolverá el problema: el análisis matemático considera que esta restricción no se puede superar con una mejor ingeniería[5].
  • Confundir un texto retocado por una IA con un texto generado por una IA: los detectores distinguen mal los grados de implicación de la IA[1].

Fuentes

  1. arXiv, «Almost AI, Almost Human: The Challenge of Detecting AI-Polished Writing», 21 de febrero de 2025. https://arxiv.org/abs/2502.15666 (consultado el 14 de noviembre de 2026)
  2. arXiv, «Can AI-Generated Text be Reliably Detected?», 17 de marzo de 2023. https://arxiv.org/abs/2303.11156 (consultado el 14 de noviembre de 2026)
  3. arXiv, «Why AI-Generated Text Detection Fails: Evidence from Explainable AI Beyond Benchmark Accuracy», 24 de marzo de 2026. https://arxiv.org/abs/2603.23146 (consultado el 14 de noviembre de 2026)
  4. arXiv, «Style as a Confound: False Positives in AI Detection of Non-Native Academic Writing», 27 de agosto de 2026. https://arxiv.org/abs/2608.26710 (consultado el 14 de noviembre de 2026)
  5. arXiv, «AI Detectors Fail Diverse Student Populations: A Mathematical Framing of Structural Detection Limits», 11 de marzo de 2026. https://arxiv.org/abs/2603.20254 (consultado el 14 de noviembre de 2026)