Sesgo de automatización: dejar de verificar una IA que suele acertar
Por qué acabamos aceptando sin releer las respuestas de una IA que rara vez se equivoca, y qué hábitos sencillos permiten seguir verificando.
En esta página
En 30 segundos
- Dónde ocurre
- En cualquier trabajo en el que una IA propone un texto, una cifra, una clasificación o una recomendación que usted valida después.
- Qué ocurre
- Se puede seguir un consejo erróneo de la máquina cuando se tenía primero la respuesta correcta[1].
- El reflejo
- Antes de validar, releer una parte de la respuesta, buscar su fuente y preguntarse qué pasa si es falsa.
- Si ya lo ha hecho
- Relea ahora el resultado que reutilizó sin controlarlo, sobre todo si compromete a un cliente o una cifra oficial, y comunique cualquier error a la persona que lo ha recibido.
De qué se trata
Un asistente de IA que da buenas respuestas la mayor parte del tiempo cambia poco a poco la forma de leerlo. Los investigadores llaman a este deslizamiento sesgo de automatización: la tendencia a seguir las sugerencias de una máquina sin examinarlas.
Un estudio de patología ilustra el riesgo: la IA mejora en él el rendimiento global y, aun así, hace que se inviertan evaluaciones que al principio eran correctas[1].
Preguntas directas
¿Afecta de verdad a personas competentes?
Sí. En un experimento en línea publicado en 2024, 28 expertos en patología formados en el oficio debían estimar porcentajes de células tumorales. La IA mejoró su rendimiento global, pero en el 7 % de los casos una evaluación inicialmente correcta fue invertida por un consejo erróneo de la máquina[1].
¿La presión del tiempo agrava el problema?
En ese mismo estudio, la presión del tiempo no hizo que el sesgo apareciera con más frecuencia. Parece, sin embargo, haberlo agravado: los participantes se apoyaban más en las consultas negativas del sistema, y su rendimiento bajaba después[1].
¿Basta una alerta procedente de otro lugar para que dudemos?
Unos investigadores estudiaron esta cuestión en tres experimentos realizados en los Países Bajos y publicados en línea en 2021. Tratan de la confianza excesiva en un consejo algorítmico, incluso cuando otras fuentes envían señales de alerta, y de la adopción selectiva de ese consejo cuando coincide con estereotipos[2].
¿Cambia algo el nivel de conocimiento de la IA?
Sí. Un experimento preregistrado de 2023, realizado con 9 000 adultos en 9 países, puso a prueba una tarea de identificación. Las personas que menos conocen la IA tienden algo más a desconfiar de ella. El sesgo de automatización aparece después en niveles de conocimiento todavía bajos y luego se estabiliza cuando el conocimiento de la IA es muy alto[3]. La dificultad de la tarea y la competencia atribuida a la herramienta también influyen[3].
¿Quién está más expuesto?
Depende de la actitud hacia la IA. En un experimento publicado en 2025 con 2 784 participantes, quienes desconfiaban de la IA detectaban mejor los errores. Quienes la veían con buenos ojos mostraban una dependencia excesiva de sus sugerencias[4].
¿Un equipo humano + IA rinde más que la IA sola?
No necesariamente. Los autores de un estudio publicado en 2025 recuerdan que se ha juzgado que los equipos humano + IA rinden menos que la IA sola, y que la razón aducida es el sesgo de automatización: los humanos siguen las recomendaciones de la IA incluso cuando son falsas[5].
¿Qué dice el AI Act?
Para los sistemas de IA de alto riesgo, el artículo 14 pide que las personas encargadas de la supervisión puedan seguir siendo conscientes de la «possible tendency of automatically relying or over-relying on the output produced by a high-risk AI system (automation bias)»[6]. También deben poder decidir no utilizar el sistema, o ignorar, sustituir o anular su resultado[6]. Un análisis jurídico de 2025 considera que el énfasis puesto en los proveedores no aborda lo bastante el diseño y el contexto como causas del sesgo[7].
Cómo funciona
Los autores del estudio de patología definen el sesgo como el hecho de seguir sin espíritu crítico indicaciones automatizadas[1].
La forma en que se organiza el trabajo también cuenta. En el experimento de 2 784 participantes, exigir una corrección por cada error indicado redujo la implicación y aumentó la aceptación de sugerencias falsas[4]. Los autores concluyen que el éxito depende también de quién relee los resultados de la IA y de cómo se organiza esa relectura[4].
Lo que usted hace
Estos hábitos recogen recomendaciones de Microsoft dirigidas a los equipos que crean aplicaciones sobre Azure OpenAI[8], así como los resultados de los estudios anteriores.
- Relea una parte de la respuesta antes de validar y modifíquela en lugar de aceptarla tal cual. Microsoft recomienda a los equipos diseñar la herramienta para que los usuarios relean y corrijan los resultados antes de aceptarlos[8].
- Busque la fuente. Cuando una herramienta cita sus referencias, se ve de dónde procede el contenido generado[8]. Si la herramienta no las da, busque la información en otro lugar.
- Controle las cifras en primer lugar. Microsoft pone el ejemplo de un sistema menos preciso con los números: recomienda indicarlos e invitar a verificarlos o a consultar fuentes externas[8].
- Pruebe el código antes de aceptarlo. Para las sugerencias de código, Microsoft recuerda al desarrollador que las relea y las pruebe[8].
- Pregúntese qué pasa si la respuesta es falsa. Microsoft señala que el riesgo ligado a las inexactitudes es mayor en un resumen de notas de un médico que en un resumen de artículos en línea[8].
- Conserve la responsabilidad del contenido final. Microsoft recomienda recordar a los usuarios que responden del contenido que validan[8].
Las trampas
- Creer que la herramienta hace innecesaria la verificación. En el estudio de patología, el rendimiento global mejoraba con la IA y el sesgo existía de todos modos[1].
- Creer que todos los dispositivos de ayuda tienen el mismo efecto. En un estudio con 108 participantes sobre una decisión de atención a la diabetes, los niveles de confianza de la IA, las explicaciones textuales y las visualizaciones de rendimiento mejoraron los resultados. La retroalimentación humana y las preguntas planteadas por la IA fomentaron la reflexión, pero a menudo redujeron el rendimiento al aumentar el esfuerzo cognitivo[5].
- Pensar que la ley resuelve el asunto. El AI Act pide que los sistemas de alto riesgo se suministren de modo que las personas encargadas de la supervisión puedan seguir siendo conscientes del sesgo[6], pero el análisis jurídico citado más arriba se pregunta si conviene regular directamente el riesgo en lugar de exigir solo concienciación[7].
Fuentes
- arXiv, «Automation Bias in AI-Assisted Medical Decision-Making under Time Pressure in Computational Pathology», 1 de noviembre de 2024. https://arxiv.org/abs/2411.00998 (consultado el 14 de noviembre de 2026)
- arXiv, «Human-AI Interactions in Public Sector Decision-Making: "Automation Bias" and "Selective Adherence" to Algorithmic Advice», 3 de marzo de 2021. https://arxiv.org/abs/2103.02381 (consultado el 14 de noviembre de 2026)
- arXiv, «Bending the Automation Bias Curve: A Study of Human and AI-based Decision Making in National Security Contexts», 28 de junio de 2023. https://arxiv.org/abs/2306.16507 (consultado el 14 de noviembre de 2026)
- arXiv, «Bias in the Loop: How Humans Evaluate AI-Generated Suggestions», 10 de septiembre de 2025. https://arxiv.org/abs/2509.08514 (consultado el 14 de noviembre de 2026)
- arXiv, «Engaging with AI: How Interface Design Shapes Human-AI Collaboration in High-Stakes Decision-Making», 28 de enero de 2025. https://arxiv.org/abs/2501.16627 (consultado el 14 de noviembre de 2026)
- Commission européenne, «AI Act Service Desk - Article 14: Human oversight». https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-14 (consultado el 14 de noviembre de 2026)
- arXiv, «Automation Bias in the AI Act: On the Legal Implications of Attempting to De-Bias Human Oversight of AI», 14 de febrero de 2025. https://arxiv.org/abs/2502.10036 (consultado el 14 de noviembre de 2026)
- Microsoft, «Overview of responsible AI practices for Azure OpenAI models». https://learn.microsoft.com/en-us/azure/foundry/responsible-ai/openai/overview (consultado el 14 de noviembre de 2026)
Citar este artículo
Brain, «Sesgo de automatización: dejar de verificar una IA que suele acertar», Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp275_es_2026,
author = {Brain},
title = {Sesgo de automatización: dejar de verificar una IA que suele acertar},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/es/articles/sesgo-automatizacion-verificar-respuestas-ia/},
note = {CC BY 4.0}
}