--- id: CP-274 slug: sesgos-algoritmicos-estereotipos-datos lang: es title: Sesgos algorítmicos y estereotipos de los datos description: Una IA repite los estereotipos de sus datos de entrenamiento y aparenta neutralidad. Qué comprueba el empleado y qué prevé el AI Act. canonical_url: https://startbrain.io/cyberpedia/es/articles/sesgos-algoritmicos-estereotipos-datos/ markdown_url: https://startbrain.io/cyberpedia/es/articles/sesgos-algoritmicos-estereotipos-datos.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, «Sesgos algorítmicos y estereotipos de los datos», Cyberpedia, 2026. https://startbrain.io/cyberpedia/es/articles/sesgos-algoritmicos-estereotipos-datos/ (CC BY 4.0) wing: 4 theme: use_responsibly reflex: air-007 schema: G2 updated: "2026-11-03" translations: es: https://startbrain.io/cyberpedia/es/articles/sesgos-algoritmicos-estereotipos-datos/ fr: https://startbrain.io/cyberpedia/fr/articles/biais-algorithmiques-stereotypes-donnees/ en: https://startbrain.io/cyberpedia/en/articles/algorithmic-bias-training-data-stereotypes/ de: https://startbrain.io/cyberpedia/de/articles/algorithmische-verzerrungen-stereotype-trainingsdaten/ it: https://startbrain.io/cyberpedia/it/articles/pregiudizi-algoritmici-stereotipi-dati/ sources: - "n": 1 title: Towards a Standard for Identifying and Managing Bias in Artificial Intelligence publisher: NIST url: https://www.nist.gov/publications/towards-standard-identifying-and-managing-bias-artificial-intelligence published: "2022-03-15" accessed: "2026-11-03" - "n": 2 title: Towards a Standard for Identifying and Managing Bias in Artificial Intelligence publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.1270.pdf accessed: "2026-11-03" - "n": 3 title: "IA : comment être en conformité avec le RGPD ?" publisher: CNIL url: https://www.cnil.fr/fr/intelligence-artificielle/ia-comment-etre-en-conformite-avec-le-rgpd published: "2022-04-05" accessed: "2026-11-03" - "n": 4 title: Législation sur l’IA publisher: Commission européenne url: https://digital-strategy.ec.europa.eu/fr/policies/regulatory-framework-ai accessed: "2026-11-03" - "n": 5 title: AI Risk Management Framework publisher: NIST url: https://www.nist.gov/itl/ai-risk-management-framework accessed: "2026-11-03" --- # Sesgos algorítmicos y estereotipos de los datos Una herramienta de IA aprende a partir de datos producidos por personas, en organizaciones y en una sociedad con sus propias costumbres y desigualdades. Lo que extrae de ellos puede reproducir estereotipos sin que nadie lo haya querido. El NIST, el organismo de normalización de Estados Unidos, escribe que los sesgos « can lead to harmful impacts regardless of intent » [1]. El resultado llega en forma de cifra o de clasificación, una presentación que parece objetiva. Esta ficha explica de dónde vienen esas diferencias y qué hace un empleado que usa la IA para filtrar o puntuar a personas. ## En 30 segundos - Dónde ocurre: filtrado de currículums, puntuación, evaluación de candidatos, generación de textos o de imágenes, en cualquier lugar donde la IA clasifique o describa a personas. - Qué sucede: la herramienta reproduce diferencias presentes en sus datos, y su respuesta parece neutra. - El reflejo: no dejar nunca que una IA decida sola en un asunto que afecta a personas, comparar los resultados, señalar las diferencias y mantener una validación humana. - Si ya se ha hecho: avisar al responsable de la herramienta o al referente competente, y pedir que una persona revise la decisión. ## Preguntas directas ### ¿Por qué una IA reproduce estereotipos? Porque aprende de datos que los contienen. El NIST distingue tres categorías de sesgos en la IA: sistémicos, estadísticos y humanos [2]. Los sesgos sistémicos proceden de los procedimientos y las prácticas de instituciones que favorecen a unos grupos y perjudican a otros. No hace falta ningún prejuicio consciente: basta con que la mayoría siga las reglas y normas existentes [2]. Estos sesgos se encuentran en los conjuntos de datos que se usan en IA [2]. ### ¿Pueden los datos ser correctos y, aun así, estar sesgados? Sí. La CNIL describe dos casos. Los datos de aprendizaje pueden no ser representativos. También pueden representar bien el « mundo real » y, pese a ello, reflejar un carácter discriminatorio, por ejemplo la reproducción de las brechas salariales entre mujeres y hombres [3]. El NIST va en la misma línea: aunque sean representativos, los conjuntos de datos pueden presentar sesgos históricos y sistémicos arraigados [2]. ### ¿Por qué la respuesta parece neutra? El NIST señala que los sesgos están muy extendidos en los procesos tecnológicos y pueden causar daño sea cual sea la intención [1]. La herramienta no muestra de dónde sale su respuesta. La Comisión Europea indica que a menudo es imposible saber por qué un sistema de IA ha tomado una decisión, lo que dificulta saber si una persona ha sido perjudicada injustamente, por ejemplo en una decisión de contratación [4]. ### ¿Basta con retirar el sexo o el origen de los datos? No, según el NIST. Algunos desarrolladores excluyen a veces los atributos protegidos, pero eso no resuelve el problema, porque la información puede deducirse de otras maneras [2]. ### ¿Basta con que una persona revise el resultado para corregir el error? No automáticamente. El NIST califica de hipótesis problemática la idea de que un humano pueda supervisar de forma eficaz y objetiva un sistema algorítmico de decisión. Añade que las personas aportan sus propios sesgos cognitivos al usar estos sistemas [2]. La validación humana exige, por tanto, un método, que se describe más abajo. ## Cómo funciona El NIST clasifica las fuentes de sesgo en tres familias [2]. - Los sesgos sistémicos: dependen de las instituciones y de la historia, y están presentes tanto en los datos como en las prácticas a lo largo de todo el ciclo de vida de la IA [2]. - Los sesgos estadísticos y computacionales: aparecen cuando la muestra no representa a la población [2]. Un ejemplo que se da: los datos recogidos mediante cuestionarios en línea u obtenidos de las redes sociales solo representan a los usuarios de una plataforma, pero a veces sirven para entrenar herramientas que se despliegan en contextos mucho más amplios [2]. - Los sesgos humanos: son errores sistemáticos de razonamiento, presentes en las decisiones de instituciones, grupos e individuos, incluido el uso de una aplicación una vez desplegada [2]. En cuanto a los textos, el NIST observa que los conjuntos de datos de procesamiento del lenguaje suelen diferir de sus usos reales, lo que puede conducir a discriminación y a diferencias de rendimiento [2]. En cuanto al reconocimiento facial, cita la clasificación del género: su precisión varía según la edad y el grupo étnico, y una muestra limitada o no representativa de un grupo da una precisión menor para ese grupo [2]. ## Lo que usted hace - No confíe a una IA, sola, una decisión que afecte a personas (contratación, evaluación). La IA prepara, una persona decide. - Compare los resultados. Plantee a la herramienta casos parecidos que solo se diferencien en una característica personal y observe si la respuesta cambia. En un caso de experimentación con una tecnología, la CNIL exigió un análisis sistemático de los errores del sistema y elementos de reflexión sobre los riesgos de discriminación [3]. - Pregúntese quién no está en los datos. El NIST plantea la pregunta « Who is counted, and who is not counted? » y señala que las poblaciones indígenas, las mujeres y las personas con discapacidad están constantemente infrarrepresentadas en los conjuntos de datos [2]. - Comunique las diferencias que observe a la persona responsable de la herramienta en la empresa, con ejemplos. - Mantenga una validación humana que examine el resultado con espíritu crítico y pueda contradecirlo. El NIST indica que algunos investigadores recomiendan a los usuarios de una salida automatizada « consider a deliberate and modest approach » [2]. ## Las trampas - La confianza excesiva. El NIST llama « automation complacency » al hecho de depender demasiado de los sistemas automatizados [2]. Explica también que los expertos pueden usar la IA para aliviar la presión de procesos más subjetivos, en nombre de una supuesta objetividad de la automatización, y servirse de ella como pantalla de sus propios sesgos implícitos [2]. - Los datos no representativos. Una herramienta entrenada con datos que no reflejan a las personas que evalúa se equivoca más con ellas [2]. - Los grupos medios aplicados a los individuos. El NIST llama « ecological fallacy » a deducir algo sobre una persona a partir del grupo al que pertenece [2]. - Un control de fachada. El NIST considera que, sin un apoyo procedimental y cultural importante, las expectativas optimistas sobre el papel del humano que supervisa no se cumplen en la práctica [2]. - El ejemplo de la contratación. La CNIL controló a un organismo que evaluaba automáticamente currículums en vídeo grabados por candidatos. Constató sesgos discriminatorios: el sistema, que debía calificar las competencias de saber estar, no tenía en cuenta la diversidad de acentos [3]. - Un caso conocido por su título. La lista de referencias del NIST cita un artículo de Reuters de octubre de 2018 titulado « Amazon scraps secret AI recruiting tool that showed bias against women » [2]. Las fuentes citadas aquí no describen este caso en detalle. ## Lo que dice la ley europea El reglamento europeo sobre la IA es el Reglamento (UE) 2024/1689 [4]. Clasifica los usos por nivel de riesgo. Las herramientas de IA para el empleo y la gestión de los trabajadores, como los programas de filtrado de currículums, forman parte de los casos de uso de alto riesgo. También la calificación de exámenes en el ámbito educativo [4]. Entre las obligaciones de los sistemas de alto riesgo figuran una alta calidad de los conjuntos de datos para reducir al mínimo los riesgos de resultados discriminatorios, el registro de la actividad, una documentación detallada y medidas adecuadas de supervisión humana [4]. En cuanto al calendario, la Comisión indica que el reglamento entró en vigor el 1 de agosto de 2024. Las normas para determinados ámbitos de alto riesgo, entre ellos el empleo, se aplicarán a partir del 2 de diciembre de 2027 [4]. En cuanto al método, el marco de gestión de riesgos de la IA del NIST está pensado para un uso voluntario y pretende integrar mejor las consideraciones de fiabilidad en el diseño, el desarrollo, el uso y la evaluación de los sistemas de IA [5]. ## Fuentes 1. NIST, «Towards a Standard for Identifying and Managing Bias in Artificial Intelligence», 15 de marzo de 2022. https://www.nist.gov/publications/towards-standard-identifying-and-managing-bias-artificial-intelligence (consultado el 3 de noviembre de 2026) 2. NIST, «Towards a Standard for Identifying and Managing Bias in Artificial Intelligence». https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.1270.pdf (consultado el 3 de noviembre de 2026) 3. CNIL, «IA : comment être en conformité avec le RGPD ?», 5 de abril de 2022. https://www.cnil.fr/fr/intelligence-artificielle/ia-comment-etre-en-conformite-avec-le-rgpd (consultado el 3 de noviembre de 2026) 4. Commission européenne, «Législation sur l’IA». https://digital-strategy.ec.europa.eu/fr/policies/regulatory-framework-ai (consultado el 3 de noviembre de 2026) 5. NIST, «AI Risk Management Framework». https://www.nist.gov/itl/ai-risk-management-framework (consultado el 3 de noviembre de 2026) --- Fuente original: Cyberpedia, la enciclopedia pública de ciberseguridad e IA publicada por Brain. Versión canónica: https://startbrain.io/cyberpedia/es/articles/sesgos-algoritmicos-estereotipos-datos/ Puede reutilizar este texto libremente bajo la licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), siempre que cite «Brain, Cyberpedia» con un enlace a la dirección anterior.