Cyberpediapor Brain

Sus derechos ante una decisión tomada por una IA

Qué prevé el RGPD cuando una decisión que le afecta se basa en un tratamiento automatizado: excepciones, información, intervención humana, recurso.

En esta página
  1. 1En 30 segundos
  2. 2De qué se trata
  3. 3Preguntas directas
  4. 4Cómo funciona
  5. 5Qué hace usted
  6. 6Las trampas
  7. 7Fuentes
  8. 8Citar este artículo

En 30 segundos

Dónde ocurre
La CNIL cita ámbitos como la salud, la educación, los seguros, la protección social y la lucha contra el fraude[2], y analiza también las herramientas de clasificación automática de candidaturas[3].
Qué dice el derecho
En principio, nadie tiene que soportar una decisión exclusivamente automatizada que produzca efectos jurídicos o significativos, salvo en tres casos previstos por el artículo 22[1].
El reflejo
Pedir una intervención humana, en particular para obtener un nuevo examen de su situación, expresar su punto de vista e impugnar la decisión[2].
Si ya se ha hecho
El organismo informa a la persona de las actuaciones derivadas de su solicitud en el plazo de un mes, prorrogable dos meses más según la complejidad y el número de solicitudes[1].

De qué se trata

El RGPD reconoce a toda persona el derecho a no ser objeto de una decisión basada exclusivamente en un tratamiento automatizado, incluida la elaboración de perfiles, cuando esa decisión produce efectos jurídicos sobre ella o la afecta significativamente de modo similar (artículo 22)[1]. Este derecho admite excepciones, y se acompaña de garantías[2].

Este artículo presenta lo que dicen el RGPD, la CNIL y el artículo 86 de la AI Act, para un empleado afectado (una selección de candidaturas, por ejemplo) o que reciba la solicitud de un cliente o de un colega. No sustituye al asesoramiento jurídico.

Preguntas directas

¿Qué es una decisión totalmente automatizada?

Para la CNIL, es una decisión adoptada respecto de una persona mediante algoritmos aplicados a sus datos personales, sin que intervenga ningún ser humano en el proceso[2]. El artículo 22 se refiere a las que producen efectos jurídicos o afectan significativamente a la persona[2].

Un efecto jurídico afecta a los derechos y libertades de la persona, por ejemplo la privación de una prestación social o de derechos contractuales[2]. Puede haber un efecto significativo sin efecto jurídico: la CNIL cita una decisión que tiene consecuencias sobre la situación financiera de alguien o que conlleva tarifas más altas[2].

La elaboración de perfiles es una noción próxima pero distinta: es un tratamiento que utiliza los datos de un individuo para analizar y predecir su comportamiento. Una decisión automatizada puede prescindir de la elaboración de perfiles, como las multas automáticas por infracción de tráfico[2].

¿Una decisión totalmente automatizada está siempre prohibida?

No. El apartado 1 del artículo 22 no se aplica cuando la decisión es necesaria para la celebración o la ejecución de un contrato entre la persona y el responsable del tratamiento, está autorizada por el Derecho de la Unión o de un Estado miembro que prevea medidas adecuadas de salvaguardia, o se basa en el consentimiento explícito de la persona[1].

En los casos del contrato y del consentimiento, el responsable del tratamiento aplica medidas adecuadas, al menos el derecho a obtener una intervención humana, a expresar su punto de vista y a impugnar la decisión[1]. Estas decisiones no pueden basarse en las categorías especiales de datos del artículo 9, salvo si se aplica el consentimiento explícito o el artículo 9, apartado 2, letra g), y existen medidas de salvaguardia[1].

¿Qué se le debe decir sobre una decisión así?

Cuando los datos se recogen de usted, el responsable del tratamiento debe indicarle la existencia de una toma de decisiones automatizada a la que se refiere el artículo 22, apartados 1 y 4, y, al menos en estos casos, información útil sobre la lógica subyacente, así como la importancia y las consecuencias previstas del tratamiento[1]. Esa misma información figura entre las que el derecho de acceso permite obtener[1].

¿Qué es una intervención humana?

Según la CNIL, cuando no se aplica ninguna excepción, es necesaria una supervisión humana que confirme o sustituya la decisión automatizada[4]. Plantea el caso de un algoritmo de clasificación de CV que dejara algunos CV al final de una cola demasiado larga para que una persona pueda comprobar su pertinencia: pueden existir consecuencias en los hechos[4].

¿Qué añade el artículo 86 de la AI Act?

Este artículo, titulado «Right to explanation of individual decision-making» en el sitio de la Comisión Europea, se refiere a toda persona afectada por una decisión adoptada por un responsable del despliegue sobre la base del resultado de un sistema de IA de alto riesgo del anexo III (salvo el punto 2 de ese anexo). La decisión debe producir efectos jurídicos o afectar a la persona de modo similarmente significativo, de una manera que ella considere perjudicial para su salud, su seguridad o sus derechos fundamentales[5]. La persona tiene entonces derecho a obtener del responsable del despliegue explicaciones claras y pertinentes sobre el papel del sistema de IA en el procedimiento de toma de decisiones y sobre los principales elementos de la decisión[5].

Según la CNIL, las normas relativas a los sistemas de IA de alto riesgo del anexo III se aplican a partir del 2 de diciembre de 2027[6].

El texto prevé dos límites. No se aplica a los usos para los que el Derecho de la Unión o el Derecho nacional prevé excepciones o restricciones, y solo se aplica en la medida en que ese derecho no esté ya previsto de otro modo por el Derecho de la Unión[5].

La CNIL precisa que el reglamento sobre la IA no sustituye las exigencias del RGPD y pretende complementarlas[6]. Para un sistema de clasificación automática de CV, indica que se aplican los dos textos[6].

¿Es posible oponerse a un tratamiento?

El artículo 21 da un derecho de oposición, en cualquier momento, por motivos relacionados con la situación particular de la persona. Se refiere a un tratamiento basado en el artículo 6, apartado 1, letra e) o f), incluida la elaboración de perfiles. El responsable del tratamiento deja entonces de tratar los datos, salvo si demuestra motivos legítimos e imperiosos que prevalezcan o la necesidad de defender derechos en un procedimiento judicial[1]. En el caso de la prospección, incluida la elaboración de perfiles vinculada a ella, la oposición es posible en cualquier momento[1].

Cómo funciona

El RGPD describe derechos que actúan conjuntamente: la información sobre la existencia de la decisión automatizada, el acceso a los datos y, en los casos en que una excepción autoriza la decisión, la intervención humana, la posibilidad de expresar su punto de vista y la de impugnar[1]. Según la CNIL, para el ejercicio de ciertos derechos, en particular los del artículo 22, son indispensables explicaciones precisas sobre las razones de la decisión, y la complejidad y la opacidad de algunos sistemas de IA pueden hacer complicado proporcionarlas[3].

En el ámbito del crédito, la CNIL recuerda que las sentencias del Tribunal de Justicia de la Unión Europea en los asuntos C-634/21 y C-203/22 confirman que un scoring es una decisión automatizada cuando desempeña un papel determinante en la concesión de crédito, y consagran un derecho a la explicación sobre el funcionamiento del mecanismo que ha llevado a la decisión[7]. Su recomendación, publicada el 7 de mayo de 2026, precisa las condiciones en las que una decisión de crédito puede basarse en un tratamiento totalmente automatizado, con tres garantías: transparencia, intervención humana y explicabilidad[7]. Anticipa también la entrada en aplicación, en noviembre de 2026, de una autorización legal para las decisiones totalmente automatizadas en materia de créditos al consumo[7].

Esta recomendación recuerda las obligaciones legales y sirve de guía práctica. La CNIL indica que es posible apartarse de ella siempre que se justifiquen las decisiones adoptadas, en particular en caso de control[7].

Qué hace usted

Si le afecta, por ejemplo por una candidatura descartada sin explicación:

  • Compruebe lo que le ha dicho el organismo. Debía informarle de la existencia de una decisión automatizada en el momento de la recogida de sus datos, con información útil sobre la lógica seguida[1].
  • Ejerza su derecho de acceso para obtener esa información, así como los fines del tratamiento y los destinatarios de los datos[1].
  • Cuando la decisión se basa en un contrato o en su consentimiento explícito, pida una intervención humana, la expresión de su punto de vista y la impugnación de la decisión[1]. La CNIL describe esta intervención como un medio de obtener un nuevo examen de su situación y una explicación de la decisión[2].
  • Si el organismo prorroga el plazo de un mes, debe informarle de la prórroga y de sus motivos dentro del primer mes[1].
  • Si el organismo no da curso a la solicitud, debe indicarle los motivos, con la posibilidad de presentar una reclamación ante una autoridad de control y de interponer un recurso judicial[1].
  • Si la decisión se basa en un sistema de IA de alto riesgo del anexo III, el artículo 86 da derecho a pedir explicaciones al responsable del despliegue, con los límites vistos más arriba[5]. Según la CNIL, las normas relativas a estos sistemas se aplican a partir del 2 de diciembre de 2027[6].

Si recibe la solicitud de un cliente o de un colega:

  • El responsable del tratamiento facilita el ejercicio de los derechos de los artículos 15 a 22[1]. La información se facilita gratuitamente, salvo solicitudes manifiestamente infundadas o excesivas, lo que le corresponde demostrar[1].
  • Si existen dudas razonables sobre la identidad de quien presenta la solicitud, el responsable del tratamiento puede pedir información adicional para confirmarla[1].
  • La CNIL precisa que el organismo debe explicar cómo ejercer estos derechos[3].

Las trampas

  • Un humano de fachada. Para la CNIL, las herramientas de clasificación automática de candidaturas pueden dar lugar a una decisión exclusivamente automatizada por diseño cuando se descartan candidaturas, o se relegan a un segundo plano que nadie controla por falta de tiempo. Añade que, en principio, el RGPD prohíbe tales procedimientos, admitidos solo en condiciones excepcionales y con garantías[3].
  • La ayuda a la decisión. La CNIL señala que, cuando el sistema solo ayuda a decidir, también son necesarias garantías, en particular en materia de información[3].
  • Corregir los datos no es corregir el modelo. Según la CNIL, responder a una solicitud de rectificación o de supresión de datos de entrenamiento no implica necesariamente rectificar o suprimir los modelos de IA producidos a partir de esos datos[3].

Fuentes

  1. CNIL, «CHAPITRE III - Droits de la personne concernée», 23 de mayo de 2016. https://www.cnil.fr/fr/reglement-europeen-protection-donnees/chapitre3 (consultado el 14 de noviembre de 2026)
  2. CNIL, «Profilage et décision entièrement automatisée», 29 de mayo de 2018. https://www.cnil.fr/fr/profilage-et-decision-entierement-automatisee (consultado el 14 de noviembre de 2026)
  3. CNIL, «IA : comment être en conformité avec le RGPD ?», 5 de abril de 2022. https://www.cnil.fr/fr/intelligence-artificielle/ia-comment-etre-en-conformite-avec-le-rgpd (consultado el 14 de noviembre de 2026)
  4. CNIL, «Permettre le bon exercice de leurs droits par les personnes», 28 de marzo de 2022. https://www.cnil.fr/fr/intelligence-artificielle/guide/permettre-le-bon-exercice-de-leurs-droits-par-les-personnes (consultado el 14 de noviembre de 2026)
  5. Commission européenne, «AI Act Service Desk - Article 86: Right to explanation of individual decision-making». https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-86 (consultado el 14 de noviembre de 2026)
  6. CNIL, «Entrée en vigueur du règlement européen sur l’IA : les premières questions-réponses de la CNIL», 12 de julio de 2024. https://www.cnil.fr/fr/entree-en-vigueur-du-reglement-europeen-sur-lia-les-premieres-questions-reponses-de-la-cnil (consultado el 14 de noviembre de 2026)
  7. CNIL, «Octroi de crédit : la CNIL publie sa recommandation sur l’utilisation de données personnelles pour l’évaluation de la solvabilité», 7 de mayo de 2026. https://www.cnil.fr/fr/recommandation-octroi-de-credit (consultado el 14 de noviembre de 2026)