Cyberpediavon Brain

Ihre Rechte bei einer Entscheidung durch eine KI

Was die DSGVO bei automatisierten Entscheidungen über Sie vorsieht: Ausnahmen, Information, menschliches Eingreifen und Rechtsbehelfe.

Auf dieser Seite
  1. 1In 30 Sekunden
  2. 2Worum es geht
  3. 3Direkte Fragen
  4. 4Wie es funktioniert
  5. 5Was Sie tun
  6. 6Die Fallstricke
  7. 7Quellen
  8. 8Diesen Artikel zitieren

In 30 Sekunden

Wo es vorkommt
Die CNIL nennt Bereiche wie Gesundheit, Bildung, Versicherung, soziale Sicherung und Betrugsbekämpfung[2] und analysiert auch Werkzeuge zur automatischen Einstufung von Bewerbungen[3].
Was das Recht sagt
Grundsätzlich muss niemand eine ausschließlich automatisierte Entscheidung hinnehmen, die rechtliche oder erhebliche Wirkung hat, außer in den drei Fällen, die Artikel 22 vorsieht[1].
Der Reflex
Ein menschliches Eingreifen verlangen, insbesondere um eine Neubewertung Ihrer Situation zu erhalten, Ihren Standpunkt darzulegen und die Entscheidung anzufechten[2].
Wenn es schon passiert ist
Die Organisation unterrichtet die Person innerhalb eines Monats über die auf ihren Antrag ergriffenen Maßnahmen; die Frist kann je nach Komplexität und Zahl der Anträge um zwei Monate verlängert werden[1].

Worum es geht

Die DSGVO gibt jeder Person das Recht, keiner Entscheidung unterworfen zu werden, die ausschließlich auf einer automatisierten Verarbeitung einschließlich Profiling beruht, wenn diese Entscheidung ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt (Artikel 22)[1]. Dieses Recht kennt Ausnahmen, und es sind Garantien damit verbunden[2].

Dieser Artikel stellt dar, was die DSGVO, die CNIL und Artikel 86 des AI Act sagen, für Beschäftigte, die betroffen sind (zum Beispiel von einer Vorauswahl von Bewerbungen) oder die eine Anfrage aus der Kundschaft oder dem Kollegenkreis erhalten. Er ersetzt keine Rechtsberatung.

Direkte Fragen

Was ist eine vollständig automatisierte Entscheidung?

Für die CNIL ist das eine Entscheidung über eine Person, die Algorithmen auf deren personenbezogene Daten anwenden, ohne dass ein Mensch in den Vorgang eingreift[2]. Artikel 22 erfasst solche Entscheidungen, die rechtliche Wirkung entfalten oder die Person erheblich beeinträchtigen[2].

Eine rechtliche Wirkung berührt die Rechte und Freiheiten der Person, zum Beispiel der Entzug einer Sozialleistung oder von Vertragsrechten[2]. Eine erhebliche Wirkung kann ohne rechtliche Wirkung bestehen: Die CNIL nennt eine Entscheidung, die sich auf die finanzielle Situation einer Person auswirkt oder zu höheren Tarifen führt[2].

Profiling ist ein verwandter, aber eigener Begriff: Es ist eine Verarbeitung, die die Daten einer Person nutzt, um ihr Verhalten zu analysieren und vorherzusagen. Eine automatisierte Entscheidung kann ohne Profiling auskommen, wie die automatischen Bußgelder bei Verkehrsverstößen[2].

Ist eine vollständig automatisierte Entscheidung immer verboten?

Nein. Absatz 1 von Artikel 22 gilt nicht, wenn die Entscheidung für den Abschluss oder die Erfüllung eines Vertrags zwischen der Person und dem Verantwortlichen erforderlich ist, wenn sie nach dem Recht der Union oder eines Mitgliedstaats zulässig ist, das angemessene Schutzmaßnahmen vorsieht, oder wenn sie auf der ausdrücklichen Einwilligung der Person beruht[1].

Bei Vertrag und Einwilligung trifft der Verantwortliche angemessene Maßnahmen, mindestens das Recht auf Erwirkung des Eingreifens einer Person, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung[1]. Diese Entscheidungen dürfen nicht auf den besonderen Datenkategorien des Artikels 9 beruhen, außer wenn die ausdrückliche Einwilligung oder Artikel 9 Absatz 2 Buchstabe g gilt und Schutzmaßnahmen bestehen[1].

Was muss man Ihnen über eine solche Entscheidung mitteilen?

Werden die Daten bei Ihnen erhoben, muss der Verantwortliche Sie auf das Bestehen einer automatisierten Entscheidungsfindung nach Artikel 22 Absätze 1 und 4 hinweisen und, zumindest in diesen Fällen, aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und die angestrebten Auswirkungen der Verarbeitung geben[1]. Dieselbe Information gehört zu denen, die das Auskunftsrecht zu erhalten erlaubt[1].

Was ist ein menschliches Eingreifen?

Nach der CNIL ist, wenn keine Ausnahme greift, eine menschliche Aufsicht nötig, die die automatisierte Entscheidung bestätigt oder ersetzt[4]. Sie wirft die Frage nach einem Algorithmus zur Sortierung von Lebensläufen auf, der manche Lebensläufe ans Ende einer Liste setzt, die zu lang ist, als dass ein Mensch ihre Relevanz prüfen könnte: Folgen können tatsächlich bestehen[4].

Was fügt Artikel 86 des AI Act hinzu?

Dieser Artikel, auf der Website der Europäischen Kommission „Right to explanation of individual decision-making“ betitelt, betrifft jede Person, die von einer Entscheidung betroffen ist, die ein Betreiber auf der Grundlage des Ergebnisses eines Hochrisiko-KI-Systems aus Anhang III trifft (mit Ausnahme von Nummer 2 dieses Anhangs). Die Entscheidung muss rechtliche Wirkung entfalten oder die Person in ähnlich erheblicher Weise beeinträchtigen, und zwar in einer Weise, die sie als nachteilig für ihre Gesundheit, ihre Sicherheit oder ihre Grundrechte ansieht[5]. Die Person hat dann das Recht, vom Betreiber klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsverfahren und zu den wichtigsten Elementen der Entscheidung zu erhalten[5].

Nach der CNIL gelten die Vorschriften für Hochrisiko-KI-Systeme aus Anhang III ab dem 2. Dezember 2027[6].

Der Text sieht zwei Grenzen vor. Er gilt nicht für Verwendungen, für die das Recht der Union oder das nationale Recht Ausnahmen oder Beschränkungen vorsieht, und er gilt nur, soweit dieses Recht nicht bereits anderweitig im Unionsrecht vorgesehen ist[5].

Die CNIL stellt klar, dass die KI-Verordnung die Anforderungen der DSGVO nicht ersetzt, sondern sie ergänzen soll[6]. Für ein System zur automatischen Sortierung von Lebensläufen gibt sie an, dass beide Texte gelten[6].

Kann man einer Verarbeitung widersprechen?

Artikel 21 gibt ein Widerspruchsrecht, jederzeit, aus Gründen, die sich aus der besonderen Situation der Person ergeben. Es betrifft eine Verarbeitung auf der Grundlage von Artikel 6 Absatz 1 Buchstabe e oder f, einschließlich Profiling. Der Verantwortliche stellt die Verarbeitung dann ein, es sei denn, er weist zwingende schutzwürdige Gründe nach, die überwiegen, oder die Notwendigkeit, Rechtsansprüche zu verteidigen[1]. Gegen Direktwerbung, einschließlich des damit verbundenen Profilings, ist der Widerspruch jederzeit möglich[1].

Wie es funktioniert

Die DSGVO beschreibt Rechte, die zusammenwirken: die Information über das Bestehen der automatisierten Entscheidung, der Zugang zu den Daten und, in den Fällen, in denen eine Ausnahme die Entscheidung erlaubt, das menschliche Eingreifen, die Möglichkeit, den eigenen Standpunkt darzulegen, und die Möglichkeit der Anfechtung[1]. Nach der CNIL sind für die Ausübung bestimmter Rechte, insbesondere derjenigen aus Artikel 22, genaue Erläuterungen zu den Gründen der Entscheidung unerlässlich, und die Komplexität und Undurchsichtigkeit mancher KI-Systeme kann es schwierig machen, diese Erläuterungen zu geben[3].

Im Kreditbereich erinnert die CNIL daran, dass die Urteile des Gerichtshofs der Europäischen Union in den Rechtssachen C-634/21 und C-203/22 bestätigen, dass ein Scoring eine automatisierte Entscheidung ist, wenn es bei der Kreditvergabe eine ausschlaggebende Rolle spielt, und ein Recht auf Erläuterung der Funktionsweise des Mechanismus festschreiben, der zur Entscheidung geführt hat[7]. Ihre am 7. Mai 2026 veröffentlichte Empfehlung legt die Bedingungen fest, unter denen eine Kreditentscheidung auf einer vollständig automatisierten Verarbeitung beruhen kann, mit drei Garantien: Transparenz, menschliches Eingreifen und Erklärbarkeit[7]. Sie sieht auch voraus, dass im November 2026 eine gesetzliche Erlaubnis für vollständig automatisierte Entscheidungen bei Verbraucherkrediten anwendbar wird[7].

Diese Empfehlung ruft die gesetzlichen Pflichten in Erinnerung und dient als praktischer Leitfaden. Die CNIL gibt an, dass man davon abweichen kann, sofern man seine Entscheidungen begründet, insbesondere im Fall einer Kontrolle[7].

Was Sie tun

Wenn Sie betroffen sind, zum Beispiel von einer Bewerbung, die ohne Erklärung aussortiert wurde:

  • Prüfen Sie, was die Organisation Ihnen gesagt hat. Sie musste Sie bei der Erhebung Ihrer Daten über das Bestehen einer automatisierten Entscheidung informieren, mit aussagekräftigen Informationen über die angewandte Logik[1].
  • Üben Sie Ihr Auskunftsrecht aus, um diese Informationen sowie die Zwecke der Verarbeitung und die Empfänger der Daten zu erhalten[1].
  • Beruht die Entscheidung auf einem Vertrag oder auf Ihrer ausdrücklichen Einwilligung, verlangen Sie ein menschliches Eingreifen, die Darlegung Ihres Standpunkts und die Anfechtung der Entscheidung[1]. Die CNIL beschreibt dieses Eingreifen als Mittel, eine Neubewertung der eigenen Situation und eine Erläuterung der Entscheidung zu erhalten[2].
  • Verlängert die Organisation die Frist von einem Monat, muss sie Sie innerhalb des ersten Monats über die Verlängerung und deren Gründe unterrichten[1].
  • Wird die Organisation nicht tätig, muss sie Ihnen die Gründe nennen, mit dem Hinweis auf die Möglichkeit, bei einer Aufsichtsbehörde Beschwerde einzulegen und einen gerichtlichen Rechtsbehelf einzulegen[1].
  • Beruht die Entscheidung auf einem Hochrisiko-KI-System aus Anhang III, gibt Artikel 86 das Recht, vom Betreiber Erläuterungen zu verlangen, innerhalb der weiter oben dargestellten Grenzen[5]. Nach der CNIL gelten die Vorschriften für diese Systeme ab dem 2. Dezember 2027[6].

Wenn Sie eine Anfrage aus der Kundschaft oder dem Kollegenkreis erhalten:

  • Der Verantwortliche erleichtert die Ausübung der Rechte aus den Artikeln 15 bis 22[1]. Die Informationen werden unentgeltlich zur Verfügung gestellt, außer bei offenkundig unbegründeten oder exzessiven Anträgen, was nachzuweisen ihm obliegt[1].
  • Bei begründeten Zweifeln an der Identität der anfragenden Person kann der Verantwortliche zusätzliche Informationen zu deren Bestätigung verlangen[1].
  • Die CNIL stellt klar, dass die Organisation erklären muss, wie diese Rechte auszuüben sind[3].

Die Fallstricke

  • Ein Mensch nur zum Schein. Für die CNIL können Werkzeuge zur automatischen Einstufung von Bewerbungen bereits ihrer Konzeption nach zu einer ausschließlich automatisierten Entscheidung führen, wenn Bewerbungen aussortiert oder in den Hintergrund gerückt werden, den mangels Zeit niemand kontrolliert. Sie fügt hinzu, dass die DSGVO solche Verfahren grundsätzlich verbietet und nur unter außergewöhnlichen Bedingungen mit Garantien zulässt[3].
  • Die Entscheidungsunterstützung. Die CNIL merkt an, dass auch dann Garantien nötig sind, wenn das System nur bei der Entscheidung hilft, insbesondere bei der Information[3].
  • Daten zu berichtigen heißt nicht, das Modell zu berichtigen. Nach der CNIL bedeutet die Beantwortung eines Antrags auf Berichtigung oder Löschung von Trainingsdaten nicht zwingend, dass die aus diesen Daten erzeugten KI-Modelle berichtigt oder gelöscht werden müssen[3].

Quellen

  1. CNIL, „CHAPITRE III - Droits de la personne concernée“, 23. Mai 2016. https://www.cnil.fr/fr/reglement-europeen-protection-donnees/chapitre3 (abgerufen am 14. November 2026)
  2. CNIL, „Profilage et décision entièrement automatisée“, 29. Mai 2018. https://www.cnil.fr/fr/profilage-et-decision-entierement-automatisee (abgerufen am 14. November 2026)
  3. CNIL, „IA : comment être en conformité avec le RGPD ?“, 5. April 2022. https://www.cnil.fr/fr/intelligence-artificielle/ia-comment-etre-en-conformite-avec-le-rgpd (abgerufen am 14. November 2026)
  4. CNIL, „Permettre le bon exercice de leurs droits par les personnes“, 28. März 2022. https://www.cnil.fr/fr/intelligence-artificielle/guide/permettre-le-bon-exercice-de-leurs-droits-par-les-personnes (abgerufen am 14. November 2026)
  5. Commission européenne, „AI Act Service Desk - Article 86: Right to explanation of individual decision-making“. https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-86 (abgerufen am 14. November 2026)
  6. CNIL, „Entrée en vigueur du règlement européen sur l’IA : les premières questions-réponses de la CNIL“, 12. Juli 2024. https://www.cnil.fr/fr/entree-en-vigueur-du-reglement-europeen-sur-lia-les-premieres-questions-reponses-de-la-cnil (abgerufen am 14. November 2026)
  7. CNIL, „Octroi de crédit : la CNIL publie sa recommandation sur l’utilisation de données personnelles pour l’évaluation de la solvabilité“, 7. Mai 2026. https://www.cnil.fr/fr/recommandation-octroi-de-credit (abgerufen am 14. November 2026)