---
id: CP-532
slug: ki-recruiting-hr-hochrisiko-ai-act
lang: de
title: "KI und Recruiting: Warum der AI Act von hohem Risiko spricht"
description: Warum der AI Act KI-Tools für Recruiting und die Verwaltung von Beschäftigten als Hochrisiko einstuft und was die DSGVO hinzufügt.
canonical_url: https://startbrain.io/cyberpedia/de/articles/ki-recruiting-hr-hochrisiko-ai-act/
markdown_url: https://startbrain.io/cyberpedia/de/articles/ki-recruiting-hr-hochrisiko-ai-act.md
publisher: Brain (https://startbrain.io)
license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/)
cite_as: "Brain, „KI und Recruiting: Warum der AI Act von hohem Risiko spricht“, Cyberpedia, 2026. https://startbrain.io/cyberpedia/de/articles/ki-recruiting-hr-hochrisiko-ai-act/ (CC BY 4.0)"
wing: 4
theme: use_responsibly
reflex: air-052
schema: G3
updated: "2026-11-14"
translations:
  de: https://startbrain.io/cyberpedia/de/articles/ki-recruiting-hr-hochrisiko-ai-act/
  fr: https://startbrain.io/cyberpedia/fr/articles/ia-recrutement-rh-haut-risque-ai-act/
  en: https://startbrain.io/cyberpedia/en/articles/ai-recruitment-hr-high-risk-ai-act/
  es: https://startbrain.io/cyberpedia/es/articles/ia-seleccion-personal-rrhh-alto-riesgo-ai-act/
  it: https://startbrain.io/cyberpedia/it/articles/ia-reclutamento-risorse-umane-alto-rischio-ai-act/
  nl: https://startbrain.io/cyberpedia/nl/articles/ai-werving-hr-hoog-risico-ai-act/
  pl: https://startbrain.io/cyberpedia/pl/articles/ai-rekrutacja-hr-wysokie-ryzyko-ai-act/
  pt: https://startbrain.io/cyberpedia/pt/articles/ia-recrutamento-rh-risco-elevado-ai-act/
  ja: https://startbrain.io/cyberpedia/ja/articles/ai-recruitment-hr-high-risk-ai-act/
sources:
  - "n": 1
    title: AI Act Service Desk - ANNEX III
    publisher: Commission européenne
    url: https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3
    accessed: "2026-11-14"
  - "n": 2
    title: AI Act Service Desk - Employment
    publisher: Commission européenne
    url: https://ai-act-service-desk.ec.europa.eu/en/employment-0
    accessed: "2026-11-14"
  - "n": 3
    title: "AI Act Service Desk - Article 6: Classification rules for high-risk AI systems"
    publisher: Commission européenne
    url: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-6
    accessed: "2026-11-14"
  - "n": 4
    title: AI Act
    publisher: Commission européenne
    url: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
    accessed: "2026-11-14"
  - "n": 5
    title: "Entrée en vigueur du règlement européen sur l’IA : les premières questions-réponses de la CNIL"
    publisher: CNIL
    url: https://www.cnil.fr/fr/entree-en-vigueur-du-reglement-europeen-sur-lia-les-premieres-questions-reponses-de-la-cnil
    published: "2024-07-12"
    accessed: "2026-11-14"
  - "n": 6
    title: Le guide du recrutement
    publisher: CNIL
    url: https://www.cnil.fr/fr/le-guide-du-recrutement
    published: "2023-01-30"
    accessed: "2026-11-14"
  - "n": 7
    title: L_202401689FR.000101.fmx.xml
    publisher: Office des publications de l'Union européenne
    url: https://publications.europa.eu/resource/cellar/dc8116a1-3fe6-11ef-865a-01aa75ed71a1.0009.03/DOC_1
    published: "2024-07-12"
    accessed: "2026-11-14"
  - "n": 8
    title: Profilage et décision entièrement automatisée
    publisher: CNIL
    url: https://www.cnil.fr/fr/profilage-et-decision-entierement-automatisee
    published: "2018-05-29"
    accessed: "2026-11-14"
  - "n": 9
    title: "Travail et recrutement prédictif : des candidats à l’emploi inégaux face aux nouveaux usages | Linc"
    publisher: CNIL
    url: https://linc.cnil.fr/travail-et-recrutement-predictif-des-candidats-lemploi-inegaux-face-aux-nouveaux-usages
    published: "2020-01-16"
    accessed: "2026-11-14"
---

# KI und Recruiting: Warum der AI Act von hohem Risiko spricht

Die europäische KI-Verordnung (AI Act) stuft KI-Tools, die dazu bestimmt sind, Personen einzustellen oder auszuwählen, sowie solche, die Entscheidungen über Arbeitsbedingungen, Beförderung oder die Beendigung eines Arbeitsverhältnisses treffen sollen, als Hochrisiko-Systeme ein [1].

Die Europäische Kommission erklärt diese Einstufung. Während der gesamten Einstellung, Bewertung, Beförderung oder Beschäftigung können KI-Systeme Diskriminierungsmuster der Vergangenheit reproduzieren, und Systeme, die Leistung und Verhalten verfolgen, können die Rechte auf Datenschutz und Privatsphäre verletzen [2]. Dieser Artikel erklärt, was die Texte, die Kommission und die CNIL sagen. Er entscheidet keinen Einzelfall.

## In 30 Sekunden

- Wo es vorkommt: Vorsortieren von Lebensläufen, Ranking von Bewerbern, Bewertung von Antworten in einem Test, Aufgabenverteilung oder Bewertung von Beschäftigten im laufenden Arbeitsverhältnis [1][2].
- Was der AI Act sagt: Diese Anwendungen stehen in Anhang III und gehören damit zur Hochrisiko-Kategorie, vorbehaltlich der Ausnahme in Artikel 6 [1][3].
- Wann: Die Kommission gibt an, dass die Regeln für den Bereich Beschäftigung ab dem 2. Dezember 2027 gelten [4].
- Der Reflex: Bevor ein Tool eingeführt wird, fragen, wofür es genau dient, wer die menschliche Kontrolle ausübt, welche Daten es verwendet und wie die betroffenen Personen informiert werden.

## Direkte Fragen

### Ist eine Software zur Vorsortierung von Lebensläufen ein Hochrisiko-System?

Die Kommission nennt die Software zur Vorsortierung von Lebensläufen im Recruiting als Beispiel für ein KI-Tool im Bereich Beschäftigung, das als Hochrisiko eingestuft ist [4]. Sie nennt auch das Beispiel eines Tools, das Bewerber anhand von Lebensläufen und Kompetenzen einordnet und filtert und daraus Scores oder Rankings erzeugt: Die Recruiter können diese Ergebnisse weiterhin frei überprüfen, aber sie dienen als Hauptgrundlage der Entscheidung, und das Tool ist deshalb als Hochrisiko eingestuft [2].

Für eng begrenzte Aufgaben gibt es eine Ausnahme. Die Kommission ordnet zum Beispiel ein System, das Informationen aus Lebensläufen erkennt und in eine für Recruiter durchsuchbare Datenbank einsortiert, ohne wesentliche Wirkung auf die Auswahl, der Ausnahme in Artikel 6 zu [2].

### Warum betrifft der Text auch Beschäftigte, die schon im Unternehmen arbeiten?

Punkt 4(b) von Anhang III erfasst Systeme, die dazu bestimmt sind, über Arbeitsbedingungen, Beförderung oder die Beendigung eines Vertrags zu entscheiden, Aufgaben nach Verhalten oder persönlichen Merkmalen zu verteilen oder Leistung und Verhalten zu verfolgen und zu bewerten [1]. Als Beispiele nennt die Kommission einen Planer, der Arbeitszeiten anhand von Signalen zu Pünktlichkeit und Bewertungen zuweist, oder eine Online-Kursplattform, die das Konto eines selbstständigen Tutors automatisch für einen Monat sperrt, dessen Bewertung drei Wochen in Folge unter 4 von 5 fällt [2].

### Sind alle HR-Tools betroffen?

Nein. Die Kommission nimmt ein Tool, das einem Bewerber hilft, seinen eigenen Lebenslauf anzupassen, oder ein Tool zur Unterstützung beim Onboarding neuer Beschäftigter aus dem Anwendungsbereich von Punkt 4(a) heraus; Letzteres kann allerdings unter Punkt 4(b) fallen, wenn es die Arbeitsbedingungen beeinflusst, Bewertungen speist oder Beschäftigte überwacht [2]. Außerhalb des Anwendungsbereichs nennt sie auch die Buchung von Büros und die Planung von Geschäftsreisen [2]. Ein Tool, das Gespräche plant, fällt unter die Ausnahme für eine eng begrenzte Verfahrensaufgabe [2].

### Ab wann gelten die Regeln?

Nach Angaben der Kommission ist der AI Act am 1. August 2024 in Kraft getreten und gilt seit dem 2. August 2026, mit Ausnahmen. Für Anhang III, zu dem der Bereich Beschäftigung gehört, wird das Datum durch den KI-Omnibus, in Kraft getreten am 27. Juli 2026, auf den 2. Dezember 2027 verschoben [4][5]. Die CNIL nennt dasselbe Datum für Anhang III [5].

### Gilt zusätzlich die DSGVO?

Ja. Für die CNIL ersetzt die KI-Verordnung die DSGVO nicht, sie ergänzt sie [5]. Als Beispiel, in dem beide Texte gelten, nennt sie das automatische Vorsortieren von Lebensläufen [5]. Der Leitfaden der CNIL erinnert daran, dass alle Vorgänge mit den Daten von Bewerbern, von der Erhebung bis zur Löschung, Verarbeitungen personenbezogener Daten sind [6].

## Wie es funktioniert

Artikel 6 legt die Regel fest: Die in Anhang III aufgeführten Systeme gelten als Hochrisiko-Systeme [3]. Eine Ausnahme gilt, wenn das System kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, unter anderem weil es die Entscheidung nicht wesentlich beeinflusst, und wenn eine dieser Bedingungen erfüllt ist: eng begrenzte Verfahrensaufgabe, Verbesserung des Ergebnisses einer bereits abgeschlossenen menschlichen Tätigkeit, Erkennung von Entscheidungsmustern, ohne die bereits erfolgte menschliche Bewertung zu ersetzen oder ohne angemessene menschliche Prüfung zu beeinflussen, oder vorbereitende Aufgabe für eine Bewertung [3]. Die Ausnahme greift nie, wenn das System Profiling von Personen betreibt [3]. Ein Anbieter, der der Ansicht ist, dass sein System kein Hochrisiko-System ist, muss seine Bewertung vor dem Inverkehrbringen dokumentieren [3].

Für Hochrisiko-Systeme listet die Kommission Anforderungen vor dem Inverkehrbringen auf: Bewertung und Minderung von Risiken, hochwertige Datensätze, um diskriminierende Ergebnisse zu begrenzen, Protokollierung, Dokumentation, klare Information an den Betreiber, Maßnahmen zur menschlichen Aufsicht, Robustheit, Cybersicherheit und Genauigkeit [4].

Das Unternehmen, das das Tool einsetzt, ist der Betreiber. Diese Pflichten gelten für den Bereich Beschäftigung ab dem 2. Dezember 2027 [4]. In dem am 12. Juli 2024 veröffentlichten Text sieht die Verordnung für ihn mehrere Pflichten vor [7]:

- Maßnahmen ergreifen, um das System gemäß seiner Gebrauchsanweisung zu verwenden [7];
- die menschliche Kontrolle Personen übertragen, die über die nötige Kompetenz, Ausbildung, Befugnis und Unterstützung verfügen [7];
- soweit er die Eingabedaten kontrolliert, dafür sorgen, dass sie relevant und ausreichend repräsentativ sind [7];
- die automatisch erzeugten Protokolle, die unter seiner Kontrolle stehen, mindestens sechs Monate aufbewahren, sofern das anwendbare Recht nichts anderes vorsieht [7].

## Was Sie tun

Bevor ein solches Tool eingeführt wird, kann ein HR-Verantwortlicher oder ein Manager diese Fragen stellen.

- Wofür dient das Tool: Ordnet es ein, bewertet es, filtert es, oder sortiert es nur Informationen ein? Die Beispiele der Kommission zeigen, dass die Antwort die Einstufung verändert [2].
- Was sagt die Gebrauchsanweisung, und wer im Unternehmen hat die Kompetenz, die Ausbildung und die Befugnis, die menschliche Kontrolle auszuüben [7]?
- Welche Daten speisen das Tool, und sind sie für seine Zweckbestimmung geeignet [7]? Die CNIL erinnert daran, dass nur Daten erhoben werden dürfen, die angemessen, relevant und für die Auswahl des Bewerbers unbedingt erforderlich sind [6].
- Wie werden die Beschäftigten und ihre Vertreter informiert? Bevor ein Hochrisiko-System am Arbeitsplatz in Betrieb genommen oder verwendet wird, informiert der Arbeitgeber die Arbeitnehmervertreter und die betroffenen Arbeitnehmer darüber, dass sie dem System unterliegen werden [7].
- Wie werden die Bewerber oder Beschäftigten informiert, deren Entscheidung das Tool erleichtert? Der Text von 2024 sieht diese Information für Betreiber von Systemen aus Anhang III vor, die Entscheidungen über Personen treffen oder dabei unterstützen [7].
- Ist die Entscheidung vollständig automatisiert? Nach Angaben der CNIL gibt die DSGVO (Artikel 22) Personen grundsätzlich das Recht, keiner Entscheidung unterworfen zu werden, die ausschließlich auf einer automatisierten Verarbeitung beruht und sie erheblich beeinträchtigt. Es gibt Ausnahmen: ausdrückliche Einwilligung, Erforderlichkeit für einen Vertrag, gesetzliche Bestimmung. In diesen Fällen muss die Person über die Logik der Entscheidung informiert werden und kann ein menschliches Eingreifen verlangen, um sie anzufechten [8].
- Wurde eine Datenschutz-Folgenabschätzung (DSFA) durchgeführt? Die CNIL geht davon aus, dass sie für Anbieter und Betreiber von Hochrisiko-Systemen erforderlich ist, und sie kann sich auf die Dokumentation stützen, die die KI-Verordnung verlangt [5]. Der Text von 2024 sieht vor, dass der Betreiber gegebenenfalls die Informationen des Anbieters für diese Analyse verwendet [7].
- Bei einem Persönlichkeitstest oder einem Serious Game: Die CNIL gibt an, dass diese Tools nur verwendet werden dürfen, wenn sie einen objektiven, direkten und notwendigen Bezug zur Fähigkeit, die Stelle zu besetzen, oder zu den beruflichen Fähigkeiten haben [6].

## Die Fallstricke

Die menschliche Kontrolle kann bloße Form bleiben. Die Kommission stellt bei einem Tool zur Überprüfung des Werdegangs fest, dass die menschliche Prüfung zwar Teil des Verfahrens ist, das Ergebnis des Tools aber stark auf die ausgewählten Bewerber wirkt, was als wesentlicher Einfluss auf die Einstellung zählt [2].

Die Verzerrung kann aus den Daten der Vergangenheit stammen. Ein Algorithmus, der Bewerber mit 1 bis 5 Sternen bewertete und schon 2014 getestet wurde, bevorzugte Männer für technische Stellen, weil er an zehn Jahren Einstellungen in einer von Männern dominierten Branche gelernt hatte [9]. Ein Modell zur Vorhersage der Beschäftigungsdauer, 2015 für ein Callcenter mit 40.000 Kundenberatern eingeführt, benachteiligte tendenziell Bewohner von Arbeitervierteln, weil ihre längeren Arbeitswege als negativer Faktor gelesen wurden [9]. Die CNIL betont, dass sich diese Art von Verzerrung weniger leicht erkennen und korrigieren lässt [9].

Profiling wird in Artikel 4 der DSGVO als Verarbeitung personenbezogener Daten definiert, die dazu dient, das Verhalten einer Person zu analysieren und vorherzusagen, zum Beispiel ihre Leistungen bei der Arbeit [8]. Nach dem AI Act kommt ein System aus Anhang III, das Personen profiliert, nie in den Genuss der Ausnahme [3].

## Quellen

1. Commission européenne, „AI Act Service Desk - ANNEX III“. https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3 (abgerufen am 14. November 2026)
2. Commission européenne, „AI Act Service Desk - Employment“. https://ai-act-service-desk.ec.europa.eu/en/employment-0 (abgerufen am 14. November 2026)
3. Commission européenne, „AI Act Service Desk - Article 6: Classification rules for high-risk AI systems“. https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-6 (abgerufen am 14. November 2026)
4. Commission européenne, „AI Act“. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (abgerufen am 14. November 2026)
5. CNIL, „Entrée en vigueur du règlement européen sur l’IA : les premières questions-réponses de la CNIL“, 12. Juli 2024. https://www.cnil.fr/fr/entree-en-vigueur-du-reglement-europeen-sur-lia-les-premieres-questions-reponses-de-la-cnil (abgerufen am 14. November 2026)
6. CNIL, „Le guide du recrutement“, 30. Januar 2023. https://www.cnil.fr/fr/le-guide-du-recrutement (abgerufen am 14. November 2026)
7. Office des publications de l'Union européenne, „L_202401689FR.000101.fmx.xml“, 12. Juli 2024. https://publications.europa.eu/resource/cellar/dc8116a1-3fe6-11ef-865a-01aa75ed71a1.0009.03/DOC_1 (abgerufen am 14. November 2026)
8. CNIL, „Profilage et décision entièrement automatisée“, 29. Mai 2018. https://www.cnil.fr/fr/profilage-et-decision-entierement-automatisee (abgerufen am 14. November 2026)
9. CNIL, „Travail et recrutement prédictif : des candidats à l’emploi inégaux face aux nouveaux usages | Linc“, 16. Januar 2020. https://linc.cnil.fr/travail-et-recrutement-predictif-des-candidats-lemploi-inegaux-face-aux-nouveaux-usages (abgerufen am 14. November 2026)

---

Originalquelle: Cyberpedia, die öffentliche Enzyklopädie zu Cybersicherheit und KI von Brain. Kanonische Version: https://startbrain.io/cyberpedia/de/articles/ki-recruiting-hr-hochrisiko-ai-act/
Sie dürfen diesen Text unter der Lizenz CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) frei weiterverwenden, sofern Sie „Brain, Cyberpedia“ mit einem Link auf die obige Adresse nennen.
