AI i rekrutacja: dlaczego AI Act mówi o wysokim ryzyku
Dlaczego AI Act zalicza narzędzia AI do rekrutacji i zarządzania pracownikami do wysokiego ryzyka i co dodaje do tego RODO.
Na tej stronie
W 30 sekund
- Gdzie to się zdarza
- Sortowanie CV, ranking kandydatów, ocenianie odpowiedzi w teście, podział zadań lub ocena pracowników już zatrudnionych[1][2].
- Co mówi AI Act
- Te zastosowania znajdują się w załączniku III, czyli w kategorii wysokiego ryzyka, z wyjątkiem odstępstwa przewidzianego w art. 6[1][3].
- Kiedy
- Komisja wskazuje, że przepisy dotyczące zatrudnienia obowiązują od 2 grudnia 2027 roku[4].
- Odruch
- Przed przyjęciem narzędzia zapytać, do czego dokładnie służy, kto sprawuje nadzór ze strony człowieka, jakich danych używa i jak informowane są osoby, których dotyczy.
O co chodzi
Europejskie rozporządzenie o AI (AI Act) zalicza do systemów wysokiego ryzyka narzędzia AI przeznaczone do rekrutacji lub selekcji osób, a także te przeznaczone do podejmowania decyzji dotyczących warunków pracy, awansu lub zakończenia stosunku pracy[1].
Komisja Europejska wyjaśnia ten wybór. Na każdym etapie rekrutacji, oceny, awansu czy utrzymania na stanowisku systemy AI mogą odtwarzać dawne schematy dyskryminacji, a te, które śledzą wyniki pracy i zachowanie, mogą naruszać prawa do ochrony danych i prywatności[2]. Ten artykuł wyjaśnia, co mówią teksty, Komisja i CNIL. Nie rozstrzyga konkretnego przypadku.
Pytania wprost
Czy oprogramowanie do sortowania CV jest systemem wysokiego ryzyka?
Komisja podaje oprogramowanie do sortowania CV w rekrutacji jako przykład narzędzia AI dla zatrudnienia zaliczonego do wysokiego ryzyka[4]. Podaje też przykład narzędzia, które klasyfikuje i filtruje kandydatów na podstawie CV i kompetencji, a następnie tworzy oceny punktowe lub rankingi: rekruterzy mogą swobodnie przeglądać te wyniki, ale stanowią one główną podstawę decyzji, więc narzędzie jest zaliczone do wysokiego ryzyka[2].
Istnieje odstępstwo dla wąskich zadań. Komisja zalicza na przykład do wyjątku z art. 6 system, który rozpoznaje informacje z CV i porządkuje je w bazie przeszukiwanej przez rekruterów, bez istotnego wpływu na selekcję[2].
Dlaczego tekst dotyczy także pracowników już zatrudnionych?
Punkt 4(b) załącznika III obejmuje systemy przeznaczone do podejmowania decyzji o warunkach pracy, awansie lub zakończeniu umowy, do przydzielania zadań na podstawie zachowania lub cech osobistych albo do monitorowania i oceniania wyników pracy i zachowania[1]. Komisja podaje jako przykłady program planujący, który przydziela grafik na podstawie sygnałów punktualności i ocen, oraz platformę kursów online, która automatycznie zawiesza na miesiąc konto niezależnego tutora, jeśli jego ocena spada poniżej 4 na 5 trzy tygodnie z rzędu[2].
Czy wszystkie narzędzia HR są objęte przepisami?
Nie. Komisja umieszcza poza zakresem pkt 4(a) narzędzie, które pomaga kandydatowi dostosować własne CV, oraz narzędzie wspierające wdrażanie nowych pracowników, które może jednak podlegać pkt 4(b), jeśli wpływa na warunki pracy, zasila oceny lub nadzoruje pracowników[2]. Poza zakresem wymienia też rezerwację biur i planowanie podróży służbowych[2]. Narzędzie, które planuje rozmowy kwalifikacyjne, podlega wyjątkowi dla wąskiego zadania proceduralnego[2].
Kiedy przepisy zaczynają obowiązywać?
Według Komisji AI Act wszedł w życie 1 sierpnia 2024 roku i obowiązuje od 2 sierpnia 2026 roku, z wyjątkami. Dla załącznika III, w tym zatrudnienia, termin jest przesunięty na 2 grudnia 2027 roku w drodze omnibusa AI, który wszedł w życie 27 lipca 2026 roku[4][5]. CNIL podaje tę samą datę dla załącznika III[5].
Czy RODO obowiązuje dodatkowo?
Tak. Według CNIL rozporządzenie o AI nie zastępuje RODO, lecz je uzupełnia[5]. Jako przykład, w którym stosuje się oba teksty, CNIL podaje automatyczne sortowanie CV[5]. Poradnik CNIL przypomina, że wszystkie operacje na danych kandydatów, od zbierania po usunięcie, są przetwarzaniem danych osobowych[6].
Jak to działa
Art. 6 ustanawia regułę: systemy wymienione w załączniku III uważa się za systemy wysokiego ryzyka[3]. Odstępstwo stosuje się, jeśli system nie stwarza istotnego ryzyka dla zdrowia, bezpieczeństwa lub praw podstawowych, także dlatego, że nie wpływa w istotny sposób na decyzję, i jeśli spełniony jest jeden z warunków: wąskie zadanie proceduralne, poprawa wyniku czynności wykonanej wcześniej przez człowieka, wykrywanie schematów decyzyjnych bez zastępowania ani wpływania na dokonaną wcześniej ocenę ludzką bez odpowiedniej weryfikacji przez człowieka albo zadanie przygotowawcze do oceny[3]. Odstępstwo nigdy nie ma zastosowania, gdy system dokonuje profilowania osób[3]. Dostawca, który uważa, że jego system nie jest systemem wysokiego ryzyka, musi udokumentować swoją ocenę przed wprowadzeniem na rynek[3].
Dla systemów wysokiego ryzyka Komisja wymienia wymogi obowiązujące przed wprowadzeniem na rynek: ocena i ograniczanie ryzyka, wysokiej jakości zbiory danych ograniczające dyskryminujące wyniki, rejestrowanie zdarzeń, dokumentacja, jasne informacje dla podmiotu stosującego, środki nadzoru ze strony człowieka, odporność, cyberbezpieczeństwo i dokładność[4].
Przedsiębiorstwo, które używa narzędzia, jest podmiotem stosującym. Obowiązki te mają zastosowanie w odniesieniu do zatrudnienia od 2 grudnia 2027 roku[4]. W tekście opublikowanym 12 lipca 2024 roku rozporządzenie przewiduje dla niego kilka obowiązków[7]:
- podjąć środki, by używać systemu zgodnie z jego instrukcją obsługi[7];
- powierzyć nadzór ze strony człowieka osobom, które mają niezbędne kompetencje, przeszkolenie, uprawnienia i wsparcie[7];
- dopilnować, w zakresie, w jakim kontroluje dane wejściowe, aby były adekwatne i wystarczająco reprezentatywne[7];
- przechowywać generowane automatycznie rejestry zdarzeń, które znajdują się pod jego kontrolą, przez co najmniej sześć miesięcy, chyba że przepisy mające zastosowanie stanowią inaczej[7].
Co robić
Przed przyjęciem narzędzia tego rodzaju osoba odpowiedzialna za HR lub manager może zadać te pytania.
- Do czego służy narzędzie: klasyfikuje, ocenia, filtruje, czy tylko porządkuje informacje? Przykłady Komisji pokazują, że odpowiedź zmienia klasyfikację[2].
- Co mówi instrukcja obsługi i kto w przedsiębiorstwie ma kompetencje, przeszkolenie i uprawnienia, by sprawować nadzór ze strony człowieka[7]?
- Jakie dane zasilają narzędzie i czy są dostosowane do jego przeznaczenia[7]? CNIL przypomina, że można zbierać wyłącznie dane adekwatne, stosowne i ściśle niezbędne do wyboru kandydata[6].
- Jak informowani są pracownicy i ich przedstawiciele? Przed oddaniem do użytku lub użyciem systemu wysokiego ryzyka w miejscu pracy pracodawca informuje przedstawicieli pracowników i pracowników, których to dotyczy, że będą mu podlegać[7].
- Jak informowani są kandydaci lub pracownicy, w których sprawie narzędzie ułatwia decyzję? Tekst z 2024 roku przewiduje taką informację dla podmiotów stosujących systemy z załącznika III, które podejmują decyzje dotyczące osób lub ułatwiają ich podejmowanie[7].
- Czy decyzja jest w pełni zautomatyzowana? Według CNIL RODO (art. 22) daje co do zasady osobom prawo do tego, by nie podlegać decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, która istotnie na nie wpływa. Istnieją wyjątki: wyraźna zgoda, konieczność związana z umową, przepis prawa. W takich przypadkach osoba musi zostać poinformowana o logice decyzji i może zwrócić się o interwencję człowieka, aby ją zakwestionować[8].
- Czy przeprowadzono ocenę skutków dla ochrony danych (DPIA)? CNIL domniemywa, że jest wymagana w przypadku dostawcy i podmiotu stosującego systemy wysokiego ryzyka, a może ona korzystać z dokumentacji wymaganej przez rozporządzenie o AI[5]. Tekst z 2024 roku przewiduje, że podmiot stosujący, w stosownych przypadkach, wykorzystuje do tej oceny informacje od dostawcy[7].
- W przypadku testu osobowości lub poważnej gry: CNIL wskazuje, że takie narzędzia można stosować wyłącznie wtedy, gdy mają obiektywny, bezpośredni i konieczny związek ze zdolnością do zajmowania stanowiska lub z umiejętnościami zawodowymi[6].
Pułapki
Nadzór ze strony człowieka może być tylko formalny. Komisja zauważa w przypadku narzędzia do weryfikacji przeszłości, że przegląd przez człowieka jest częścią procesu, ale wynik narzędzia mocno wpływa na wybranych kandydatów, co uznaje się za istotny wpływ na rekrutację[2].
Uprzedzenie może wynikać z danych z przeszłości. Algorytm oceniający kandydatów w skali od 1 do 5 gwiazdek, testowany już od 2014 roku, faworyzował mężczyzn na stanowiskach technicznych, ponieważ uczył się na podstawie dziesięciu lat rekrutacji w sektorze z przewagą mężczyzn[9]. Model prognozujący czas zatrudnienia, wdrożony w 2015 roku w centrum obsługi telefonicznej liczącym 40 000 konsultantów telefonicznych, miał tendencję do stawiania w gorszym położeniu mieszkańców dzielnic robotniczych, ponieważ ich dłuższe dojazdy były odczytywane jako czynnik negatywny[9]. CNIL podkreśla, że tego rodzaju uprzedzenia trudniej wykryć i skorygować[9].
Profilowanie jest zdefiniowane w art. 4 RODO jako przetwarzanie danych osobowych służące do analizy i przewidywania zachowania osoby, na przykład jej wyników w pracy[8]. W rozumieniu AI Act system z załącznika III, który profiluje osoby, nigdy nie korzysta z odstępstwa[3].
Źródła
- Commission européenne, „AI Act Service Desk - ANNEX III”. https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3 (dostęp 14 listopada 2026)
- Commission européenne, „AI Act Service Desk - Employment”. https://ai-act-service-desk.ec.europa.eu/en/employment-0 (dostęp 14 listopada 2026)
- Commission européenne, „AI Act Service Desk - Article 6: Classification rules for high-risk AI systems”. https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-6 (dostęp 14 listopada 2026)
- Commission européenne, „AI Act”. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (dostęp 14 listopada 2026)
- CNIL, „Entrée en vigueur du règlement européen sur l’IA : les premières questions-réponses de la CNIL”, 12 lipca 2024. https://www.cnil.fr/fr/entree-en-vigueur-du-reglement-europeen-sur-lia-les-premieres-questions-reponses-de-la-cnil (dostęp 14 listopada 2026)
- CNIL, „Le guide du recrutement”, 30 stycznia 2023. https://www.cnil.fr/fr/le-guide-du-recrutement (dostęp 14 listopada 2026)
- Office des publications de l'Union européenne, „L_202401689FR.000101.fmx.xml”, 12 lipca 2024. https://publications.europa.eu/resource/cellar/dc8116a1-3fe6-11ef-865a-01aa75ed71a1.0009.03/DOC_1 (dostęp 14 listopada 2026)
- CNIL, „Profilage et décision entièrement automatisée”, 29 maja 2018. https://www.cnil.fr/fr/profilage-et-decision-entierement-automatisee (dostęp 14 listopada 2026)
- CNIL, „Travail et recrutement prédictif : des candidats à l’emploi inégaux face aux nouveaux usages | Linc”, 16 stycznia 2020. https://linc.cnil.fr/travail-et-recrutement-predictif-des-candidats-lemploi-inegaux-face-aux-nouveaux-usages (dostęp 14 listopada 2026)
Zacytuj ten artykuł
Brain, „AI i rekrutacja: dlaczego AI Act mówi o wysokim ryzyku”, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp532_pl_2026,
author = {Brain},
title = {AI i rekrutacja: dlaczego AI Act mówi o wysokim ryzyku},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/pl/articles/ai-rekrutacja-hr-wysokie-ryzyko-ai-act/},
note = {CC BY 4.0}
}