Cyberpediaod Brain

Pana/Pani prawa wobec decyzji podjętej przez AI

Co przewiduje RODO, gdy decyzja o Panu/Pani opiera się na zautomatyzowanym przetwarzaniu: wyjątki, informacja, interwencja człowieka, środki prawne.

Na tej stronie
  1. 1W 30 sekund
  2. 2O co chodzi
  3. 3Pytania wprost
  4. 4Jak to działa
  5. 5Co robić
  6. 6Pułapki
  7. 7Źródła
  8. 8Zacytuj ten artykuł

W 30 sekund

Gdzie to się zdarza
CNIL wymienia takie dziedziny jak zdrowie, edukacja, ubezpieczenia, ochrona socjalna i zwalczanie oszustw[2], a analizuje też narzędzia do automatycznego klasyfikowania zgłoszeń kandydatów[3].
Co mówi prawo
Co do zasady nikt nie musi poddawać się decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, która wywołuje skutki prawne lub istotne, z wyjątkiem trzech przypadków przewidzianych w art. 22[1].
Odruch
Poprosić o interwencję człowieka, w szczególności w celu uzyskania ponownego rozpatrzenia swojej sytuacji, przedstawić swoje stanowisko i zakwestionować decyzję[2].
Jeśli już to zrobiono
Organizacja informuje osobę o działaniach podjętych w związku z jej wnioskiem w terminie jednego miesiąca, z możliwością przedłużenia o dwa miesiące, zależnie od złożoności i liczby wniosków[1].

O co chodzi

RODO przyznaje każdej osobie prawo do tego, by nie podlegała decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, jeżeli decyzja ta wywołuje wobec niej skutki prawne lub w podobny sposób istotnie na nią wpływa (art. 22)[1]. Prawo to ma wyjątki, a towarzyszą mu gwarancje[2].

Ten artykuł przedstawia, co mówią RODO, CNIL i art. 86 AI Act, z myślą o pracowniku, którego sprawa dotyczy (na przykład selekcja zgłoszeń kandydatów), lub który otrzymałby wniosek klienta albo współpracownika. Nie zastępuje porady prawnej.

Pytania wprost

Czym jest decyzja w pełni zautomatyzowana?

Według CNIL jest to decyzja podjęta wobec osoby przez algorytmy stosowane do jej danych osobowych, bez udziału jakiegokolwiek człowieka w tym procesie[2]. Art. 22 dotyczy decyzji, które wywołują skutki prawne lub w istotny sposób wpływają na osobę[2].

Skutek prawny dotyka praw i wolności osoby, na przykład pozbawienia jej świadczenia socjalnego lub praw wynikających z umowy[2]. Skutek istotny może istnieć bez skutku prawnego: CNIL podaje decyzję, która ma konsekwencje dla sytuacji finansowej danej osoby lub która prowadzi do wyższych cen[2].

Profilowanie to pojęcie pokrewne, ale odrębne: jest to przetwarzanie, które wykorzystuje dane osoby do analizy i przewidywania jej zachowania. Decyzja zautomatyzowana może obyć się bez profilowania, jak automatyczne mandaty za wykroczenia drogowe[2].

Czy decyzja w pełni zautomatyzowana jest zawsze zakazana?

Nie. Ust. 1 art. 22 nie ma zastosowania, gdy decyzja jest niezbędna do zawarcia lub wykonania umowy między osobą a administratorem, jest dozwolona prawem Unii lub państwa członkowskiego, które przewiduje odpowiednie środki ochrony, albo opiera się na wyraźnej zgodzie osoby[1].

W przypadkach umowy i zgody administrator stosuje odpowiednie środki, co najmniej prawo do uzyskania interwencji człowieka, wyrażenia własnego stanowiska i zakwestionowania decyzji[1]. Takie decyzje nie mogą opierać się na szczególnych kategoriach danych z art. 9, chyba że ma zastosowanie wyraźna zgoda lub art. 9 ust. 2 lit. g) i wprowadzono środki ochrony[1].

Co należy Panu/Pani powiedzieć o takiej decyzji?

Gdy dane są zbierane od Pana/Pani, administrator musi wskazać istnienie zautomatyzowanego podejmowania decyzji, o którym mowa w art. 22 ust. 1 i 4, oraz, przynajmniej w tych przypadkach, przekazać istotne informacje o zasadach ich podejmowania, a także o znaczeniu i przewidywanych konsekwencjach takiego przetwarzania[1]. Ta sama informacja należy do tych, które można uzyskać dzięki prawu dostępu[1].

Czym jest interwencja człowieka?

Według CNIL, gdy nie ma zastosowania żaden wyjątek, konieczny jest nadzór człowieka, który potwierdza decyzję zautomatyzowaną lub ją zastępuje[4]. CNIL stawia pytanie o algorytm selekcji CV, który umieszczałby niektóre CV na końcu kolejki zbyt długiej, by człowiek mógł sprawdzić ich zasadność: konsekwencje mogą istnieć w praktyce[4].

Co dodaje art. 86 AI Act?

Artykuł ten, zatytułowany „Right to explanation of individual decision-making” na stronie Komisji Europejskiej, dotyczy każdej osoby, której dotyczy decyzja podjęta przez podmiot stosujący na podstawie wyniku systemu AI wysokiego ryzyka z załącznika III (z wyjątkiem pkt 2 tego załącznika). Decyzja musi wywoływać skutki prawne lub w podobnie istotny sposób wpływać na osobę, w sposób, który ta uważa za niekorzystny dla swojego zdrowia, bezpieczeństwa lub praw podstawowych[5]. Osoba ma wtedy prawo uzyskać od podmiotu stosującego jasne i merytoryczne wyjaśnienia dotyczące roli systemu AI w procedurze decyzyjnej oraz głównych elementów podjętej decyzji[5].

Według CNIL przepisy dotyczące systemów AI wysokiego ryzyka z załącznika III mają zastosowanie od 2 grudnia 2027 r.[6].

Tekst przewiduje dwa ograniczenia. Nie ma zastosowania do zastosowań, dla których prawo Unii lub prawo krajowe przewiduje wyjątki lub ograniczenia, i ma zastosowanie tylko w zakresie, w jakim prawo to nie jest już przewidziane w inny sposób przez prawo Unii[5].

CNIL wyjaśnia, że rozporządzenie o AI nie zastępuje wymogów RODO i ma je uzupełniać[6]. W odniesieniu do systemu automatycznej selekcji CV wskazuje, że stosują się oba teksty[6].

Czy można sprzeciwić się przetwarzaniu?

Art. 21 przyznaje prawo sprzeciwu, w dowolnym momencie, z przyczyn związanych ze szczególną sytuacją osoby. Dotyczy ono przetwarzania opartego na art. 6 ust. 1 lit. e) lub f), w tym profilowania. Administrator zaprzestaje wówczas przetwarzania, chyba że wykaże istnienie ważnych prawnie uzasadnionych podstaw, które mają charakter nadrzędny, lub konieczność dochodzenia roszczeń przed sądem[1]. W przypadku marketingu bezpośredniego, w tym profilowania z nim związanego, sprzeciw jest możliwy w dowolnym momencie[1].

Jak to działa

RODO opisuje prawa, które działają razem: informacja o istnieniu decyzji zautomatyzowanej, dostęp do danych, a następnie, w przypadkach, w których wyjątek pozwala na taką decyzję, interwencja człowieka, możliwość wyrażenia swojego stanowiska i możliwość zakwestionowania decyzji[1]. Według CNIL przy wykonywaniu niektórych praw, w szczególności tych z art. 22, niezbędne są precyzyjne wyjaśnienia powodów decyzji, a złożoność i nieprzejrzystość niektórych systemów AI mogą sprawiać, że trudno takie wyjaśnienia przedstawić[3].

W dziedzinie kredytu CNIL przypomina, że wyroki Trybunału Sprawiedliwości Unii Europejskiej w sprawach C-634/21 i C-203/22 potwierdzają, iż scoring jest decyzją zautomatyzowaną, gdy odgrywa decydującą rolę w udzieleniu kredytu, i potwierdzają prawo do wyjaśnienia działania mechanizmu, który doprowadził do decyzji[7]. Jej zalecenie, opublikowane 7 maja 2026 r., określa warunki, w jakich decyzja kredytowa może opierać się na przetwarzaniu w pełni zautomatyzowanym, z trzema gwarancjami: przejrzystością, interwencją człowieka i możliwością wyjaśnienia[7]. CNIL uwzględnia też rozpoczęcie stosowania w listopadzie 2026 r. ustawowego upoważnienia do decyzji w pełni zautomatyzowanych w zakresie kredytów konsumenckich[7].

To zalecenie przypomina obowiązki prawne i służy jako praktyczny przewodnik. CNIL wskazuje, że można od niego odstąpić pod warunkiem uzasadnienia swoich wyborów, w szczególności w razie kontroli[7].

Co robić

Jeśli sprawa dotyczy Pana/Pani, na przykład w przypadku odrzuconej bez wyjaśnienia kandydatury:

  • Sprawdzić, co organizacja powiedziała Panu/Pani. Miała poinformować Pana/Panią o istnieniu decyzji zautomatyzowanej w chwili zbierania Pana/Pani danych, wraz z istotnymi informacjami o stosowanych zasadach[1].
  • Skorzystać ze swojego prawa dostępu, aby uzyskać te informacje, a także cele przetwarzania i odbiorców danych[1].
  • Gdy decyzja opiera się na umowie lub na swojej wyraźnej zgodzie, poprosić o interwencję człowieka, o wyrażenie swojego stanowiska i o zakwestionowanie decyzji[1]. CNIL opisuje tę interwencję jako sposób na uzyskanie ponownego rozpatrzenia swojej sytuacji i wyjaśnienia decyzji[2].
  • Jeśli organizacja przedłuża termin o jeden miesiąc, musi poinformować o przedłużeniu i jego przyczynach w ciągu pierwszego miesiąca[1].
  • Jeśli organizacja nie podejmuje działań, musi wskazać powody, wraz z możliwością wniesienia skargi do organu nadzorczego i skorzystania ze środka ochrony prawnej przed sądem[1].
  • Jeśli decyzja opiera się na systemie AI wysokiego ryzyka z załącznika III, art. 86 daje prawo zwrócenia się do podmiotu stosującego o wyjaśnienia, w granicach opisanych wyżej[5]. Według CNIL przepisy dotyczące tych systemów mają zastosowanie od 2 grudnia 2027 r.[6].

Jeśli otrzymuje Pan/Pani wniosek klienta albo współpracownika:

  • Administrator ułatwia wykonywanie praw z art. 15-22[1]. Informacje są przekazywane bezpłatnie, chyba że wnioski są ewidentnie nieuzasadnione lub nadmierne, co administrator musi wykazać[1].
  • W razie uzasadnionych wątpliwości co do tożsamości osoby składającej wniosek administrator może poprosić o dodatkowe informacje w celu jej potwierdzenia[1].
  • CNIL zaznacza, że organizacja musi wyjaśnić, jak korzystać z tych praw[3].

Pułapki

  • Człowiek na pokaz. Według CNIL narzędzia do automatycznego klasyfikowania zgłoszeń kandydatów mogą już w założeniu prowadzić do decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, gdy zgłoszenia są odrzucane albo spychane na dalszy plan, którego nikt nie kontroluje z braku czasu. CNIL dodaje, że co do zasady RODO zakazuje takich praktyk, dopuszczonych tylko na wyjątkowych warunkach i z gwarancjami[3].
  • Wspomaganie decyzji. CNIL zauważa, że gdy system jedynie pomaga w podjęciu decyzji, gwarancje są również potrzebne, zwłaszcza w zakresie informowania[3].
  • Poprawienie danych nie oznacza poprawienia modelu. Według CNIL odpowiedź na wniosek o sprostowanie lub usunięcie danych uczących nie oznacza koniecznie sprostowania lub usunięcia modeli AI utworzonych na podstawie tych danych[3].

Źródła

  1. CNIL, „CHAPITRE III - Droits de la personne concernée”, 23 maja 2016. https://www.cnil.fr/fr/reglement-europeen-protection-donnees/chapitre3 (dostęp 14 listopada 2026)
  2. CNIL, „Profilage et décision entièrement automatisée”, 29 maja 2018. https://www.cnil.fr/fr/profilage-et-decision-entierement-automatisee (dostęp 14 listopada 2026)
  3. CNIL, „IA : comment être en conformité avec le RGPD ?”, 5 kwietnia 2022. https://www.cnil.fr/fr/intelligence-artificielle/ia-comment-etre-en-conformite-avec-le-rgpd (dostęp 14 listopada 2026)
  4. CNIL, „Permettre le bon exercice de leurs droits par les personnes”, 28 marca 2022. https://www.cnil.fr/fr/intelligence-artificielle/guide/permettre-le-bon-exercice-de-leurs-droits-par-les-personnes (dostęp 14 listopada 2026)
  5. Commission européenne, „AI Act Service Desk - Article 86: Right to explanation of individual decision-making”. https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-86 (dostęp 14 listopada 2026)
  6. CNIL, „Entrée en vigueur du règlement européen sur l’IA : les premières questions-réponses de la CNIL”, 12 lipca 2024. https://www.cnil.fr/fr/entree-en-vigueur-du-reglement-europeen-sur-lia-les-premieres-questions-reponses-de-la-cnil (dostęp 14 listopada 2026)
  7. CNIL, „Octroi de crédit : la CNIL publie sa recommandation sur l’utilisation de données personnelles pour l’évaluation de la solvabilité”, 7 maja 2026. https://www.cnil.fr/fr/recommandation-octroi-de-credit (dostęp 14 listopada 2026)