CyberpediaBrain

AIによる決定に対するあなたの権利

EU一般データ保護規則(GDPR)が、自動化された取扱いに基づく決定について定める例外、情報、人による介入、救済の手段を説明します。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4仕組み
  5. 5あなたの行動
  6. 6落とし穴
  7. 7出典
  8. 8この記事を引用する

30秒でわかる要点

発生する場所
CNILは、医療、教育、保険、社会保障、不正対策といった分野を挙げ[2]、応募書類の自動ランク付けツールも分析しています[3]。
法の定め
原則として、法的効果または重大な効果をもたらす、もっぱら自動化された決定を受け入れる必要はありません。第22条が定める3つの場合を除きます[1]。
とっさの行動
人による介入を求めてください。特に、自分の状況の再検討を得て、意見を表明し、決定に異議を申し立てるためです[2]。
すでに起きた場合
組織は、請求への対応を1か月以内に本人へ通知します。請求の複雑さと件数に応じて、2か月の延長が可能です[1]。

概要

EU一般データ保護規則(GDPR)は、法的効果をもたらす決定、または同様に重大な形で本人に影響を及ぼす決定について、プロファイリングを含む自動化された取扱いのみに基づく決定を受けない権利を、すべての人に認めています(第22条)[1]。この権利には例外があり、保護措置が付随します[2]。

この記事は、GDPR、CNIL、AI法第86条の内容を、当事者となる従業員(応募書類の選別など)や、顧客や同僚から請求を受ける従業員の立場から説明します。法的助言に代わるものではありません。

よくある質問

完全に自動化された決定とは何ですか

CNILによると、人間が一切関与しない過程で、アルゴリズムが本人の個人データに適用されて、本人に対して下される決定です[2]。第22条は、法的効果をもたらす決定、または本人に重大な影響を及ぼす決定を対象とします[2]。

法的効果は本人の権利と自由に関わり、たとえば社会給付や契約上の権利を失うことです[2]。重大な効果は、法的効果がなくても生じることがあります。CNILは、人の経済状況に影響する決定や、より高い料金につながる決定を挙げています[2]。

プロファイリングは近いものの別の概念で、個人のデータを使ってその行動を分析し予測する取扱いです。自動化された決定はプロファイリングなしでも成り立ち、交通違反に対する自動的な罰金がその例です[2]。

完全に自動化された決定は常に禁止されますか

いいえ。第22条第1項は、決定が本人と管理者との間の契約の締結または履行に必要な場合、適切な保護措置を定めたEU法または加盟国法によって認められている場合、または本人の明示的な同意に基づく場合には、適用されません[1]。

契約と同意の場合、管理者は適切な措置を講じます。少なくとも、人による介入を得る権利、意見を表明する権利、決定に異議を申し立てる権利が含まれます[1]。これらの決定は、第9条の特別な種類のデータに基づくことはできません。明示的な同意か第9条第2項(g)が適用され、保護措置が整っている場合を除きます[1]。

この種の決定について、何を知らされるべきですか

データが本人から収集される場合、管理者は、第22条第1項および第4項にいう自動化された意思決定の存在を、本人に示さなければなりません。少なくともこれらの場合には、その背後にあるロジックに関する意味のある情報と、取扱いの重要性および想定される結果も示さなければなりません[1]。同じ情報は、アクセス権によって得られる情報にも含まれます[1]。

人による介入とは何ですか

CNILによると、例外が適用されない場合には、自動化された決定を確認する、または置き換える人による監督が必要です[4]。CNILは、人が妥当性を確認するには長すぎる待ち行列の下位にCVを置くCV選別アルゴリズムを例に、問いを立てています。事実上の影響が生じることがあるとしています[4]。

AI法第86条は何を定めていますか

この条文は、欧州委員会のサイトでの題名が「Right to explanation of individual decision-making」で、附属書IIIの高リスクAIシステム(同附属書の第2項を除く)の出力に基づいて導入者が下した決定の影響を受ける、すべての人を対象とします。決定は、法的効果をもたらすか、同様に重大な形で本人に影響を及ぼし、本人が自分の健康、安全または基本的権利に不利と考える形でなければなりません[5]。その場合、本人は導入者から、決定手続におけるAIシステムの役割と決定の主な要素について、明確で適切な説明を得る権利を持ちます[5]。

CNILによると、附属書IIIの高リスクAIシステムに関する規則は、2027年12月2日から適用されます[6]。

条文は2つの限界を定めています。EU法または国内法が例外や制限を定める用途には適用されません。またこの権利がEU法で別の形ですでに定められていない範囲でのみ適用されます[5]。

CNILは、AI規則がGDPRの要件に取って代わるものではなく、補完することを目的としていると述べています[6]。CVの自動選別システムについては、両方の規則が適用されると示しています[6]。

取扱いに異議を述べることはできますか

第21条は、本人の特別な状況に関する理由により、いつでも異議を述べる権利を認めています。対象は第6条第1項(e)または(f)に基づく取扱いで、プロファイリングを含みます。管理者は、優先する正当で差し迫った根拠、または法的主張のための防御の必要性を示せる場合を除き、取扱いを停止します[1]。ダイレクトマーケティング(これに関連するプロファイリングを含む)に対しては、いつでも異議を述べることができます[1]。

仕組み

GDPRは、互いに連動する権利を定めています。自動化された決定の存在に関する情報、データへのアクセス、そして例外が決定を認める場合には、人による介入、意見を表明する可能性、異議を申し立てる可能性です[1]。CNILによると、第22条の権利など一部の権利を行使するには、決定の理由についての正確な説明が不可欠であり、一部のAIシステムの複雑さと不透明さが、その説明を難しくすることがあります[3]。

信用の分野について、CNILは、欧州連合司法裁判所のC-634/21およびC-203/22事件の判決が、スコアリングは与信の付与で決定的な役割を果たす場合には自動化された決定にあたることを確認し、決定に至った仕組みの働きについて説明を受ける権利を認めたと想起しています[7]。2026年5月7日に公表された勧告は、与信の決定が完全に自動化された取扱いに基づきうる条件を、透明性、人による介入、説明可能性という3つの保護措置とともに説明しています[7]。2026年11月に、消費者信用における完全自動化された決定を認める法律上の許可が適用開始となることも見込んでいます[7]。

この勧告は法的義務を想起させるもので、実務ガイドとして役立ちます。CNILは、特に検査の際に選択を正当化できることを条件に、勧告と異なる対応も可能だと示しています[7]。

あなたの行動

当事者である場合、たとえば説明のないまま応募を除外された場合は、次のようにします。

  • 組織から何を伝えられたかを確認してください。組織は、データの収集時に、自動化された決定の存在と、用いられたロジックに関する意味のある情報を伝える必要がありました[1]。
  • アクセス権を行使して、これらの情報のほか、取扱いの目的とデータの受取人を入手してください[1]。
  • 決定が契約またはあなたの明示的な同意に基づく場合は、人による介入、意見の表明、決定への異議申立てを求めてください[1]。CNILは、この介入を、自分の状況の再検討と決定の説明を得る手段として説明しています[2]。
  • 組織が期限を1か月延長する場合、最初の1か月以内に、延長とその理由をあなたに通知しなければなりません[1]。
  • 組織が請求に応じない場合、その理由と、監督機関に苦情を申し立てる可能性、司法上の救済を求める可能性を、あなたに示さなければなりません[1]。
  • 決定が附属書IIIの高リスクAIシステムに基づく場合、第86条は、前述の限界のもとで、導入者に説明を求める権利を認めています[5]。CNILによると、これらのシステムに関する規則は2027年12月2日から適用されます[6]。

顧客や同僚から請求を受けた場合は、次のようにします。

  • 管理者は、第15条から第22条までの権利の行使を容易にします[1]。情報は無償で提供されます。請求が明らかに根拠を欠く場合や過大な場合は別で、それを示す責任は管理者にあります[1]。
  • 請求者の身元に合理的な疑いがある場合、管理者は、身元を確認するために追加の情報を求めることができます[1]。
  • CNILは、組織がこれらの権利の行使方法を説明しなければならないと述べています[3]。

落とし穴

  • 形だけの人間。CNILによると、応募書類の自動ランク付けツールは、応募が除外される場合や、時間不足のために誰も確認しない二次的な位置に置かれる場合、設計上、もっぱら自動化された決定につながることがあります。CNILは、原則としてGDPRはこうした手法を禁じており、例外的な条件で保護措置を伴う場合に限って認められると付け加えています[3]。
  • 意思決定の支援。CNILは、システムが決定を助けるのみの場合にも、特に情報の面で保護措置が必要だと指摘しています[3]。
  • データの訂正はモデルの訂正ではありません。CNILによると、学習データの訂正または消去の請求に応じることは、必ずしもそのデータから作られたAIモデルを訂正または消去することを意味しません[3]。

出典

  1. CNIL, 「CHAPITRE III - Droits de la personne concernée」, 2016年5月23日. https://www.cnil.fr/fr/reglement-europeen-protection-donnees/chapitre3 (2026年11月14日閲覧)
  2. CNIL, 「Profilage et décision entièrement automatisée」, 2018年5月29日. https://www.cnil.fr/fr/profilage-et-decision-entierement-automatisee (2026年11月14日閲覧)
  3. CNIL, 「IA : comment être en conformité avec le RGPD ?」, 2022年4月5日. https://www.cnil.fr/fr/intelligence-artificielle/ia-comment-etre-en-conformite-avec-le-rgpd (2026年11月14日閲覧)
  4. CNIL, 「Permettre le bon exercice de leurs droits par les personnes」, 2022年3月28日. https://www.cnil.fr/fr/intelligence-artificielle/guide/permettre-le-bon-exercice-de-leurs-droits-par-les-personnes (2026年11月14日閲覧)
  5. Commission européenne, 「AI Act Service Desk - Article 86: Right to explanation of individual decision-making」. https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-86 (2026年11月14日閲覧)
  6. CNIL, 「Entrée en vigueur du règlement européen sur l’IA : les premières questions-réponses de la CNIL」, 2024年7月12日. https://www.cnil.fr/fr/entree-en-vigueur-du-reglement-europeen-sur-lia-les-premieres-questions-reponses-de-la-cnil (2026年11月14日閲覧)
  7. CNIL, 「Octroi de crédit : la CNIL publie sa recommandation sur l’utilisation de données personnelles pour l’évaluation de la solvabilité」, 2026年5月7日. https://www.cnil.fr/fr/recommandation-octroi-de-credit (2026年11月14日閲覧)