CyberpediaBrain

AIと採用:EU AI法が高リスクとする理由

EU AI法(AI Act)が採用や従業員管理のAIツールを高リスクに分類する理由と、GDPRが加える内容を、従業員向けに説明します。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4仕組み
  5. 5あなたの行動
  6. 6落とし穴
  7. 7出典
  8. 8この記事を引用する

30秒でわかる要点

発生する場所
CVの選別、応募者の順位付け、テスト回答の採点、タスクの割り振り、在職中の従業員の評価です[1][2]。
EU AI法(AI Act)の定め
これらの用途は附属書IIIに挙げられており、第6条の例外に当たらない限り、高リスクの区分に入ります[1][3]。
時期
欧州委員会は、雇用に関する規則が2027年12月2日から適用されると述べています[4]。
とっさの行動
ツールを導入する前に、何に使うのかを正確に確認し、誰が人によるチェックを行うのか、どのデータを使うのか、対象者にどう知らせるのかを尋ねます。

概要

EU AI法(AI Act)は、人の採用や選考を目的とするAIツールと、労働条件、昇進、雇用関係の終了に関する判断を目的とするAIツールを、高リスクのシステムに分類しています[1]。

欧州委員会はこの分類の理由を説明しています。採用、評価、昇進、雇用の維持のあらゆる段階で、AIシステムは過去の差別のパターンを再現するおそれがあります。業績や行動を追跡するシステムは、データ保護とプライバシーの権利を侵害するおそれがあります[2]。この記事は、条文、欧州委員会、CNILが述べている内容を説明するものです。個別の事案については判断しません。

よくある質問

CVの選別ソフトは高リスクのシステムですか

欧州委員会は、採用のためのCV選別ソフトを、高リスクに分類される雇用向けAIツールの例として挙げています[4]。もう1つの例も挙げています。CVや能力に基づいて応募者を順位付けし、絞り込み、スコアや順位を出すツールです。採用担当者はその結果を自由に見直せますが、結果が判断の主な根拠になるため、このツールは高リスクに分類されます[2]。

限定的なタスクには例外があります。欧州委員会は、たとえば、CVの情報を認識して、採用担当者が検索できるデータベースに整理するシステムを、選考に重大な影響がないものとして第6条の例外に入れています[2]。

なぜ条文は、すでに働いている従業員も対象にしているのですか

附属書IIIの第4項(b)は、次のようなシステムを対象にしています。労働条件、昇進、契約の終了を決めるもの、行動や個人の特性に基づいてタスクを割り振るもの、業績や行動を追跡して評価するものです[1]。欧州委員会は例として、時間厳守と評価点のシグナルに基づいて勤務時間を割り当てるスケジューラーを挙げています。また、独立したチューターの評価が3週間続けて5段階中4を下回ると、そのアカウントを1か月間自動的に停止するオンライン講座のプラットフォームも挙げています[2]。

人事のツールはすべて対象ですか

いいえ。欧州委員会は、応募者が自分のCVを調整するのを助けるツールは、第4項(a)の範囲外に置いています。新入社員の受け入れを支援するツールも範囲外ですが、労働条件に影響する場合、評価の材料になる場合、従業員を監視する場合は、第4項(b)に当たることがあります[2]。オフィスの座席予約や出張の計画も範囲外として挙げています[2]。面接を調整するツールは、限定的な手続的タスクの例外に当たります[2]。

規則はいつから適用されますか

欧州委員会によると、AI Actは2024年8月1日に発効し、例外を除いて2026年8月2日から適用されています。雇用を含む附属書IIIについては、2026年7月27日に発効したAIオムニバスにより、日付は2027年12月2日に延期されました[4][5]。CNILも、附属書IIIについて同じ日付を示しています[5]。

GDPRも追加で適用されますか

はい。CNILによると、AIの規則はGDPRに取って代わるものではなく、それを補完します[5]。CNILは、CVの自動選別を、2つの法令がともに適用される例として挙げています[5]。CNILのガイドは、応募者のデータに対するすべての操作が、収集から削除まで個人データの処理であることを改めて述べています[6]。

仕組み

第6条が原則を定めています。附属書IIIに挙げられたシステムは、高リスクとみなされます[3]。システムが健康、安全、基本的権利に重大なリスクをもたらさない場合、判断に実質的な影響を与えない場合を含め、次のいずれかの条件を満たすときは、例外が適用されます。その条件は、限定的な手続的タスク、すでに完了した人の作業の結果の改善、すでに行われた人による評価を適切な人の確認なしに置き換えたり影響を与えたりすることのない意思決定パターンの検出、評価の準備作業です[3]。この例外は、システムが人のプロファイリングを行う場合には、いかなる場合も適用されません[3]。システムが高リスクではないと考える提供者は、市場に出す前にその評価を文書にしなければなりません[3]。

高リスクのシステムについて、欧州委員会は市場に出す前の要件を挙げています。リスクの評価と低減、差別的な結果を抑えるための高品質なデータセット、ログの記録、文書化、デプロイヤーへの明確な情報提供、人による監督の措置、堅牢性、サイバーセキュリティ、正確性です[4]。

ツールを使う企業はデプロイヤーです。これらの義務は、雇用については2027年12月2日から適用されます[4]。2024年7月12日に公表されたテキストでは、規則はデプロイヤーに対して次の義務を定めています[7]。

  • 使用上の指示に従ってシステムを使うための措置を講じること[7]。
  • 人によるチェックを、必要な能力、研修、権限、支援を備えた人に任せること[7]。
  • 入力データを管理している範囲で、そのデータが適切で、十分に代表性を備えているよう配慮すること[7]。
  • 自らの管理下で自動的に生成されたログを、適用される法令に別段の定めがない限り、少なくとも6か月間保存すること[7]。

あなたの行動

この種のツールを導入する前に、人事担当者やマネージャーは次の点を確認できます。

  • ツールは何に使われますか。順位付けをするのか、採点するのか、絞り込むのか、情報を整理するのみなのか。欧州委員会の例では、その答えで分類が変わることが分かります[2]。
  • 使用上の指示には何が書かれていますか。社内で、人によるチェックを行う能力、研修、権限を持つのは誰ですか[7]。
  • どのデータがツールに入力されますか。そのデータはツールの目的に合っていますか[7]。CNILは、選考に適切で、関連性があり、厳密に必要なデータのみを収集できると述べています[6]。
  • 従業員とその代表者には、どのように知らせますか。職場で高リスクのシステムを稼働させたり使ったりする前に、雇用主は、労働者の代表者と対象の労働者に、そのシステムの対象になることを知らせます[7]。
  • ツールが判断を助ける応募者や従業員には、どのように知らせますか。2024年のテキストは、人に関する判断を行う、または助ける附属書IIIのシステムのデプロイヤーに、この情報提供を定めています[7]。
  • 判断は完全に自動化されていますか。CNILによると、GDPR(第22条)は原則として、自動処理のみに基づき、重大な影響を及ぼす判断の対象にならない権利を人に与えています。例外もあり、明示的な同意、契約の履行に必要な場合、法律の規定です。これらの場合、本人は判断の論理について知らされ、人の関与を求めて異議を申し立てることができます[8]。
  • データ保護影響評価(AIPD)は行われましたか。CNILは、高リスクのシステムの提供者とデプロイヤーには必要と推定しており、AIの規則が求める文書を活用できるとしています[5]。2024年のテキストは、デプロイヤーが必要に応じて、この評価に提供者の情報を使うと定めています[7]。
  • 性格テストやシリアスゲームの場合。CNILは、こうしたツールは、職務を担う能力や職業上の適性と、客観的で、直結しており、必要な関係がある場合にのみ使えると述べています[6]。

落とし穴

人によるチェックが形だけになることがあります。欧州委員会は、経歴確認のツールについて、人による見直しは手順に含まれているが、ツールの結果は選ばれた候補者に強く影響し、それは採用への実質的な影響に当たると述べています[2]。

偏りは過去のデータから生じることがあります。応募者を1から5の星で採点するアルゴリズムは、2014年から試験されており、男性が多い業界での10年分の採用実績から学習したため、技術職では男性を優遇していました[9]。2015年に、4万人のオペレーターを抱えるコールセンター向けに導入された在職期間の予測モデルは、庶民的な地区の住民を不利に扱う傾向がありました。通勤時間が長いことが、マイナス要因と読み取られたためです[9]。CNILは、この種の偏りは検出も修正もより難しいと指摘しています[9]。

プロファイリングは、GDPR第4条で、人の行動、たとえば仕事での成果を分析し予測するための個人データの処理と定義されています[8]。AI Actでは、人をプロファイリングする附属書IIIのシステムは、例外の対象に決してなりません[3]。

出典

  1. Commission européenne, 「AI Act Service Desk - ANNEX III」. https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3 (2026年11月14日閲覧)
  2. Commission européenne, 「AI Act Service Desk - Employment」. https://ai-act-service-desk.ec.europa.eu/en/employment-0 (2026年11月14日閲覧)
  3. Commission européenne, 「AI Act Service Desk - Article 6: Classification rules for high-risk AI systems」. https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-6 (2026年11月14日閲覧)
  4. Commission européenne, 「AI Act」. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (2026年11月14日閲覧)
  5. CNIL, 「Entrée en vigueur du règlement européen sur l’IA : les premières questions-réponses de la CNIL」, 2024年7月12日. https://www.cnil.fr/fr/entree-en-vigueur-du-reglement-europeen-sur-lia-les-premieres-questions-reponses-de-la-cnil (2026年11月14日閲覧)
  6. CNIL, 「Le guide du recrutement」, 2023年1月30日. https://www.cnil.fr/fr/le-guide-du-recrutement (2026年11月14日閲覧)
  7. Office des publications de l'Union européenne, 「L_202401689FR.000101.fmx.xml」, 2024年7月12日. https://publications.europa.eu/resource/cellar/dc8116a1-3fe6-11ef-865a-01aa75ed71a1.0009.03/DOC_1 (2026年11月14日閲覧)
  8. CNIL, 「Profilage et décision entièrement automatisée」, 2018年5月29日. https://www.cnil.fr/fr/profilage-et-decision-entierement-automatisee (2026年11月14日閲覧)
  9. CNIL, 「Travail et recrutement prédictif : des candidats à l’emploi inégaux face aux nouveaux usages | Linc」, 2020年1月16日. https://linc.cnil.fr/travail-et-recrutement-predictif-des-candidats-lemploi-inegaux-face-aux-nouveaux-usages (2026年11月14日閲覧)