CyberpediaBrain

AIによる与信と保険:透明性と非差別

EU AI法(AI Act)が与信と生命保険・医療保険で高リスクに分類するものと、スコアリングについてCNILが勧める内容。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4仕組み
  5. 5あなたの行動
  6. 6落とし穴
  7. 7出典
  8. 8この記事を引用する

30秒でわかる要点

発生する場所
貸し手や保険会社で、顧客の信用力をスコア化するツールや、生命保険・医療保険のリスクを評価して価格を決めるツールがある場面です[1]。
高リスクに分類される理由
これらのツールは、金融資源や必須サービスへのアクセスを左右し、過去の差別を永続させる可能性があるからです[2]。
とっさの行動
使っているツールが信用力をスコア化するのか、保険を価格設定するのかを把握し、完全自動化された決定の対象になった人は人間の関与を求められると知っておくことです[4]。
顧客が異議を唱えた場合
顧客は、状況の再検討、決定の説明を求めることができます。決定に異議を申し立てることもできます[4]。

概要

EU AI法(AI Act)は、自然人の信用力を評価する、または信用スコアを算出することを目的とするシステムを、高リスクの区分に入れています。金融詐欺の検出に使うシステムは例外です[1]。生命保険と医療保険のリスク評価と保険料設定を目的とするシステムも、同じ区分に入れています[1]。

前文58は、この分類の理由を示しています。これらのシステムは、個人間や集団間の差別につながる可能性があり、保険では経済的な排除にもつながる可能性があります[2]。与信については、CNILが2026年5月7日に、信用力の評価に関する勧告を公表しました。この勧告は、完全自動化された決定に付随する保護措置を改めて述べています[7]。

この記事は、これらの文書の内容を、銀行、保険会社、カスタマーサービスで働く従業員に向けて説明します。個別の事例については判断しません。

よくある質問

信用スコアは高リスクのシステムですか

はい。附属書IIIが、自然人の信用力を評価する、または信用スコアを算出することを目的とするシステムを対象にしています[1]。欧州委員会は、支払い行動と収入に基づいて個人の信用力を数値で表し、消費者信用や住宅ローンの決定を支えるシステムを例に挙げています[3]。信用調査機関が算出して第三者に渡すスコアも挙げています。スコアの利用者がシステムの運営者である必要はなく、その場合もリストの対象になります[3]。

附属書IIIの規則は、AIオムニバスで決まった延期を受けて、2027年12月2日から適用されます[5]。CNILも同じ日付を挙げています[6]。

保険も対象ですか

生命保険と医療保険については、条文は自然人に関するリスク評価と保険料設定を対象にしています[1]。欧州委員会は、年齢、健康状態、家族歴、生活様式、職業から生命保険の申込みを審査する保険会社と、あるリスク集団の年間医療費を予測し、その結果が保険料になる保険会社を挙げています[3]。

保険会社や銀行のツールはすべて対象ですか

いいえ。前文58は、金融サービスの提供における詐欺の検出のためにEU法が定めるシステムと、信用機関や保険事業者の自己資本要件を健全性の目的で算出するシステムは、高リスクとはみなされないと述べています[2]。欧州委員会の情報サービスは、ほかにも、たとえば次のものを対象外としています。信用力の評価に関与しない限りでの、パーソナライズされたマーケティングのための顧客分類、申込者が書類を記入するのを助ける支援、決定後の苦情処理、融資実行後の与信エクスポージャーの社内モニタリング、医療保険の保険金請求管理です[3]。

本人はスコアリングの決定に異議を唱えられますか

GDPR第22条は、原則として、法的効果をもたらす、または本人に重大な影響を与える、自動処理のみに基づく決定の対象とならない権利を与えています[4]。例外として、明示的な同意、契約の締結または履行に必要な場合、特定の法規定があります。これらの場合には、保護措置が適用されなければなりません[4]。CNILは、EU司法裁判所のC-634/21とC-203/22の判決が、スコアリングが信用の付与で決定的な役割を果たす場合は自動化された決定にあたることを確認し、決定に至った仕組みの働きについて説明を受ける権利を認めたと指摘しています[7]。

仕組み

AI法はGDPRに取って代わりません。CNILは、AI法はGDPRを補完するもので、高リスクのシステムが個人データを使う場合には両方が一緒に適用されると述べています[6]。

2027年12月2日から、附属書IIIの高リスクシステムには、市場に出す前の義務が課されます[5]。欧州委員会は7つを挙げています。リスクの評価・軽減システム、差別的な結果を抑えるための高品質なデータセット、結果の追跡可能性を確保するための活動の記録、当局が適合性を評価できる詳細な文書、デプロイヤーへの明確な情報、人間による監督措置、そして堅牢性・サイバーセキュリティ・正確性の高い水準です[5]。人間による監督と監視は、デプロイヤー、つまりツールを使う組織の役割です[5]。

文書については、CNILは、高リスクシステムの提供者がデプロイヤーに対し、とりわけテストと適合性評価の手順を詳しく述べた技術文書と情報を提供すると改めて述べています[6]。個人データ保護影響評価は、この文書を有効に活用できるとも付け加えています[6]。また条文は、例外的に、偏りを検出し修正するために、厳密に必要で、適切な保護措置が講じられることを条件として、機微データを処理することを認めています[6]。

あなたの行動

AI法の義務はまず提供者とデプロイヤーにかかります[6]。従業員にとっての行動は次のとおりです。

  • ツールの性質を見極める。信用力を評価するスコアや、生命保険・医療保険の保険料設定は、リストの対象です[1]。顧客分類のツールや書類記入を支援するツールは、評価に関与しなければ対象外です[3]。
  • 本人が知るべきことを把握する。本人は、データの収集時と、求めればいつでも、完全自動化された決定があること、その背後にある論理、決定の重要性と想定される結果について知らされます[4]。
  • 人間の関与を可能にする。対象となった人は誰でも、再検討を得る、自分の見解を述べる、説明を得る、または決定に異議を申し立てるために、人間の関与を求めることができます[4]。CNILは、透明性、人間の関与、説明可能性を、完全自動化された信用決定の保護措置に数えています[7]。
  • 関連するデータを使う。CNILの勧告は、データを関連性があり厳密に必要なものに限ること、過去の返済上の問題には客観的な情報を使うことを求め、保存期間を定めています[7]。対象は、消費者信用や住宅ローンを提供する民間機関とその仲介業者です[7]。
  • 文書を保管する。CNILは、データセットの構成(出所、サンプリング、完全性の検証、クレンジング)に関する文書を作成して提示できる状態にしておくこと、差別と偏りのリスクを定期的に再評価することを推奨しています[8]。
  • CNILのチェックリストを参照する。データ保護責任者、コンプライアンス担当、法務チームを対象にしています[7]。

落とし穴

  • プロファイリングと完全自動化された決定を混同する。プロファイリングは人を評価するもので、完全自動化された決定は人間の関与がまったくなく行われ、一方は他方なしに存在し得ます[4]。申込者の財務状況に基準を自動的に当てはめた信用の拒否が、CNILの挙げる例です[4]。
  • 勧告を法律だと思い込む。CNILは、選んだ内容を、とくに検査の場合に正当化できるなら、助言から外れることも可能だと述べています[7]。
  • 詐欺の例外を広げる。附属書IIIは、金融詐欺の検出に使うシステムを除外していますが、信用力を評価するシステムは除外していません[1]。苦情処理やモニタリングのツールが信用力も評価する、または信用スコアを算出する場合、除外は働きません[3]。
  • 日程を取り違える。AI法は2026年8月2日から適用されていますが、附属書IIIの規則は2027年12月2日からです[5]。AI規則はGDPRに取って代わらず、補完します[6]。CNILはまた、2026年11月に適用が始まる、消費者信用の完全自動化された決定に対する法的な許可に備えて勧告を更新し、これに付随する保護措置を改めて述べています[7]。

出典

  1. Commission européenne, 「ANNEX III」. https://ai-act-service-desk.ec.europa.eu/en/ai-act/annex-3 (2026年11月14日閲覧)
  2. Commission européenne, 「Recital 58」. https://ai-act-service-desk.ec.europa.eu/en/ai-act/recital-58 (2026年11月14日閲覧)
  3. Commission européenne, 「Essential Services」. https://ai-act-service-desk.ec.europa.eu/en/essential-services (2026年11月14日閲覧)
  4. CNIL, 「Profilage et décision entièrement automatisée」, 2018年5月29日. https://www.cnil.fr/fr/profilage-et-decision-entierement-automatisee (2026年11月14日閲覧)
  5. Commission européenne, 「AI Act」. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai (2026年11月14日閲覧)
  6. CNIL, 「Entrée en vigueur du règlement européen sur l’IA : les premières questions-réponses de la CNIL」, 2024年7月12日. https://www.cnil.fr/fr/entree-en-vigueur-du-reglement-europeen-sur-lia-les-premieres-questions-reponses-de-la-cnil (2026年11月14日閲覧)
  7. CNIL, 「Octroi de crédit : la CNIL publie sa recommandation sur l’utilisation de données personnelles pour l’évaluation de la solvabilité」, 2026年5月7日. https://www.cnil.fr/fr/recommandation-octroi-de-credit (2026年11月14日閲覧)
  8. CNIL, 「IA : comment être en conformité avec le RGPD ?」, 2022年4月5日. https://www.cnil.fr/fr/intelligence-artificielle/ia-comment-etre-en-conformite-avec-le-rgpd (2026年11月14日閲覧)