AI利用規程:許可する、枠を定める、禁止する
AI利用規程が何のためにあるのか、何が書かれているのか、そして新しい生成AIツールを開く前にあなたが行うことを説明します。
30秒でわかる要点
概要
AI利用規程は、生成AIのどの使い方が認められ、どの使い方が除外されるかを従業員に示す社内文書です。CNILは、許可される利用と禁止される利用の一覧を定めて、利用に枠を設けるよう勧めています[1]。
この記事では、これらのルールを3つの列に整理します。承認済みのツールで許可されること、許可が必要なこと、禁止されることです。新しいツールを使う前にあなたが行うことと、質問の相手も示します。
よくある質問
なぜ規程が必要ですか
CNILによると、従業員がAIを不適切に使ったときに法的責任を負うのは、一般に、AIを利用する組織です[2]。そのためCNILは、あらゆる組織に、許可される利用と禁止される利用を明確に定めた社内の方針や規程で、利用に枠を設けるよう勧めています[2]。
規程には何が書かれますか
CNILは禁止の例として、システムに個人データを提供しないこと、システムに意思決定を任せないことを挙げています[1]。導入の方法によっては、たとえば産業上・商業上の秘密で保護される一部の機密データの提供も、禁止するのが適切です[2]。CNILは、利用者に適切な研修を行い、定期的な点検を実施するよう勧めています[2]。
誰が作成に参加しますか
CNILは、最初から関係者全員を巻き込むよう勧めています。データ保護責任者(DPO)、情報システム責任者、情報セキュリティ責任者(RSSI)、業務部門の責任者です[1]。DPOは、場合によってはRSSIと連携して、ガバナンスの役割を有効に担うことができます。この指定によって、利用者に問題を報告する窓口を提供できることがあります[2]。
欧州のAI規則は、従業員の研修を求めていますか
欧州委員会は、AI規則第4条が、AIシステムの提供者と導入者に対し、自社の従業員や、自社に代わってそのシステムを使う人々のAIリテラシーを高める措置を取るよう求めていると説明しています[4]。これらの措置では、対象者の技術的知識、経験、教育、研修が考慮されます[4]。
FAQは、第4条が従業員の知識を測ることも、各人に特定の水準を保証することも求めていないと説明しています[4]。また、証明書は不要であり(組織は研修の社内記録を付けることができます)、特定のガバナンス体制も求められないと述べています[4]。必須の研修形式は定めていませんが、使用説明書に頼ることや、職員にそれを読むよう求めることは、効果がない可能性があるとしています[4]。
同じFAQによると、第4条は2025年2月2日に適用が始まりました[4]。監督と制裁のルールは2026年8月2日から適用されており、監督は各国の市場監視当局の所管です[4]。2026年7月中旬に発効したAIに関するDigital Omnibusは、第4条を改正しました。AIリテラシーの義務は提供者と導入者に残りますが、特定の水準や十分な水準は求められません[4]。
ChatGPTで文章作成や翻訳をしている従業員がいる企業も、対象になりますか
欧州委員会は、対象になると答えています。これらの従業員は、ハルシネーションなど、ツール固有のリスクについて知らされるべきです[4]。
仕組み
CNILは、明確な目的のないまま生成AIを導入するのではなく、具体的なニーズから出発するよう助言しています[1]。導入の方法は重要です。機密でない用途であれば、適切な保証を付けて一般向けサービスを検討できます。個人データや機微な文書を提供する用途では、CNILによると、一般にオンプレミスで運用する解決策を優先するほうが適切で安全と思われ、第三者のもとでデータが抽出されるリスクを抑えられます[2]。APIを使う場合、システムの管理はほぼ全面的に提供者の手にあります。そのため、できるだけ個人データを入力しないようにという指示があります[2]。
参考となる枠組みは、組織がこれらのリスクを評価する助けになります。NISTのAIリスク管理フレームワークは、任意の利用を想定しています[6]。2024年7月26日に公開された生成AI向けのプロファイルは、組織が生成AI特有のリスクを特定する助けになることがあります[6]。
脅威の面では、NCSC(英国)がプロンプトインジェクションを説明しています。攻撃者が、モデルに想定外の動作をさせるように作った入力を与える手口で、たとえば機密情報を明かさせます[7]。OWASPは、機微な情報の漏えいをLLMのリスクの1つに挙げています。個人データ、財務データ、健康記録、企業の機密データ、セキュリティ上の認証情報、法的文書です[8]。
あなたの行動
承認済みのツールで許可されること
規程が列挙している利用のうち、組織が選んだツールでの利用です。CNILはタスクを3つに分けています。コンテンツの生成、既存コンテンツの加工(校正、翻訳)、データの分析(仕分け、文書の要約)です[2]。例も挙げています。従業員に文章作成を助けるチャットボットを提供することは、顧客、応募者、市民に関する判断を助けるためにシステムを使うことよりも、リスクが小さいというものです[2]。
この枠内で、CNILは、利用者は共有を許可されている情報のみを入力すべきであり、出力を批判的に検討すべきだと述べています。見るのは、正確性、盗用、バイアスです[2]。CNILによると、良い慣行は、システムの出力を決してそのまま再現しないことです[2]。
許可が必要なこと
CNILは、機密でない用途に、適切な保証を付けて一般向けサービスを利用することを想定しています。個人のアドレスで作成したアカウントを避けること、必要に応じて、提供者が利用データを再利用できる設定を無効にすることです[2]。データが提供者に再利用されるおそれがある場合、組織はケースごとに分析を行い、個人データを全面的に禁止するのか、特定のカテゴリーのみを禁止するのかを判断します[2]。
ツールがメール、文書、コードリポジトリに接続される場合、ANSSIは、有効にした時点でアクセス権を見直し、その後も定期的に(たとえば毎月)見直すよう求めています[3]。
禁止されること
規程は、たとえば、システムに個人データを提供すること、システムに意思決定を任せることを禁止できます[1]。ANSSIは、機微なデータを第三者の生成AIサービスに送ってはならないと書いています[3]。CNILは、一般向けサービスを使う場合に保護すべきデータとして、営業秘密や職業倫理上の義務の対象となるデータを挙げています[2]。コードについては、ANSSIは、暗号、アクセス権の管理、機微なデータの処理といった重要なモジュール向けのコードブロックを、AIに生成させるのを控えるよう強く勧めています[3]。
新しいツールを使う前に
- 規程に載っていて、考えている用途がそこで許可されているかを確認します。
- 提供者が入力したデータを再利用するものと考えます。NCSCによると、リクエストは保存され、ほぼ確実に、いずれかの時点でサービスやモデルの開発に使われます。そのため、機微な質問をする前に、利用条件とプライバシーポリシーを理解する必要があります[5]。
- 個人のアドレスではなく、業務用のアカウントを使います[2]。
- 質問や問題があるときは、組織が窓口を指定している場合、その窓口に連絡します。CNILは、DPOの指定が、場合によってはRSSIと連携してガバナンスの役割を有効に担うことができ、利用者に問題を報告する窓口を提供しうると述べています[2]。
落とし穴
もっともらしい答えが、正確とは限りません。CNILは、これらのシステムがもっともらしく見える不正確な結果を生成することがあり、確認しないまま過度に信頼すると誤った判断につながりうると指摘しています[2]。また、自動化バイアス、つまり過度の利用に伴う信頼や能力の喪失についても注意を促しています[2]。
質問は、尋ねる人によって機微になることがあります。NCSC(英国)は、経営者が従業員の解雇の方法を尋ねる場合を例に挙げ、同じアカウントで行ったリクエストは集約されることがあると改めて述べています[5]。
ツールに与えた指示は、ルールの代わりになりません。OWASPは、システムプロンプトに置いた制限が守られないことがあり、プロンプトインジェクションで回避されることがあると指摘しています[8]。
最後に、負担が利用者のみにかかるべきではありません。NCSC(英国)は、顧客には一般にAI関連のリスクを単独で扱う専門知識がなく、開発者が顧客の安全に責任を負うべきだと書いています[7]。
出典
- CNIL, 「Comment déployer une IA générative ? La CNIL apporte de premières précisions」, 2024年7月18日. https://www.cnil.fr/fr/comment-deployer-une-ia-generative-la-cnil-apporte-de-premieres-precisions (2026年11月14日閲覧)
- CNIL, 「Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative」, 2024年7月18日. https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative (2026年11月14日閲覧)
- ANSSI, 「Security recommendations for a generative AI system」, 2024年4月29日. https://messervices.cyber.gouv.fr/documents-guides/security_recommandations_for_a_generative_ai_system.pdf (2026年11月14日閲覧)
- Commission européenne, 「AI Literacy - Questions & Answers」. https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers (2026年11月14日閲覧)
- NCSC (Royaume-Uni), 「ChatGPT and large language models: what's the risk?」, 2023年3月14日. https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk (2026年11月14日閲覧)
- NIST, 「AI Risk Management Framework」, 2023年1月26日. https://www.nist.gov/itl/ai-risk-management-framework (2026年11月14日閲覧)
- NCSC (Royaume-Uni), 「AI and cyber security: what you need to know」, 2024年2月13日. https://www.ncsc.gov.uk/guidance/ai-and-cyber-security-what-you-need-to-know (2026年11月14日閲覧)
- OWASP, 「LLM02:2025 Sensitive Information Disclosure」. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (2026年11月14日閲覧)
この記事を引用する
Brain, 「AI利用規程:許可する、枠を定める、禁止する」, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp314_ja_2026,
author = {Brain},
title = {AI利用規程:許可する、枠を定める、禁止する},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/ja/articles/company-ai-use-policy/},
note = {CC BY 4.0}
}