AI自動翻訳と機密契約書
契約書をオンラインのAI翻訳に貼り付けると内容が外部に渡ります。CNIL、OWASP、NISTの指摘と、従業員がとるべき行動を整理します。
30秒でわかる要点
- 起きる場所
- オンラインのAI翻訳、無料版、ブラウザ拡張機能に、従業員が契約書、見積書、顧客からのメールを貼り付けるときです。
- 攻撃者の狙い
- 攻撃者がいるとは限りません。リスクは、機密の文章が社外に出て、後にモデルの回答に現れるかもしれないことにあります[1]。
- とっさの行動
- 会社が承認した翻訳ツールだけを使い、条項、氏名、金額などの機微な内容を無料サービスに貼り付けないでください。
- すでにやってしまった場合
- 使ったサービスと送った文章を伝えて、すぐにセキュリティ責任者かデータ保護責任者に知らせてください。
概要
オンラインのAIツールを使えば、契約書を数秒で翻訳できます。読み慣れない言語で文書が届いたときは特に魅力的です。やることは簡単で、文章をコピーし、Webページに貼り付け、翻訳された版を受け取るだけです。しかし、送信した文章がその後どう扱われるかは、従業員の手の届かないところにあります。
この記事のために参照した資料は、翻訳ツールそのものを対象にしていません。資料が説明しているのは、大規模言語モデル(LLM)を使ったアプリケーションのリスクです[1][3]。AI翻訳がそのようなモデルに基づく場合は、この説明が当てはまります。この記事は、その指摘を身近な場面に当てはめます。機密文書をオンラインのサービスに貼り付ける場面です。
よくある質問
なぜ契約書を無料の翻訳サービスに貼り付けてはいけないのですか。
OWASPは、個人データ、財務データ、機密性のある業務データ、セキュリティ上の認証情報、法務文書を機微情報に分類しています[1]。機密の契約書には、これらのうち複数が含まれていることがよくあります。OWASPは、利用者が機微なデータを意図せず入力してしまうリスクを理解する必要があると警告しています。そのデータは、後にモデルの回答に現れる可能性があります[1]。
送信した文章はどうなりますか。
ここで引用した資料は、特定のサービスの仕組みを説明していません。OWASPによれば、LLMを使ったアプリケーションは、利用者のデータが学習モデルに入らないようにデータを無害化し、再利用を拒否できる明確な利用条件を示す必要があります[1]。つまり、入力された文章の再利用は、提供者が対処すべきリスクです[1]。個々の無料サービスの扱いは、その利用規約で確認するものであり、この記事に書かれているわけではありません。
モデルは受け取ったデータを本当に再現できますか。
NISTは、データの記憶と呼ばれる現象を説明しています。攻撃を受けたとき、LLMが学習データに含まれていた機微な情報を明らかにした例があります[3]。NISTは、学習用の少数の例にしか含まれないデータであっても、プライバシーのリスクが高まりうると指摘しています[3]。CNILも、LLMのようなモデルには個人データが含まれうると書いています[2]。
翻訳にもGDPRは適用されますか。
文章に個人データ(署名者の氏名や連絡先)が含まれていれば、GDPRが関わってきます。CNILによれば、GDPRが適用される場合、個人のデータは、学習用のデータベース、そのデータを記憶したかもしれないモデル、そしてプロンプトを通じたモデルの利用の各段階で保護されなければなりません[2]。規則の本文には、処理者に関する条文、処理の安全性に関する条文、第三国へのデータ移転に関する章があります[4]。
翻訳が間違っていることはありますか。
あります。NISTは、虚偽または誤った内容を自信ありげに述べ、利用者を誤解させうる現象を、作話(confabulation)と定義しています[3]。契約書では、流暢な文章を読むだけでは、誤訳された条項に気づけません。
仕組み
オンラインのAI翻訳ツールは、利用者がウィンドウに貼り付けた文章を受け取ります。言語モデルがそれを処理し、文章は送信した時点で従業員のパソコンから出ていきます。
確認すべきなのは、翻訳後に文章がどうなるかです。OWASPは、提供者に対して、データの保存、利用、削除に関する明確な方針を維持し、利用者が自分のデータを学習に使わせないよう拒否できるようにすることを求めています[1]。OWASPはさらに、モデルの内部指示に置いた制限が常に守られるとは限らず、プロンプトインジェクションなどの手法で回避されうると述べています[1]。したがって、提供者の約束は、企業との契約の代わりにはなりません。
CNILは、アクセス、訂正、異議申立て、消去の権利があることを確認したうえで、AIモデルに対してはこれらを行使しにくい場合があると述べています。モデルの中から個人を特定する場合も、モデルを修正する場合も同じです[2]。
あなたの行動
翻訳する前に、会社が承認したツールが用意されているかを確認してください。あれば、業務文書はすべてそのツールだけで翻訳します。
承認されたツールがない場合は、機密文書を無料サービスに貼り付けないでください。セキュリティ責任者か法務担当者に相談するか、会社と契約を結んでいる外部の事業者に翻訳を依頼します。
機微でない部分であれば、事前の準備で露出を減らせます。OWASPは、機微な情報を処理前に取り除く手法として、トークン化とマスキング(redaction)を挙げています[1]。手作業で行うなら、氏名、金額、参照番号を「[A社]」「[金額]」のような中立の目印に置き換え、翻訳後に元に戻します。ただし、構造そのものが機密である文章には、この方法は向きません。
翻訳後は、結果を読み直してください。NISTは、誤った内容が自信ありげに述べられるリスクを説明しています[3]。契約書の場合は、法務担当者か原文の言語を読める人が、法律用語、期間、金額を確認します。
承認されていないサービスに機密の文章をすでに貼り付けた場合は、被害があったかどうかが分かるのを待たずに、すぐに報告してください。
落とし穴
- 無料版: 文章がどうなるかは、その利用規約で決まります。OWASPは、データの再利用を拒否する手段をアプリケーションが提供するよう勧めています[1]。しかし、無料サービスがそれを備えている保証はありません。
- ブラウザ拡張機能: ここで引用した資料は、その仕組みを詳しく説明していません。そのため、オンラインのサイトより慎重に文章を扱うと決めつけることはできません。ほかのツールと同じように承認を確認してください。
- 流暢だが誤った翻訳: 上手に書かれた文章が、正確な文章とは限りません[3]。
- 不完全な匿名化: 文脈から当事者が分かるなら、名前を消すだけでは足りません。CNILは、匿名のモデルもそうでないモデルもあると指摘しています。つまり、匿名であることは初めから保証されていません[2]。
- 表示された方針への信頼: 「このサービスは何も保存しません」といった記載は、提供者が企業に対して書面で約束している場合にだけ意味を持ちます。
- 守秘義務の見落とし: 契約書が、その内容を第三者に伝えることを禁じている場合があります。ここで引用した資料はそうした条項を詳しく扱っていません。条項は契約書そのものを読んで確認します。
会社が求めること
OWASPは、機微な情報の入力を避けるための指針を示すこと、そしてLLMと安全にやりとりするための良い習慣について研修を行うことを勧めています[1]。従業員にとっては、チームの明確なルールという形になります。どのツールを、どの文書に使い、どのように見直すかを決めておくことです。
出典
- OWASP, 「LLM02:2025 Sensitive Information Disclosure」. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (2026年11月3日閲覧)
- CNIL, 「IA et RGPD : la CNIL publie ses nouvelles recommandations pour accompagner une innovation responsable」, 2025年2月7日. https://www.cnil.fr/fr/ia-et-rgpd-la-cnil-publie-ses-nouvelles-recommandations-pour-accompagner-une-innovation-responsable (2026年11月3日閲覧)
- NIST, 「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (2026年11月3日閲覧)
- CNIL, 「Le règlement général sur la protection des données - RGPD」. https://www.cnil.fr/fr/reglement-europeen-protection-donnees (2026年11月3日閲覧)
この記事を引用する
Brain, 「AI自動翻訳と機密契約書」, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp516_ja_2026,
author = {Brain},
title = {AI自動翻訳と機密契約書},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/ja/articles/ai-jidou-honyaku-kimitsu-keiyakusho/},
note = {CC BY 4.0}
}