CyberpediaBrain

職場での音声合成と音声認識

AIで会議や通話を文字起こしするときに、ツールが音声データをどう扱うのか、利用前に何を確認するのか、そしてGDPR(RGPD)とフランスのCNILが何を述べているのかを、従業員の視点で実務に即して順に整理します。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4仕組み
  5. 5やるべきこと
  6. 6落とし穴
  7. 7出典
  8. 8この記事を引用する

30秒でわかる要点

発生する場面
会議の自動議事録、通話の文字起こし、音声アシスタント、音声入力。
問題になること
録音された声には、ときに機密を含む発言と、参加者の個人データが含まれます。
とっさの行動
録音は会社が承認したツールにだけ送り、録音の前に参加者へ知らせ、配布する前に文字起こしを読み直します。
すでにやってしまった場合
待たずに、社内のセキュリティまたはデータ保護の担当者に知らせます。

概要

音声認識ツールは、録音を聞き取って文字に変換します。会議の議事録の自動作成や通話の文字起こしは、この仕組みで作られます。反対向きの処理が音声合成で、テキストから話し声を作り出します。音声アシスタントの声がその例です。

従業員にとって大切なのは、技術の細部よりも実務上の疑問です。録音はどこへ送られるのか、誰が再生できるのか、どのくらいの期間保存されるのか、できあがった文章は信頼できるのか。この記事は、調査用の資料に含まれる情報源から確認できる範囲の目安を示します。EUのAI規則と声のクローン技術は扱いません。調査用の資料に、この二点についての情報源がなかったためです。

よくある質問

声はどのようにして文字になるのですか。

2022年12月6日に、ある研究論文がarXivで公開されました[1]。この論文は、インターネット上で集めた音声の大量の書き起こしを予測するように訓練したモデルを説明しており、その規模は多言語データ68万時間に及びます[1]。著者らは、人間と比べたとき、これらのモデルは「approach their accuracy and robustness」と書いています[1]。つまり、水準は人に近づいているものの、この表現からは人と同等とまでは言えません[1]。

文字から声にする方法は。

調査用の資料には、音声合成の仕組みを説明する情報源がありません。念のため、外部のサービスに預けられない文章は、この種のツールに入力しないほうが安全です。

自分の声は生体データですか。

CNILは生体データを「Caractéristique physique ou biologique permettant d'identifier une personne (ADN, contour de la main, empreintes digitales...)」と定義しています[2]。この定義には声が挙げられていません[2]。そのため、資料からは結論を出せません。一方、GDPR(RGPD)は特に機微なデータを特別な保護の対象となる区分に置いており、生体データも、人を識別するために使われる場合にはその区分に入ります[3]。声を認識したり認証したりするツールに疑問がある場合は、使う前にデータ保護の担当者に確認します。

GDPRは文字起こしにも適用されますか。

CNILは、GDPRが適用される場合、学習用データベースでも、データを記憶している可能性のあるモデルでも、プロンプトによるモデルの利用でも、データを保護しなければならないと述べています[4]。文字起こしがこの枠組みに入るかどうかは、資料からは分かりません。この点はデータ保護の担当者に確認します。

参加者に知らせる必要がありますか。

GDPRは、データを取得される本人への情報提供を定めています(第13条と第14条。CNILのページの目次に記載)[3]。CNILのファイル9は、本人への情報提供を扱っています。CNILは、AIのモデルやシステムを開発するために個人データを処理する組織は、対象者に知らせなければならないと示しています[5]。この情報提供の義務は、CNILのAI実践ガイドに載っています[5]。単なる会議の録音にどの規則が適用されるかは、資料には書かれていません。慎重な対応としては、会議の冒頭で録音の事実と使うツールを伝え、断りたい人が断れるようにします。

仕組み

文字起こしツールは、音声を受け取り、モデルに処理させ、テキストを返します。この各段階で、実務上の疑問が二つ生じます。データはどこにあるのか、そこにどれだけの期間とどまるのか、です。

英国の国家サイバーセキュリティセンター(NCSC)が対象とするのは、AIシステムの提供者です。システムを自ら作った場合も、他者が提供するツールやサービスの上に構築した場合も含まれます[6]。そのガイドラインは2023年11月27日に公開されました[6]。目的は、想定どおりに動作し、かつ「work without revealing sensitive data to unauthorised parties」システムを作ることです[6]。従業員はこの文書の読み手ではありませんが、考え方は単純に言い換えられます。AIツールは、預けたデータに誰がアクセスできるのかを説明できなければなりません。

GDPRの側では、管理者と処理者に対し、リスクを評価し、それを軽減する措置を講じるよう求めています。たとえば暗号化によって、機密性を含め、適切な水準の安全性を確保します[3]。リスクの例として、送信、保存、処理されたデータの許可のない開示が挙げられています[3]。企業では、ツールを選び契約を結ぶのは会社です。だから従業員は、承認されたツールを通すのです。

やるべきこと

録音や文字起こしの前に、次の四つの確認が役に立ちます。

  • ツールが承認されているか確かめる。無料サービスで作った個人アカウントは、会社の審査を受けていません。承認されたツールがないなら、機微なやり取りは文字起こししません。
  • 音声の送り先と保存期間を知る。この情報は、ツールの利用規約か社内の資料に書かれています。見つからなければ、使う前に問い合わせます。
  • 機密のやり取りを外す。個人面談、健康に関する話題、商談、セキュリティインシデントは、承認されていないツールには入れません。
  • 参加者に知らせる。会議の冒頭で、録音と文字起こしを行うこと、そのツール名を伝えます。

文字起こしのあとは、配布の前に読み直すことが推奨されます。固有名詞、数字、決定事項、約束事を確認します。この文章はそのあとメールや書類に載って広がるためです。不自然な箇所があれば、記憶で直さずに録音と照らし合わせます。

落とし穴

一つ目の落とし穴は、文章を信用しすぎることです。前に挙げた研究論文によると、システムは人間の精度に近づくことがあります[1]。それでも、一文が聞き違えられることはあります。資料には誤り率の数字も、でっち上げられた文字起こしの説明もありませんが、OWASPは大規模言語モデルを基にしたアプリケーションのセキュリティリスクを整理しています[7]。その紹介ページは、特に「dissemination of sensitive information」と「compromised decision-making」を挙げています[7]。読み直さずに配布した文字起こしは、この種の影響を生むおそれがあります。

二つ目の落とし穴は、自動要約です。NISTは2024年7月26日に、生成AIに特化したプロファイルを公開しました[8]。このプロファイルは、組織がこの技術に固有のリスクを見極める助けとなることを目的としています[8]。モデルが作る会議の要約はこの系統のツールに入るので、文字起こしと同じように読み直す必要があります。

三つ目の落とし穴は、データの再利用です。CNILは、言語モデルのようなモデルが個人データを含みうること、そしてAIモデルでは、アクセス、訂正、異議申立て、消去の権利を実現するのが特に難しい場合があることを指摘しています[4]。

四つ目の落とし穴は、知らせずに録音することです。GDPRは、本人への情報提供を定めています(第13条と第14条)[3]。CNILは、韓国の機関PIPCと共同で、「生成AIとプライバシー」というポスターも作成しました[9]。このポスターは2026年5月27日に公開されました[9]。AIを使うときに個人データを守る方法を説明しています[9]。

最後に、声をまねた詐欺、いわゆる社長詐欺については、ここで詳しく述べられません。調査用の資料に、これを記録した情報源がないためです。電話で聞き慣れた声がしても、それだけで送金やパスワードの依頼を承認しない。これは用心のための行動であり、この資料によって確認された事実ではありません。

出典

  1. arXiv, 「Robust Speech Recognition via Large-Scale Weak Supervision」, 2022年12月6日. https://arxiv.org/abs/2212.04356 (2026年11月3日閲覧)
  2. CNIL, 「Donnée biométrique」. https://www.cnil.fr/fr/definition/donnee-biometrique (2026年11月3日閲覧)
  3. CNIL, 「Le règlement général sur la protection des données - RGPD」, 2016年5月24日. https://www.cnil.fr/fr/reglement-europeen-protection-donnees (2026年11月3日閲覧)
  4. CNIL, 「IA et RGPD : la CNIL publie ses nouvelles recommandations pour accompagner une innovation responsable」, 2025年2月7日. https://www.cnil.fr/fr/ia-et-rgpd-la-cnil-publie-ses-nouvelles-recommandations-pour-accompagner-une-innovation-responsable (2026年11月3日閲覧)
  5. CNIL, 「Les fiches pratiques IA」. https://www.cnil.fr/fr/les-fiches-pratiques-ia (2026年11月3日閲覧)
  6. NCSC (Royaume-Uni), 「Guidelines for secure AI system development」, 2023年11月27日. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (2026年11月3日閲覧)
  7. OWASP, 「OWASP Top 10 for Large Language Model Applications | OWASP Foundation」. https://owasp.org/projects/top-10-for-large-language-model-applications (2026年11月3日閲覧)
  8. NIST, 「AI Risk Management Framework」. https://www.nist.gov/itl/ai-risk-management-framework (2026年11月3日閲覧)
  9. CNIL, 「Intelligence artificielle | CNIL」. https://www.cnil.fr/fr/intelligence-artificielle (2026年11月3日閲覧)