CyberpediaBrain

不可視のUnicode文字:AIへの指示を隠すテキスト

画面に見えないUnicode文字は、AIに読み取られることがあります。Microsoftが2026年に観測した事例と、取るべき行動を紹介します。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4攻撃者の視点
  5. 5画面に見えるもの
  6. 6内部の仕組み
  7. 7事例の検証
  8. 8出典
  9. 9この記事を引用する

30秒でわかる要点

発生する場所
ウェブページ、文書、メールなど、AIアシスタントが受け取るコンテンツの中です[1]。
攻撃者の狙い
指示を人間には見えないように隠しながら、モデルには読み取れる状態にすることです。アシスタントの権限やガードレールによっては、データの漏えいや許可されていない操作につながることがあります[1]。
とっさの行動
AIに渡す外部のコンテンツは信頼できないものとして扱い[2]、公開されているLLMへのリクエストに機密情報を入れないことです。これはNCSC(英国)が推奨しています[3]。
記事の構成

概要

テキストには、画面に表示されない文字が含まれていることがあります。人には異常が見えませんが、生のテキストを受け取るAIアシスタントはそれらを読み取り、テキストとして解読して、攻撃者が設定した指示に従うことがあります[1]。

Microsoftは2026年9月3日に、金融関連の誘い文句の単語にこれらの文字を挿入して、メールフィルターを回避するフィッシングキャンペーンについて説明しました[1]。この使い方は、AI研究でASCII smugglingの名で知られる手法を引き継いだものです[1]。

よくある質問

不可視のUnicode文字とは何ですか

テキストの一部でありながら、一般的なフォントやインターフェースでは表示されない文字です。Microsoftは特に、U+E0000からU+E007FまでのUnicode Tagsブロックを挙げています。このブロックには、印字可能なASCII文字のシャドウコピーが入っています。本来は言語のタグ付けのためのもので、現在は大部分が非推奨になっています[1]。そのため、文字列は人間には読めないメッセージを運ぶことができ、そのテキストを受け取るあらゆる言語モデルやソフトウェアは、このメッセージを処理します[1]。2026年の研究は、メッセージを隠す2つの方法、幅ゼロの文字(2進コーディング)とUnicode Tagsを試験しています[4]。

AIは隠された指示に本当に従いますか

研究者が測定しています。2026年2月26日に提出された論文で、Marcus Gravesは、2つのプロバイダーの5つのモデルを、合計8,308件の応答で評価するベンチマークを示しています[4]。この研究は、モデルがツールを使うと隠された指示への従順さが大きく高まること、明示的な解読の指示があると、特定のモデルとエンコーディングで最大95パーセントポイント高まることを見いだしています[4]。著者は、あまり探られていない攻撃面だと述べています[4]。OWASPは、モデルがコンテンツを読む以上、人間には知覚できない入力でもモデルに影響を与える可能性があると指摘しています[2]。

インジェクション対策のフィルターで止められますか

常に止められるわけではありません。研究者は、MicrosoftのAzure Prompt ShieldやMetaのPrompt Guardを含む6つの保護システムを試験しました。文字挿入や敵対的機械学習の手法で検出を回避できることを示しており、場合によっては回避の成功率が最大100%に達しました[5]。OWASPは、入力のフィルタリングはセキュリティ境界ではないと明記しています[6]。

攻撃は観測されていますか

Microsoftは、これらの文字を使った大量のフィッシングキャンペーンを観測しました。調べたメッセージでは、AIへの指示を隠していたのではなく、フィルターを回避するために単語の中に文字を挿入していました[1]。この事例は、後ほど詳しく説明します。

どのような行動を取ればよいですか
  • 出所不明の文書、ウェブページ、メールは、アシスタントに渡す前に信頼できないものとして扱ってください。OWASPは、ウェブサイトやファイルを経由する間接的なインジェクションを説明しており[2]、信頼できないコンテンツを明確に分離して示すよう勧めています[2]。
  • 公開されているLLMへのリクエストに機密情報を入れないでください。NCSC(英国)が推奨しているとおりです[3]。
  • 社内のコントロールが働くようにしてください。Microsoftは、メッセージの解析の前、およびAIによる取り込みの前に、タグ文字などの不可視文字を除去または正規化するよう勧めています[1]。OWASPは、想定外の幅ゼロ文字やタグ文字をレビューに回すよう勧めています[6]。
  • アシスタントの予期しない応答を真剣に受け止めてください。OWASPは、インジェクションが成功した兆候を見つけるために、モデルの出力を監視するよう助言しています[6]。
  • 機微な操作を、アシスタントに単独で行わせないでください。OWASPは、特権的な操作には人による承認を勧めています[2]。

攻撃者の視点

Microsoftは、同じ文字の2つの使い方を説明しています。1つ目はアシスタントを狙うものです。攻撃者は、ウェブページ、文書、メールなどのコンテンツに埋め込んだ不可視のタグ文字に、指示を隠します。人間には異常が見えませんが、生のテキストを読むアシスタントはそれを解読します[1]。2つ目はフィルターを狙うものです。文字がフィルターの探す単語を分断し、フィルターはその単語を認識できなくなります[1]。

OWASPは、1つ目の型のシナリオを説明しています。ユーザーがLLMに、隠された指示を含むウェブページの要約を依頼します。その指示によって、アシスタントはあるアドレスにリンクされた画像を挿入し、非公開の会話が外部に持ち出されます[2]。

OWASPは、採用プラットフォームの履歴書196,682通を対象にした研究(Zhang et al., USENIX Security 2026)も報告しています。隠されたプロンプトの90%超には、明示的な指示が含まれていませんでした[6]。

画面に見えるもの

何も見えません。一般的なフォントやインターフェースは、これらの文字の大半を表示しません[1]。Microsoftが説明したキャンペーンでは、fundingのような誘い文句の単語は、受信者には普通に見えましたが、途中に不可視文字が入っていることがありました[1]。

これらの文字がすべて怪しいわけではありません。イングランド、スコットランド、ウェールズの旗は、タグ文字でエンコードされています[1]。

このとき、目に見える唯一の手がかりは、アシスタントの挙動です。OWASPは、プロンプトインジェクションを、モデルの挙動や出力を意図しない形で変える入力と定義しています[2]。

内部の仕組みIT部門

タグ文字は人間には見えませんが、テキスト処理のレベルでは存在します[1]。取り込みのパイプラインは通常、文書から抽出したテキストをモデルに渡し、その表示のされ方を無視します。そのため、読み手に見えないテキストがモデルに届きます[6]。

メールの分類器について、Microsoftは、一般的な単語がトークンや単語の断片に分割されることが多いと説明しています。途中にある不可視文字は、この見慣れた単位を壊すことがあり、先に正規化が行われると削除されることもあります[1]。

OWASPは、NFKC正規化は幅ゼロ文字を除去しないと述べています。また、タグ文字は、モデルが読んで実行する隠れた指示を運べると明記しています。クリーニングしたコピーを解析して原本を渡すと、隠れたテキストはそれでもモデルに届きます[6]。

Microsoftは、防御の原則を「比較する前に正規化する」と表現しています[1]。Microsoft Defender for Office 365は、プロンプトインジェクションに対する保護を提供しています。これは、不可視文字がユーザーには指示を隠し、AIシステムにはさらす場合を対象とします。対象範囲は、ライセンス、構成、テレメトリーによって異なります[1]。OWASPは、プロンプトインジェクションを確実に防ぐ方法があるかどうかは分かっていないと述べています[2]。

事例の検証実際の事例

タグ文字を使ったフィッシングキャンペーン、2026年2月から5月

Microsoftは、ASCII smugglingのシグネチャの検出が、2026年2月9日から大きく増えたと報告しています[1]。前日はシグネチャが約21,000通のメッセージで作動し、翌日は130万通を超えました[1]。メールの大半は、金融をテーマにした約150の送信者ドメインのグループに結びついていました[1]。誘い文句は、企業向けローン、与信枠、資金の前払いの提案に似ていました[1]。

Microsoftは、厳格なリズムを説明しています。平日は活発で、週末はほぼ沈黙していました[1]。大量送信の段階は約3か月続き、2026年5月15日以降に大きく落ち込みました[1]。これらの日付は、Microsoftのデータにおけるこの手法の使用の期間を区切るものであり、キャンペーン全体のものではありません。キャンペーンはこの手法なしで、それより前に始まり、その後も続きました[1]。

報告されたメッセージのサンプルから、Microsoftはアシスタント宛ての隠れた指示を見つけませんでした。不可視のタグ文字が1つ、誘い文句の単語の中に差し込まれており、完全一致の文字列検索が失敗するようになっていました[1]。メッセージは、正規のメール配信プラットフォームであるActiveCampaignを経由していました[1]。

Microsoftによると、メッセージの99%超は、タグ文字の直接検出に依存しない保護層で検出されました。送信者、IPアドレス、リンク、ドメインそれぞれの評判、機械学習による分類、認証チェックなどです[1]。Microsoftはここから、AIセキュリティ研究に由来する手法が、フィッシングのようなより古典的な攻撃へ素早く移ることがあると結論づけています[1]。

出典

  1. Microsoft, 「ASCII smuggling crosses over from AI prompt injection to phishing evasion」, 2026年9月3日. https://www.microsoft.com/en-us/security/blog/2026/09/03/ascii-smuggling-crosses-over-from-ai-prompt-injection-to-phishing-evasion/ (2026年11月14日閲覧)
  2. OWASP, 「LLM01:2025 Prompt Injection」, 2024年4月10日. https://genai.owasp.org/llmrisk/llm01-prompt-injection/ (2026年11月14日閲覧)
  3. NCSC (Royaume-Uni), 「ChatGPT and large language models: what's the risk?」, 2023年3月14日. https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk (2026年11月14日閲覧)
  4. arXiv, 「Reverse CAPTCHA: Evaluating LLM Susceptibility to Invisible Unicode Instruction Injection」, 2026年2月26日. https://arxiv.org/abs/2603.00164 (2026年11月14日閲覧)
  5. arXiv, 「Bypassing LLM Guardrails: An Empirical Analysis of Evasion Attacks against Prompt Injection and Jailbreak Detection Systems」, 2025年4月15日. https://arxiv.org/abs/2504.11168 (2026年11月14日閲覧)
  6. OWASP, 「LLM Prompt Injection Prevention Cheat Sheet」. https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html (2026年11月14日閲覧)