LLMのトークン化
言語モデルは文ではなくテキストの断片を読んでいます。従業員の使い方にどう関わるのか、また注意すべきセキュリティ上の落とし穴を解説します。
30秒でわかる要点
- 発生場面
- AIアシスタントに文章、名前、文書を貼り付けるとき、またはウェブページの要約を頼むときです。
- 攻撃者の狙い
- 皆さんには見えない指示をモデルに読ませることです。プロンプトインジェクションは、人間には認識できないこともあるためです[2]。
- とっさの行動
- 指示は具体的に書き、数字や引用は元の出典で確認し、機密データは承認されていないツールに貼り付けないでください。
- すでに貼り付けた場合
- 使ったツールと貼り付けたデータの種類を伝えて、セキュリティ担当チームに知らせてください。
概要
AIアシスタントに文章を送るとき、同僚のように文を読んでくれていると感じがちです。この記事の土台となる研究は、別の仕組みを説明しています。まれな単語は、単語より小さい単位の並びとして符号化されます。ここではその単位を断片(トークン)と呼びます[1]。
この記事では、まずその考え方をやさしく説明します。そのうえで、従業員が依頼の書き方、回答の確認、セキュリティ上の落とし穴にどう生かせるかを述べます。参照した資料が扱っているのは、テキストの分割と、わざと分かりにくくしたテキストによる攻撃です。やり取りのコストや、特定の製品のコンテキストウィンドウの大きさは測っていません。そのため、これらはここでは扱いません。
よくある質問
言語モデルは、私たちが書いたとおりの単語を読んでいるのですか。
そのままではありません。2015年に研究者らは、機械翻訳のモデルが固定された語彙で動いていることを示しました。ところが翻訳は、語彙が限定されない問題です[1]。解決策は、まれな単語や未知の単語を、単語より小さい単位の並びとして符号化することです[1]。
テキストはどのように分割されるのですか。
2015年の著者らは、複数の分割手法を比較しています。文字列の単純なモデルや、「byte pair encoding」という圧縮アルゴリズムに基づく分割などです[1]。辞書による代替手法と比べ、英語からドイツ語ではBLEUで1.1ポイント、英語からロシア語では1.3ポイントの向上を測定しています[1]。
言語によって違いはありますか。
Taku KudoとJohn Richardsonが2018年に発表したSentencePieceは、言語に依存しないサブワード分割ツールとして説明されています[3]。単位は生の文から直接学習します。既存のツールは、単語に分割済みのテキストを前提にしていました[3]。オープンソースとして、Apache 2ライセンスで公開されています[3]。ある言語が他の言語よりどの程度不利になるかは、ここで引用した資料では測定されていません。この点は未解決のままです。
仕組み
資料が示す原則は次のとおりです。モデルは、サイズが固定された語彙で動きます[1]。まれな単語は、複数の単位から組み立てられます[1]。分割ツールは、単語への事前分割をしない生のテキストで学習できます[3]。
指示とデータは、同じ経路を通ります。GPT-3の研究では、タスクと例は「specified purely via text interaction with the model」とされています[4]。OWASPによれば、プロンプトインジェクションとは、モデルの挙動を意図しない形で変える入力のことです。人間には認識できなくても、モデルが読み取れば成立します[2]。この二つを結び付けるのはこの記事の見立てであり、OWASPの主張ではありません。
皆さんができること
明確な指示を書きます。期待する役割、タスク、回答の形式を示してください。OWASPは、システムの設計者に対して、モデルの役割、能力、制限を明示し、出力形式をはっきり定義することを勧めています[2]。従業員も、その考え方を依頼に取り入れられます。
出典を求め、確認します。OWASPは、詳細な推論と出典の引用を求めつつ、結果を決定的なコードで検証するよう勧めています[2]。従業員にとっては、手作業での確認になります。引用された出典を開き、数字を読み直し、引用が一字一句そのとおりに存在するか確かめてください。GPT-3の著者ら自身も、モデルが苦戦するデータセットがあると述べています[4]。
重要な操作は自分の手元に残します。OWASPは、権限を伴う操作には人による承認を設けて、許可されていない操作を防ぐよう勧めています[2]。メッセージの送信やファイルの変更は、確認なしにアシスタントへ任せないでください。
機密データは貼り付けません。OWASPは、機密情報の漏えいをプロンプトインジェクションの起こりうる結果の一つに挙げています[2]。英国のNCSCは、許可されていない第三者に機密データを明かさずに動くAIシステムを目標としています[5]。社内では、許可されたツールに関する組織のルールに従ってください。
外部のコンテンツと自分の指示を分けます。アシスタントがウェブページや受け取ったファイルを要約するとき、その内容に隠れた指示が含まれていることがあります[2]。OWASPは、信頼できないコンテンツを分離し、はっきり示すよう勧めています[2]。
落とし穴
見えない、または分かりにくいテキスト。OWASPによれば、プロンプトインジェクションは、モデルがその内容を読む限り、人間に読める必要がありません[2]。OWASPが挙げるシナリオでは、利用者が隠れた指示を含むウェブページを要約させます。モデルがアドレスにひも付いた画像を挿入し、非公開の会話が外部に流出します[2]。
意味のない文字列。OWASPは、攻撃者が依頼に一見無意味な文字列を付け足す手口を説明しています。この文字列が回答に影響し、保護を回避します[2]。研究には、これを自動化した例があります。貪欲法と勾配に基づく探索手法で見つけた、敵対的サフィックスです[6]。
混在する言語とエンコード。OWASPは、フィルターをすり抜けるために、複数の言語を使ったり、Base64や絵文字などで指示をエンコードしたりする攻撃者も挙げています[2]。
細工されたファイル。OWASPの別のシナリオでは、履歴書に分割された指示が含まれています。モデルが応募書類を評価すると、断片が組み合わさり、履歴書の実際の内容に反して好意的な推薦が出ます[2]。三つ目のシナリオでは、検索拡張生成を使うアプリケーションが参照するリポジトリで文書が改ざんされ、結果がゆがめられます[2]。
不完全な保護。OWASPは、検索拡張生成やファインチューニングでも、プロンプトインジェクションは完全にはなくならないとしています[2]。確実な予防法が存在するかどうかも疑わしいと見ています[2]。NCSCは、AIシステムには従来の脅威に加えて対処すべき新たな脆弱性があると指摘しています[5]。NISTは2024年1月に、機械学習への攻撃の分類を公開しました。専門家でない読者向けの用語集も付いています[7]。
事例
出典
- arXiv, 「Neural Machine Translation of Rare Words with Subword Units」, 2015年8月31日. https://arxiv.org/abs/1508.07909 (2026年11月3日閲覧)
- OWASP, 「LLM01:2025 Prompt Injection」, 2024年4月10日. https://genai.owasp.org/llmrisk/llm01-prompt-injection/ (2026年11月3日閲覧)
- arXiv, 「SentencePiece: A simple and language independent subword tokenizer and detokenizer for Neural Text Processing」, 2018年8月19日. https://arxiv.org/abs/1808.06226 (2026年11月3日閲覧)
- arXiv, 「Language Models are Few-Shot Learners」, 2020年5月28日. https://arxiv.org/abs/2005.14165 (2026年11月3日閲覧)
- NCSC (Royaume-Uni), 「Guidelines for secure AI system development」, 2023年11月27日. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (2026年11月3日閲覧)
- arXiv, 「Universal and Transferable Adversarial Attacks on Aligned Language Models」, 2023年7月27日. https://arxiv.org/abs/2307.15043 (2026年11月3日閲覧)
- NIST, 「Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations」. https://csrc.nist.gov/pubs/ai/100/2/e2023/final (2026年11月3日閲覧)
この記事を引用する
Brain, 「LLMのトークン化」, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp258_ja_2026,
author = {Brain},
title = {LLMのトークン化},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/ja/articles/llm-tokenka-danpen/},
note = {CC BY 4.0}
}