CyberpediaBrain

Slopsquatting:AIが作り出した架空のパッケージ

コード作成アシスタントが存在しないパッケージを勧め、攻撃者がそれをあとから作ることがあります。研究で分かったことととっさの行動。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4攻撃者の視点
  5. 5画面に見えるもの
  6. 6内部の仕組み
  7. 7出典
  8. 8この記事を引用する

30秒でわかる要点

発生する場所
コード作成アシスタントが、PythonまたはJavaScript向けのパッケージを勧めるときです[1]。
攻撃者の狙い
モデルが作り出す名前を登録し、罠を仕掛けた自分のパッケージをインストールさせることです[2]。
とっさの行動
AIの言葉だけを頼りにパッケージを決してインストールしないでください。OWASPは、モデルの回答を信頼できる外部の情報源と照合するよう勧めています[3]。

概要

コード作成アシスタントが、存在しないソフトウェアパッケージのインストールを提案することがあります。研究者はこれをパッケージのハルシネーションと呼んでいます。モデルがコードを書くときに、事実と食い違う誤りです[1]。研究者はこれを、パッケージ混乱攻撃の新しい形と見ています[1]。攻撃者が架空の名前を登録すれば、そこに悪意あるコードを入れることができます[3]。この攻撃はslopsquattingと呼ばれます[2]。

この記事の数字は、研究者の調査によるものです。研究者が実証し、測定した弱点であり、被害者のもとで観測された攻撃ではありません。

よくある質問

Slopsquattingとは何ですか

パッケージとは、開発者が集中管理されたリポジトリからダウンロードするコードの部品です。PythonならPyPI、JavaScriptならnpmがその例です[1][2]。モデルが存在しないパッケージを挙げると、攻撃者はその名前を登録できます[2]。アシスタントの提案を信頼する開発者は、そのとき攻撃者のパッケージを組み込みます[3]。

アシスタントはよく間違えますか

モデルと年によって異なります。2024年6月に公開された研究(USENIX Security 2025に採択)では、16のモデルで57万6,000件のコード例が作られました。架空のパッケージの平均割合は、商用モデルで少なくとも5.2%、オープンモデルで21.7%に達し、異なる架空の名前は20万5,474件ありました[1]。

2026年の再現研究は、最近の5つのモデルによるPythonとJavaScriptのコード生成19万9,840件を対象としています。挙げられたパッケージのうち架空の名前は3.6〜5.0%(生成全体の2.2〜3.4%)でした。著者によると、最近のモデルは2024年の商用モデルと同じ水準にあり、オープンモデルとの差はなくなっています。どのモデルでも、PythonはJavaScriptより高い割合でした[2]。

最近のモデルで、リスクはなくなりましたか

2026年の再現研究の題名がそのまま答えです。幅は狭まりつつありますが、脅威は残っています[2]。著者は、モデルが提案した名前のうち少なくとも23件が、以前にマルウェアを置いていたことがあると指摘しています。そのマルウェアは、のちにリポジトリによって削除されました。また、架空の名前の1つが、試験の後にマルウェアつきで登録されました[2]。

架空の名前は、攻撃者にすぐ押さえられますか

この研究では、架空の名前の約1%が6か月以内に登録されました。この期間中、著者の一覧が誤って公開されたことがありました。著者は、この公開による検出可能な影響を見つけていません。公開された名前でも公開されなかった名前でも、割合は同じでした[2]。

質問の仕方で何か変わりますか

はい。2025年の研究は7つのモデルを試しました。1文字のタイプミスで、最大26%のタスクでハルシネーションが起きます。でっち上げられたライブラリ名は最大99%の確率で受け入れられ、時間に関わる依頼では最大85%でハルシネーションが起きます[4]。

AIが勧めたパッケージをインストールする前に、どうすればよいですか

確認は2つあります。1つ目は、パッケージが存在するかどうかの確認です。ただし、これだけでは足りません。2026年の研究では、架空と指摘された名前の半分は、すでにPyPIに登録されたパッケージでした。有名なプロジェクトをまねた、質の低い模倣品です[5]。2つ目は、そのパッケージが知られているかどうかの確認です。AIの回答を信頼できる外部の情報源と照合します。OWASPも、モデルの回答についてそれを勧めています[3]。確認できないパッケージは、アシスタントの提案だけを理由にインストールしないでください。

攻撃者の視点

OWASPが説明するシナリオは、わずかな段階で成り立ちます。攻撃者は、人気のあるコード作成アシスタントを試し、最もよく作り出されるライブラリ名を見つけます。次に、その名前で悪意あるパッケージを、広く使われているリポジトリに公開します。アシスタントの提案に従う開発者は、知らないうちにそれを組み込みます。そうなると、攻撃者は不正なアクセスを得たり、悪意あるコードを注入したり、バックドアをインストールしたりできます[3]。

同じ名前が、モデルを超えて繰り返し現れます。2026年の再現研究では、5つのモデルすべてが作り出した名前が104件ありました[2]。

依頼の書き方も影響します。ローカルのアシスタントを調べた研究では、ハルシネーションの割合は、一般的なプログラミングタスクでは0〜10%でしたが、slopsquattingの罠として作られた依頼では40〜73%になりました[5]。

画面に見えるもの

OWASPは、こうした誤りを、正確に見えるのに作り上げられた内容として説明しています。回答はもっともらしく聞こえますが、何の裏づけもありません[3]。コードでは、研究された誤りは無効なインポートの形をとります[4]。

抜粋
説明用の例で、実際の事例ではありません:
pip install [アシスタントが提案した、見つからない、または不明なパッケージ名]

確認はいつも簡単とは限りません。インポート名がパッケージ名と異なることがあるからです。ローカルのアシスタントを調べた2026年の研究の著者たちは、「import cv2」と「pip install opencv-python」の例を挙げています[5]。2026年の再現研究では、以前の架空の名前の一覧にあった26件は、実際にはモジュール名がパッケージ名と異なる正しいインポートでした[2]。

内部の仕組みIT部門

OWASPは、ハルシネーションをモデルの仕組みで説明しています。モデルは、内容を理解しないまま、学習データの欠けた部分を統計的なパターンで埋めます[3]。OWASPは、安全でない、または存在しないコードライブラリの提案をリスクに数えています。確認せずに信じると、脆弱性が持ち込まれます[3]。これに加えて、利用者の過信も挙げています。利用者は、モデルが出力した内容が正確かどうかを確かめません[3]。

2024年の研究者たちは、対策も試しました。研究者たちは、いくつかの戦略がコードの品質を保ったままハルシネーションの数を大きく減らすと述べています[1]。

2026年8月に提案された検出器は、2つの確認を組み合わせています。1つ目は、パッケージがPyPIに存在するかどうかを決定論的に確認します。2つ目は、パッケージの名前とメタデータから取り出した10の特徴で学習した分類器です[5]。300件の依頼では、この処理の流れは、試行の76%で架空のパッケージを含まないコードを作りました[5]。研究で最も弱い主要モデルは、支援なしで、直接的な罠10件のうち6件を断りました。著者たちは、これを、最近の指示の調整が基本的な防御になっていることを示唆すると述べています[5]。

組織の側では、OWASPは、データの出所と提供元を丁寧に確認し、信頼できる提供元だけを使うよう勧めています[6]。また、ソフトウェア部品表(SBOM)で、コンポーネントの一覧を最新に保つことも勧めています[6]。

出典

  1. arXiv, 「We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs」, 2024年6月12日. https://arxiv.org/abs/2406.10279 (2026年11月14日閲覧)
  2. arXiv, 「The Range Shrinks, the Threat Remains: Re-evaluating LLM Package Hallucinations on the 2026 Frontier-Model Cohort」, 2026年5月16日. https://arxiv.org/abs/2605.17062 (2026年11月14日閲覧)
  3. OWASP, 「LLM09:2025 Misinformation」, 2024年4月10日. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (2026年11月14日閲覧)
  4. arXiv, 「Library Hallucinations in LLM-Generated Code: A Risk Analysis Grounded in Developer Queries」, 2025年9月26日. https://arxiv.org/abs/2509.22202 (2026年11月14日閲覧)
  5. arXiv, 「Names Can Hurt: Spotting Slopsquatting Risks Caused by Package Name Hallucinations in Local Coding LLMs」, 2026年8月24日. https://arxiv.org/abs/2608.23897 (2026年11月14日閲覧)
  6. OWASP, 「LLM03:2025 Supply Chain」, 2024年4月10日. https://genai.owasp.org/llmrisk/llm032025-supply-chain/ (2026年11月14日閲覧)