CyberpediaBrain

推論モデル

段階を踏んで考えるAIモデルの仕組み、仕事で使うべき場面、そして回答を必ず確かめなければならない理由を、会社員の視点で説明します。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4仕組み
  5. 5実践
  6. 6落とし穴
  7. 7実例
  8. 8出典
  9. 9この記事を引用する

30秒でわかる要点

起きる場面
答える前に手順を示すAIアシスタントで、計算、分析、複数の段階にわたる問題に使われます。
得られる効果
推論を要する課題では、中間の手順を出力させると、ここで挙げた研究で測られた成績が上がります[1]。
とっさの行動
結果とその手順は、急いでいる同僚の仕事を見直すつもりで読み直してください。会社が承認していないツールには、機密情報や取り扱いに注意が必要な情報を入力しないでください。
もしすでに入力した場合
セキュリティ担当者、またはAIツールを管理する部署に、日時と入力した情報の種類を添えて知らせてください。

概要

AIアシスタントの中には、答えを出す前に中間の手順を書き出すものがあります。この一連の手順を「思考の連鎖」、英語でChain-of-Thoughtと呼びます。いわゆる「推論モデル」は、長い連鎖を作り、1回の回答により多くの計算を使うように設計されています。

会社員にとっての実際の問いは単純です。このモードは、待つだけの価値があるのはどんな場面か。表示される内容のうち、何を確認すべきか。ここで挙げる情報源は研究論文です。方法とその限界は説明していますが、市販の製品や料金は比較していません。

よくある質問

推論モデルとは何ですか

最終的な回答の前に、一連の手順を出力する言語モデルです。2022年1月に公開された論文は、そうした手順の例をいくつか与えると、算術、常識、記号による推論の課題で成績が上がることを示しました[1]。わずか8つの例で、5400億パラメータのモデルが、日常の言葉で書かれた数学の問題集であるGSM8Kのテストで、当時知られていた最高水準に達しました[1]。

この動作を得るのに例は必要ですか

必ずしも必要ではありません。別の研究チームは、回答の前に「Let's think step by step」という一文を加えるだけで、結果が大きく改善することを示しました[2]。MultiArithのテストでは、大規模モデルの正答率が17.7%から78.7%に、GSM8Kでは10.4%から40.7%に上がりました[2]。

どのように訓練されるのですか

2025年1月22日にarXivで公開されたDeepSeek-R1の著者らは、人が書いた推論の例を使わず、強化学習によって自己検証のような推論のパターンを引き出す方法を説明しています[5]。著者らによれば、このモデルは、人の手本で訓練された同等のモデルより、数学、プログラミングの競技、科学の分野で良い結果を出しています[5]。ほかの研究は、訓練を導く2つの方法を比べています。最終結果だけに報酬を与える方法と、各段階を採点する方法です。「Let's Verify Step by Step」という研究では、難しい数学の問題で後者のほうが良い結果になりました[6]。

なぜこれらのモデルは遅いのですか

回答する時点で、より多くの計算を使うからです。2024年の研究はこの選択を検討しており、質問の難しさによって、同じ計算量でも得られる効果は変わると述べています[4]。著者らは、小さなモデルがすでにある程度解ける問題では、回答時の追加計算が、14倍大きいモデルを上回ることがあると書いています[4]。ここで挙げた情報源は、特定の製品の待ち時間や料金を数値で示してはいません。

仕組み

思考の連鎖(chain of thought)とは、モデルが回答の前に生成する、推論の中間手順の列です。著者らによれば、これによって大規模言語モデルが複雑な問題を推論する能力が大きく向上します[1]。

この原理には、いくつかの技法が加わります。自己整合性(self-consistency)は、異なる推論の経路を複数生成させ、最も多く出た答えを採用する方法です。計算や常識のテストで結果が改善し、たとえばGSM8Kでは17.9ポイント上がっています[3]。出発点となる考え方は、複雑な問題には、唯一の正しい答えにたどり着く道がいくつもあるというものです[3]。

もう1つの方法であるReActは、推論と行動を組み合わせます。モデルは途中で外部の情報源、ここではWikipediaのインターフェースを参照して、事実を確かめます[9]。著者らは、推論の連鎖だけでは起こりやすい、ハルシネーションと誤りの連鎖的な広がりを、この方法が抑えると述べています[9]。

実践

作業に合わせてモードを選んでください。挙げた研究が扱っているのは、算術、論理、数学、プログラミングといった、複数の段階を踏む問題です[1][5]。比較分析、検算が必要な計算、分解して考えるべき問題には、推論モデルが向いています。メールの言い換え、短い文章の要約、類語探しなら、通常のモデルのほうが速く答えます。ここで挙げた情報源には、こうした単純な場面を測ったものはありませんが、追加の計算を使う理由もありません。

次に、結果の見せ方ではなく、結果そのものを確認してください。

  • 判断の根拠になる計算や比較は、自分でやり直してください。
  • 引用されている数字、名前、参照先は、信頼できる資料で1つずつ確かめてください。
  • 同じ質問をもう一度、または言い方を変えて尋ねてください。答えが食い違うなら、それは警告のサインです。自己整合性の考え方と同じです[3]。
  • 顧客に送るものや、判断に使うものは、同僚に見てもらってください。

承認されていないツールには、データを入力しないでください。会社が認めていないサービスに、パスワード、顧客のデータ、機密文書を入力してはいけません。ここで挙げた情報源は、特定のサービスのデータの扱いを説明していません。会社の社内ルールに従ってください。

落とし穴

表示される推論が、本当の推論とは限りません。GPT-3.5とClaude 1.0を対象にした研究は、手順を示す説明が、回答の本当の理由をゆがめることがあると示しています[7]。研究者が質問に偏りを仕込み、たとえば正解を常に選択肢「(A)」に置くと、モデルは説明の中でそのことに触れませんでした[7]。誤った答えへ誘導されると、モデルはしばしば理由をでっち上げ、13の課題で正答率が36%低下することがありました[7]。著者らは、こうした説明が「plausible yet misleading」(もっともらしいが誤解を招く)になりうると書いています[7]。

したがって、わかりやすい説明は証拠ではありません。2025年7月の論文も、推論の連鎖を監視することは、AIの安全性にとって好機になるものの、不完全で壊れやすいことがあり、望ましくない挙動が見過ごされる場合があると評価しています[8]。

最も優れたモデルでも、誤りは起こりえます。段階ごとの監督を扱った研究の著者らは、最先端のモデルでも論理の誤りを定期的に出力すると指摘しています[6]。同研究の最良のモデルは、MATHテストの代表的な部分集合の問題の78%を解いています[6]。

米国の機関であるNISTのAIリスク管理フレームワークは、任意で使うものです[10]。AI製品の設計、利用、評価に、信頼性をよりよく組み込むことを目指しています[10]。生成AIに関するプロファイルは、2024年7月26日付です[10]。会社員にとっての実際的な教訓は、AIの結果を管理すべきリスクとして扱い、使う前に人が確認することです。

実例

2025年1月22日: DeepSeek-R1の公開

2025年1月22日、DeepSeek-R1の著者らが論文をarXivに公開しました。強化学習によって推論能力を得たモデルを説明し、こうした推論のパターンは、より小さなモデルの改善にも使えると述べています[5]。ここで挙げた情報源は、このモデルが引き起こしたかもしれないプライバシーの問題を扱っていません。この記事ではそれを説明しません。機密情報に関する前述のルールは、承認されていないあらゆるツールに当てはまります。

出典

  1. arXiv, 「Chain-of-Thought Prompting Elicits Reasoning in Large Language Models」, 2022年1月28日. https://arxiv.org/abs/2201.11903 (2026年11月3日閲覧)
  2. arXiv, 「Large Language Models are Zero-Shot Reasoners」, 2022年5月24日. https://arxiv.org/abs/2205.11916 (2026年11月3日閲覧)
  3. arXiv, 「Self-Consistency Improves Chain of Thought Reasoning in Language Models」, 2022年3月21日. https://arxiv.org/abs/2203.11171 (2026年11月3日閲覧)
  4. arXiv, 「Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters」, 2024年8月6日. https://arxiv.org/abs/2408.03314 (2026年11月3日閲覧)
  5. arXiv, 「DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning」, 2025年1月22日. https://arxiv.org/abs/2501.12948 (2026年11月3日閲覧)
  6. arXiv, 「Let's Verify Step by Step」, 2023年5月31日. https://arxiv.org/abs/2305.20050 (2026年11月3日閲覧)
  7. arXiv, 「Language Models Don't Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting」, 2023年5月7日. https://arxiv.org/abs/2305.04388 (2026年11月3日閲覧)
  8. arXiv, 「Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety」, 2025年7月15日. https://arxiv.org/abs/2507.11473 (2026年11月3日閲覧)
  9. arXiv, 「ReAct: Synergizing Reasoning and Acting in Language Models」, 2022年10月6日. https://arxiv.org/abs/2210.03629 (2026年11月3日閲覧)
  10. NIST, 「AI Risk Management Framework」. https://www.nist.gov/itl/ai-risk-management-framework (2026年11月3日閲覧)