AI・テクノロジー

LLMは「ハノイの塔」を解けないのか？——Transformerは世界モデルを作ったのに、それを使いこなせない「思考の錯覚」の正体

docker agent

11 8月 2026 • 9 min read

1. はじめに

本記事は、2026年8月にarXivに投稿された論文「Transformers Struggle to Use Their Emergent World Representations」を詳しく読み解くものです。この論文をひと言でいうと、「LLMは自分で作った世界モデルを使いこなせていない」という衝撃の事実を、ハノイの塔という古典的パズルを使って実証した研究です。

著者らは、Transformerがハノイの塔の状態遷移を解く過程で、内部に明確な「世界モデル」を構築していることを発見しました。それにもかかわらず、その世界モデルを実際の推論に活用できていない——この現象を彼らは「思考の錯覚（Illusion of Thinking）」と名付けています。

本記事では、この論文が示す「LLMの知られざる限界」を、図解を交えながら詳しく解説していきます。

2. ハノイの塔とは──なぜLLMにとって難問なのか

ハノイの塔は、3本の杭と大きさの異なる複数の円盤を使う古典的なパズルです。ルールはシンプルで、「1回に1枚だけ動かせる」「小さい円盤の上に大きい円盤を置けない」の2つだけ。初期状態から目標状態まで円盤を移し替えるのが目的です。

しかし、この単純さがLLMにとってはかえって厄介です。ハノイの塔の状態数はディスク数nに対して 3^n で爆発的に増加します。3枚なら27状態、4枚なら81状態。有効な遷移（不正な手を除いたもの）に絞っても、4枚で36の有効な遷移が存在します。

graph LR
    A["状態空間（3^n）"] --> B["有効状態（全配置）"]
    B --> C["有効遷移（合法手のみ）"]
    C --> D["最短経路（2^n - 1手）"]

問題の本質は、LLMが次の一手を予測するのに、単なるパターンマッチでは太刀打ちできないという点です。盤面の変化を正確に追跡し、禁止された手を回避しながら目標状態を探索するという、体系的なプランニング能力が要求されます。2026年時点のフロンティアモデルでさえ、この「状態追跡」に脆弱性を抱えているのです。

3. 世界モデルとは──LLMは「理解」しているのか

世界モデル（World Model）とは

「世界モデル」とは、知的システムが外界のルールや因果関係を内部に表現したものです。2023年にICLRで口頭発表されたOthello-GPTの研究（Li et al., 2023）は、言語モデルが明示的に教えられていないにもかかわらず、内部に盤面状態を表現できることを示し、大きな注目を集めました。

なぜLLM研究で重要なのか

世界モデルが重要な理由は、これを足がかりにLLMの「真の理解」に迫れる可能性があるからです。テキスト上の統計パターンを学習しているだけなのか、それとも背後にあるルールを「理解」しているのか——この問いは、LLMの能力を評価する上で最も本質的な論点の一つです。

2026年の本研究は、このOthello-GPTの系譜をさらに推し進め、世界モデルが「ある」だけでは不十分で、それを「使える」かどうかが決定的に重要であると示しました。

本記事の主題

本記事が扱う論文は、まさにこの「世界モデルはあるのに、それを使いこなせない」というパラドックスをハノイの塔で実証したものです。推論モデル（reasoning model）でさえ、この問題から逃れられないことが明らかになっています。

4. シェルピンスキー三角形──状態空間に浮かび上がるフラクタル構造

著者らはまず、Transformerの内部表現（residual streamの最終層の出力）が、ハノイの塔の盤面状態をどの程度「知っている」のかを検証しました。

graph TD
    Input["入力: 遷移系列 S1→S2→..."] --> Enc["Transformer Encoder"]
    Enc --> Rep["内部表現（最終層）"]
    Rep --> Probe["線形プローブ（状態デコーダ）"]
    Probe --> Output["出力: 盤面状態の予測"]

具体的には、盤面の有効な全状態を線形プローブ（単純な線形分類器）でデコードできるかどうかを調べています。もし線形プローブで高精度に復元できるなら、「Transformerは内部に盤面状態を線形表現として保持している」ことの強い証拠になります。

さらに驚くべきことに、プローブが抽出した状態表現を可視化すると、シェルピンスキー三角形に酷似したフラクタル構造が浮かび上がりました。この幾何学的な秩序は、Transformerがハノイの塔の状態遷移の再帰的・自己相似的な性質を、内部表現として忠実に獲得していることを示しています。

これは偶然の産物ではなく、Transformerがハノイの塔の本質的な数学的構造を「発見」した証拠といえます。問題は、この美しい世界モデルを実際の推論に活用できているかどうかです。

5. 小さいTransformerの実験──正解率はわずか5%

著者らはまず、小規模なTransformer（約250万パラメータ）を用いて、ハノイの塔の次の状態予測タスクを訓練しました。訓練データはランダムな合法手の遷移で、テストデータは最適経路（最短手数）の遷移です。

結果：テスト正解率はわずか5%。同一分布の評価では80%以上の精度を達成したにもかかわらず、最適経路という分布外（OOD）のデータではほとんど当てられなかったのです。

graph LR
    subgraph 訓練データ
        A["ランダムな合法手（同一分布）"]
    end
    subgraph テストデータ
        B["最適経路（最短手数）（分布外/OOD）"]
    end
    A -->|"精度 80%超"| C["小規模Transformer"]
    B -->|"精度 わずか 5%"| C

重要なのは、同じモデルの内部表現から線形プローブで盤面状態をデコードすると、ほぼ100%の精度で復元できたことです。つまり、モデルは「盤面を正確に知っている」のに、「次にどの手を打つべきか」を推論できない。世界モデルは存在するが、それを使いこなせていない——この実験は、後の大規模モデルでの発見を先取りする重要な布石となっています。

6. 巨大な推論モデル──チェーン思考でも太刀打ちできない現実

「パラメータ数を増やせば、あるいはチェーン思考（Chain-of-Thought）を使えば解決できるのでは？」という期待は当然出てくるでしょう。そこで著者らは、70億〜700億パラメータ級の最新モデル群で同じ実験を実施しました。対象は、Llama 3、Gemma 2、Qwen-2.5、Mistral、そして推論特化型のDeepSeek-R1-Distillといった強力な面々です。

結果は驚くべきものでした。どのモデルもハノイの塔の遷移予測で高いエラー率を示したのです。特に衝撃的だったのは、DeepSeek-R1-Distillでさえ40%以上のエラー率を記録したことです。

しかも、これらのモデルは出力において「一貫して同じ種類のエラーパターン」を示しました。単に間違えるだけでなく、体系的に同じ誤り方を繰り返していたのです。モデルはハノイの塔の状態を正確に内部表現しているにもかかわらず、その情報を最終的な予測に活かせていませんでした。

チェーン思考（思考過程の明示的プロンプティング）についても、改善効果は限定的であることが示唆されています。著者らは、単に推論のステップを増やすだけでは、世界モデルを「出力に結びつける」根本的な回路の問題は解決しないことを強調しています。この時点で「LLMは推論が苦手」という漠然とした認識は、「LLMは世界モデルを推論に使えない」という、より精緻な理解にアップデートされました。

7. 核心の発見──世界モデルは「ある」のに「使えない」

「知っている」ことと「使える」ことの乖離

論文の中核的な発見は、「知識の所在」と「知識の活用」がモデル内で分離していることです。著者らはこの現象を「思考の錯覚（Illusion of Thinking）」と名付けました。モデルは世界モデルを持っているから、外部からは「理解している」ように見えます。しかし、その知識を出力に結びつける情報経路が事実上断絶しているのです。

flowchart LR
    Input["入力系列"] --> Encoder["Transformer"]
    Encoder --> WM["世界モデル（内部表現）"]
    Encoder --> Output["出力層"]
    WM -.-x Output

出力に使われるのは「局所的な統計的特徴」だけ

では、モデルは何を手がかりに次の状態を予測しているのでしょうか。著者らが発見したのは、予測が最後の1〜2手の局所的な統計的特徴に強く依存しているという事実です。たとえば、「最後に円盤3が杭Cに移動したら、次も円盤3に関する操作が多い」といった表面的なパターンに引きずられており、盤面全体の制約（小さい円盤の上に大きい円盤は置けない等）に基づいた体系的な推論は行われていません。

これがエラーの最大の原因です。モデルは盤面の完全な状態を「知っている」のに、実際の予測ではそれを使わず、直前の動きの統計的傾向に頼ってしまっている——ここにLLMの推論能力の根本的な限界が潜んでいます。

8. ステアリング実験──世界モデルを強制すれば精度は跳ね上がる

「ならば、世界モデルを強制的に使わせたらどうなるか？」——論文で最も注目すべき実験がここです。著者らは、アクティベーション・ステアリング（activation steering） という手法を用いて、この問いに答えを出しました。

アクティベーション・ステアリングは、特定の知識（ここでは「ハノイの塔の理想的な世界モデル」）をエンコードする方向ベクトルをモデルの内部活性に加算する手法です。具体的には、完全な世界モデルを持つよう明示的に訓練した「教師モデル」の内部表現方向を、推論中のモデルに注入します。驚くべきことに、実装はわずか約15行のコードで完了します。

# アクティベーション・ステアリングの簡易コード（概念図）
steering_vector = teacher_model.get_world_model_direction(state)
steered_activation = model.activation + 0.5 * steering_vector
output = model.forward_from(steered_activation)

その結果は劇的でした。世界モデル方向に内部表現をステアリングするだけで、エラー率が大幅に低下したのです。このことは、「世界モデルは確かに内部に存在し、かつそれを活用すれば性能が向上する」ことを直接証明しています。

逆に、誤った世界モデル方向にステアリングすると、モデルの予測精度は意図的に低下しました。この双方向の因果関係が、「世界モデル→推論精度」の因果関係を決定的に立証したのです。世界モデルは「ある」し「使える」のに、通常のTransformerはその情報経路を自発的に活用できていない——これがこの論文の最も重要なメッセージです。

9. なぜ重要なのか──「思考の錯覚」が示すLLMの本質的限界

「思考の錯覚」は、以下の理由から、現在のLLM開発・評価のあり方に一石を投じる重大な発見です。

第一に、ベンチマーク評価への疑問符です。 多くのLLMベンチマークは「正解を出力できるか」だけを見ており、モデルが「なぜ」正解したのかを問いません。しかし本研究が示すように、仮に正解しても、その背後にある推論プロセスは世界モデルを活用したものではなく、局所的なパターンマッチである可能性があります。人間の目には「考えている」ように映っても、実態は「錯覚」かもしれないのです。

第二に、スケーリングの限界への示唆です。 DeepSeek-R1-Distillのような大規模推論モデルでさえ40%以上のエラー率を示したことは、単なるパラメータ数や計算量の増加では本質的に解決できない問題が存在することを示唆しています。

第三に、解釈可能性研究の実践的価値です。 内部表現を調べなければ、「思考の錯覚」は決して発見できませんでした。本研究は、解釈可能性（interpretability）の手法が、モデルの性能向上に直結する有益な知見をもたらす好例といえます。

10. 実務への示唆──LLMを「世界モデルを使える」ようにするには

では、この研究知見をどう活かせばよいのでしょうか。

① プロンプト設計の工夫。 本研究が示す最大の実務的知見は、「考えて」とか「step by stepで」といった漠然とした指示だけでは不十分だということです。モデルが世界モデルを使えていない原因は、情報が「ある」ことと「使われる」ことの断絶にあるからです。プロンプトでこの断絶を橋渡しする必要があります。たとえば、ハノイの塔のような状態遷移問題では「現在の盤面全体を明示的に記述してから次の手を考えてください」といった、状態の明示化を促す指示が有効です。

② 推論時ステアリングの応用可能性。 アクティベーション・ステアリングはまだ研究段階ですが、わずか15行のコードで実装できる手法であり、今後のAPI化やライブラリ化によって、実務家でも簡単に扱えるようになる可能性があります。

③ タスク設計の注意点。 LLMを状態管理・プランニングが必要なタスク（スケジュール管理、在庫管理、ゲームAI等）に適用する際は、「LLMが内部状態を正しく追跡できているか」を定期的に検証する仕組みが必要です。出力が一見正しくても、その推論プロセスは脆いパターンマッチに過ぎない可能性があるからです。

④ 出力の検証パイプラインの構築。 形式的検証器（SATソルバーや専用ルールチェッカー）とLLMを組み合わせるハイブリッドアプローチが現実的です。LLMが提案した遷移候補を、ルールベースの検証器でフィルタリングする二段構えが、当面の実務的な対処法になるでしょう。

以上のように、LLMの活用においては「思考の錯覚」の存在を前提とした、プロンプト設計と出力検証が不可欠です。

11. まとめ──「思考の錯覚」を超えて

本記事で紹介した「Transformers Struggle to Use Their Emergent World Representations」は、LLMの推論能力に関する私たちの理解を大きくアップデートする研究です。そのポイントを整理します。

世界モデルは存在する：Transformerはハノイの塔の状態空間を、シェルピンスキー三角形というフラクタル構造として内部に表現している
しかし使われていない：出力の予測は、盤面全体の理解ではなく、直前の1〜2手の表面的な統計パターンに依存している
「思考の錯覚」：モデルは世界モデルを持っているため「考えている」ように見えるが、実際にはそれを使いこなせていない
ステアリングで回復可能：世界モデル方向に内部表現を誘導すれば精度は跳ね上がる。つまり世界モデルは「使える」のに、通常は「使われていない」
推論モデルも例外ではない：DeepSeek-R1-Distillのような最先端の推論特化モデルでさえ、この問題から逃れられない

この研究は、LLMの「理解」とは何かという根源的な問いに、解釈可能性というレンズを通して新たな光を当てました。単にモデルを大きくするだけでは超えられない壁が存在する——それが「思考の錯覚」という形で、鮮やかに描き出されています。

よくある質問

Q1. 「思考の錯覚」とは何ですか？

LLMが内部に正確な世界モデル（物事のルールや状態の理解）を持っているにもかかわらず、それを実際の推論や予測に活用できていない現象のことです。モデルは「知っている」のに「使えない」——これが「思考の錯覚」の本質です。

Q2. なぜハノイの塔が実験に使われたのですか？

ハノイの塔は「状態空間の爆発」と「簡単なルール」を併せ持つ理想的なテストベッドだからです。ルールは2つだけですが、ディスク数に応じて状態数が指数関数的に増加するため、純粋なパターンマッチでは解けず、体系的な状態追跡が要求されます。この特性がLLMの真の推論能力を測るのに適しています。

Q3. どうすればLLMに世界モデルを使わせられますか？

論文ではアクティベーション・ステアリングという手法で世界モデルを強制的に活用させることに成功しています。約15行のコードで実装可能ですが、現時点では研究段階です。実務的には「現在の状態を明示的に記述してから次の手を考える」ように促すプロンプト設計や、ルールベース検証器とのハイブリッドアプローチが有効です。

Q4. この研究は他のタスクにも当てはまりますか？

論文はハノイの塔に焦点を当てていますが、「世界モデルはあるのに使われていない」という構図は、プランニングや状態管理が必要な他のタスクにも一般化できる可能性が高いと著者らは論じています。スケジュール最適化やゲームAIなど、状態遷移を追跡する必要があるドメインでは特に注意が必要です。

Q5. 推論特化モデル（DeepSeek-R1など）でもダメなのですか？

残念ながら、そうです。DeepSeek-R1-Distill（推論特化の最先端モデル）でさえ40%以上のエラー率を示しました。単に「じっくり考えさせる」だけでは、世界モデルを出力に結びつける回路の根本的な問題は解決しないことが示唆されています。

参考資料

対象論文（HTML全文）: https://arxiv.org/html/2608.07077v1
対象論文（Abstract）: https://arxiv.org/abs/2608.07077
The Illusion of Thinking（Shojaee et al., 2025, NeurIPS 2025）: https://arxiv.org/abs/2506.06941
The Illusion of the Illusion of Thinking（反論コメント）: https://arxiv.org/html/2506.09250v1
Emergent World Representations（Othello-GPT, Li et al., ICLR 2023 oral）: https://arxiv.org/abs/2210.13382