性能が上がるほど市場は危なくなる？——LLMエージェントが露呈した「能力のパラドックス」

はじめに

大規模言語モデル（LLM）は、いまや単なるチャットやコード生成の道具にとどまらず、金融市場での売買判断、コンテンツモデレーション、採用選考といった「高影響システム」の中核に組み込まれつつある。実際の取引や人事判断にそのまま影響する場面で、LLMエージェントを複数体・大規模に稼働させる動きは急速に広がっており、私たちはその恩恵と同時に、これまで経験したことのないリスクの構造に直面しつつある。

その際、多くの組織は暗黙のうちに「モデルの性能が上がれば、システム全体も良くなる」という前提に立っている。個々のベンチマークで高いスコアを出す最新モデルを採用すれば、結果もより正確で安全になる——そんな直感はもっともらしく見える。ところが、MIT Sloan の Andrew W. Lo ら5名による論文（arXiv:2609.04373、2026年9月）は、この直感が覆される可能性を、金融市場を舞台にしたエージェント・ベース・シミュレーションで実証した。その核心は、個々のモデルを改善することが、システム全体の成果をむしろ悪化させ得るという逆説にある。

高性能なモデルほど互いに「似た行動」を取りやすくなるため、独立に動かせば打ち消し合うはずの誤りが、集団として残り続ける。本記事ではこの現象を、以下の3点を通じて読み解く。①相関した行動が生み出す「非分散可能なリスク下限」の仕組み、②能力が高いほどLLMが似た挙動を示すという実験的な証拠、③エンジニアと経営層が実際に取るべき対策である。AIエージェントを本番投入する前に、ぜひ最後まで目を通してほしい。

背景：金融市場に進出するLLMエージェント

金融市場は、早くから機械が価格形成の主役に躍り出た領域のひとつだ。1980年代のプログラム売買にはじまり、2000年代にはマイクロ秒単位で注文を出す高頻度取引（HFT）が席巻した。そして2010年5月6日、米国株式市場は約1兆ドル（当時の時価総額）が数分で消える「フラッシュクラッシュ」を経験する。原因の一端は、同じ相場観を持つ類似アルゴリズムが同時に売りに走り、互いの注文を増幅し合ったことにあると分析されている。つまり「似たロジックが多数並ぶこと」の危険は、LLM登場よりずっと前から金融市場で実証されていたのだ。

なぜ金融市場が「LLMの集団リスク」検証に適しているのか

この論文の著者らは、LLMエージェントがもたらす集団リスクを調べるテストベッドとして金融市場を選んだ。その理由は次の3点に整理できる。

• ファンダメンタル（真理値）が存在する：企業価値や経済指標など、市場には理論上の「正しい価格」が外生的に定義でき、エージェントの追従精度を客観的に測れる。
• 成果が連続・計測可能：価格効率やボラティリティといった成果が数値として定量的に観測でき、「悪い集団行動」の帰結が明確に現れる。
• 失敗の影響が明白：誤った取引判断は損失や市場の不安定化という形で、誰の目にも見えるコストを生む。

シミュレーションの舞台装置

検証には、LLMトレーダー・ノイズトレーダー・マーケットメーカーの3種が参加する単一資産市場のシミュレーションが用いられた。ファンダメンタル値（正しい価格）は外生的に決まり、t=33 で 100→120、t=66 で 120→90 と2回の段差ショックが入る設計で、価格変動に対するエージェントの追従性能を測る。価格は注文フローで更新され、P_t = P_{t-1} + δ・net_t / N（net_t は当期の純注文、N は参加者数）という式で参照価格が逐次更新される。この流れを図にすると次のようになる。

sequenceDiagram
    participant LLM as LLMトレーダー
    participant NT as ノイズトレーダー
    participant MM as マーケットメーカー
    participant M as 市場（価格更新）
    Note over M: ファンダメンタル F<br/>t=33:100→120 / t=66:120→90
    LLM->>M: 注文 a_t（修正的 + 残差）
    NT->>M: ランダム注文
    MM->>M: 固定0.5%スプレッドの流動性提供
    M->>M: P_t = P_{t-1} + δ・net_t / N
    M-->>LLM: 参照価格 P_t を返す

この舞台装置によって、個々のLLMが市場でどのように価格発見に寄与するのか、そして増えるほどどのような集団挙動を示すのかを、統制された環境で精緻に観察できる。次のセクションでは、ここで見つかった「能力のパラドックス」の中核メカニズム——相関した行動が生む非分散可能なリスク下限——を掘り下げる。

研究のコア：相関した行動が生む「非分散可能なリスク下限」とは

「良いモデルなのに、システム全体の成果が悪化する」——この逆説を解く鍵は、個々のエージェントの行動を「分解」して眺めることにある。市場のLLMトレーダーの注文は、次の2成分に分けられる。

• 修正的成分（corrective component）：現在価格とファンダメンタル（真理値）の乖離ギャップへ価格を引き寄せる圧力。たとえば真理値が120ドルで現在価格が100ドルなら、20ドルのギャップが買いを誘発する。
• 非修正的残差（non-corrective residual）：ギャップでは説明できない、ナラティブ・保有制約・ヒューリスティクスなど、モデル固有の「ゆらぎ」。

決定的なのは、集団のときこの残差がどう足し合わされるかだ。

残差が独立なら「多様化」が効く

残差が互いに独立なら、あるエージェントの買い過ぎを別のエージェントの売り過ぎが打ち消し合い、集団の残差分散はエージェント数 N の増加とともに 1/N で減っていく。10体なら誤差は約1/10、100体なら1/100。「足せば足すほど安全になる」という直感どおりの世界だ。

残差が「正に相関」すると消えない下限が現れる

ところが残差が正の相関を持てば、状況は一変する。集団誤差の分散は次の2項に分解される。

Var(r̄_t) = (1 − ρ̄)・σ²/N  ＋  ρ̄・σ²

前半の (1 − ρ̄)・σ²/N は N とともにゼロへ向かう「消える項」。後半の ρ̄・σ² は N を増やしても消えない「残る項」で、ρ̄ は残差の平均ペア相関、σ² は残差分散だ。この第二項こそが論文のいう非分散可能なリスク下限（non-diversifiable risk floor）。N を無限大にしても、相関 ρ̄ が正の限り集団の誤差は一定水準から下がらない。「分散できない」とはまさにこの意味で、多数を集めてもリスクが消えない以上、足し合わせによる安全化は限界を迎える。

xychart-beta
    title "エージェント数 N と集団誤差分散"
    x-axis "エージェント数 N" [1, 2, 4, 8, 16, 32, 64, 128]
    y-axis "集団誤差分散"
    line [1.0, 0.5, 0.25, 0.125, 0.063, 0.031, 0.016, 0.008]
    line [0.80, 0.60, 0.50, 0.45, 0.42, 0.41, 0.40, 0.40]

上の図は概念図で、青い線（独立残差）は N とともに 1/N でゼロへ落ちる一方、オレンジの線（相関残差）は ρ̄・σ² の水準で頭打ちになる。本論文の実測では、この下限は ρ・σ² = 0.010 前後——単一モデルの残差分散 0.021 の約半分——で、「完璧なアンサンブル」でもそこから先へは下がらないことが確認されている。

個々のベンチマークでは検出できない

ここにこの問題が「見えにくい」理由がある。現行のモデル評価は1体ずつの性能を測るもので、ρ̄（相関）も σ²（残差分散）も測定しない。つまり単体性能がどれほど優れていても、それが他の高性能モデルとどれほど「同じ間違い方」をするかを示す指標は存在しない。個体評価では決して姿を現さないこのシステムリスクを解くには、次のセクションで見る「能力が高いほどモデルは互いに似通う」という証拠——能力のパラドックスの核心——へと踏み込む必要がある。

能力のパラドックス：優れたモデルほど「同じすぎる」

「能力の高いモデルほど、互いに似た行動をとる」——これが本論文の最も重要な発見だ。ここでいう「能力」は金融知識とは独立で、汎用推論力・知識量を測る MMLU-Pro と、LMSYS Chatbot Arena の ELO レートという2つの一般ベンチマークで定義される。つまり「頭の良さ」が上がるほど、エージェントたちは「同じ間違い方」をするようになる、というのだ。

実験 RQ1：能力と相関の関係をどう測ったか

検証は7つのLLMを対象に、ギャップ・モメンタム・ボラティリティ・アナリスト見解を変化させた64シナリオを提示する実験（RQ1）で行われた。各モデルの行動を価格の乖離（ギャップ）に対する回帰に当てはめ、回帰では説明できない「非修正的残差」を分離し、その残差のペア間相関を全21ペア（7モデルから2つを選ぶ組み合わせ）について算出した。その相関をペアの平均能力スコアへ回帰した結果が下表だ。

どちらの指標でも、ペアの平均能力が高いほど残差相関が高いという正の関係が統計的に有意に検出された。R² が0.475〜0.580 ということは、能力スコアの違いだけでペア相関の半分前後を説明できる、ということだ。能力が相関を決める主役だと言える。

「同じ会社かどうか」は関係ない

興味深いのは次の結果だ。同一プロバイダ（同じ開発元）かどうかを表すダミー変数は、どちらの回帰でも有意にならなかった（ELO回帰で p=0.39、MMLU-Pro回帰で p=0.28）。つまり、異なる会社の高性能モデル同士のほうが、同じ会社の低性能モデル同士より強く相関する、という逆説的な状況が起きている。「プロバイダを分散して複数社のモデルを混ぜれば安全」という直感は、このデータの前では成立しない。調達の多様化では、能力とともに増える相関を取り除けない。

実測されたリスク下限

この相関は、前セクションで見た「非分散可能なリスク下限」として実際に観測された。完璧なアンサンブルを組んでも、集団の残差分散は ρ・σ² = 0.010 が下限——単一モデルの残差分散 0.021 のおよそ半分の水準で頭打ちになる。残差が独立だと仮定した理想的なベンチマーク（エージェント数 N とともに 1/N でゼロへ向かう）とは明確に乖離しており、N をどれだけ増やしてもこの下限は消えない。

なぜ能力が高いほど「同じ」になるのか

メカニズムの最有力仮説は、モデルの学習プロセスにある。高性能モデルは似た巨大なコーパスで事前学習され、RLHF（人間のフィードバックからの強化学習）や指示チューニングによって「望ましい応答」へと収束する。その結果、表現や推論の傾向が共通の「応答面」へ集まっていく——いわゆるプラトン的表現仮説（スケーリングとともにモデルの内部表現が普遍的な構造へ収束するという説）である。もっとも、近年は内部表現の収束を疑問視する研究も報告されており、このメカニズムはまだ競合する仮説が併存する未解決領域だ。それでも、能力スコアと残差相関の間に見られた明確な正の関係は、モデル選択の現場で無視できない実測の事実として重く受け止めるべきだろう。

実験：市場シミュレーションが示した2つの顔

発見1（RQ2）：正しい情報を共有する限り、エージェントは増えるほど市場を安定させる

能力と相関の関係（RQ1）を踏まえ、論文の著者らはLLMトレーダーを実際に市場へ投入する実験（RQ2）を行った。舞台は前セクションと同じ単一資産市場で、ファンダメンタル値は t=33 で 100→120、t=66 で 120→90 と2回の段差ショックが入る設計だ。ここでLLMの参加率 s を0（全員ノイズトレーダー）から1（全員LLM）へ段階的に上げていくと、追跡誤差（|p_t − F_t|）——市場価格とファンダメンタル値の絶対乖離のこと——は3モデルすべてで単調に減少した。正しい情報を共有している限り、LLMは価格を真理値へ引き寄せる有効な裁定者（アービトラージャー）として機能し、「エージェントが増えれば増えるほど市場は安定する」という素直な結果になるのである。

では、3モデルの間で安定化の程度に差が出るのはなぜか。モデル間の到達精度の差は、ギャップ感応度 λ という1つの行動パラメータでほぼ説明できる。λ は価格と真理値の乖離（ギャップ）1単位あたりにどれだけ強気の注文を出すかを表す値で、λ = Cov(a_t, G_{t−1}) / Var(G_{t−1}) と定義される。値が大きいほどギャップに敏感に反応し、価格を素早く真理値へ引き寄せる。

λ が大きいほど追跡誤差が小さく、攻めのモデルほど市場を効率的に真理値へ導く。ただし、この優位はエージェントが共有する情報が正確であることを前提にしている。次の実験は、その前提が崩れたときに何が起きるかを示す。

発見2（RQ3）：共通の誤情報環境では「同じ」ことが致命的な負債に転じる

今度は同じ市場に、毎ラウンド全エージェントへ「表示された公正価値シグナルは実体値を25–30%過大評価している」と主張する敵対的コメント8本を注入する（RQ3）。結果は一変する。追跡誤差はLLM参加率とともに急上昇し、完全参加時にはノイズトレーダーだけのベースラインの5〜7倍に達した。RQ2で確認した「増えるほど安定」という利益はほぼ完全に反転し、市場のボラティリティも同時に増加したのである。

xychart-beta
    title "LLM参加率と追跡誤差：中立 vs 敵対コメント（概念図）"
    x-axis "LLM参加率 s" [0, 0.25, 0.5, 0.75, 1.0]
    y-axis "追跡誤差 |p_t − F_t|"
    line [2.0, 1.75, 1.55, 1.40, 1.30]
    line [2.0, 3.20, 5.00, 7.50, 12.0]

上の概念図が示すとおり、中立コメント（青）では参加率とともに誤差が下がる一方、敵対コメント（オレンジ）では参加率に比例して誤差が膨らむ。より深刻なのは方向精度の崩壊だ。価格が上か下かを正しく判断できた割合は、中立環境では3モデルすべて100%だったのに対し、敵対環境では Gemini 68%・Haiku 54%・Sonnet 42% へと落ち込んだ。特に、RQ2で最も慎重だった Sonnet がチャンス水準（50%）を下回った点は注目に値する。誤情報に誘導された Sonnet は、正しい方向と逆向きに注文する「逆張り」のエージェントと化したのである。

この崩壊がRQ1で見た「相関」と決定的に異なるのは、エラーの質だ。情報環境を全エージェントが共有しているため、敵対的コメントが誘発する推論エラーは完全に相関し、エージェントを増やしても一切多様化されない。独立なノイズは足せば平均化されるが、「相関した推論エラー」は足すほど市場全体に同じ誤りを注入する。多様化による安全化が構造的に通用しない——誤情報環境下のリスクが本質的に深刻なのは、まさにこのためである。

実務への示唆：エンジニアと経営層にできること

ここまでの結果を踏まえると、エンジニアにも経営層にも「モデルを増やす」「性能を上げる」というこれまでの方針をそのまま続けるのは危うい。ただし結論は「高性能モデルを使うな」ではない。問題はどの能力水準のモデルを、どんな情報環境で、何体動かすかという集団としての設計にある。実務で使える具体的な手立てを整理する。

「プロバイダを分散すれば安全」は幻想

まず真っ先に捨てるべき認識がこれだ。「複数社のモデルを混ぜればリスクが下がる」という調達上の直感は、本論文のデータでは支持されない。RQ1の回帰では同一プロバイダかどうかは残差相関の有意な予測因子ではなかった（p=0.39 / p=0.28）。むしろ異なる会社の高性能モデル同士の方が、同じ会社の低性能モデル同士より強く相関する。リスクを決めるのは「どのベンダーか」ではなく「能力がどれだけ高いか」と「どのデータ・情報を共有しているか」なのである。付録Bの残差分解 r = z^arch + z^port + ξ が示すように、他家を混ぜても集団共有成分 σp² が正である限りリスク下限は残る。調達の多様化は安心材料にならない。

個体評価から「集団レベルの相関監査」へ

ならば何を監視すればよいのか。単体の精度ベンチマークは、残差相関 ρ̄ も残差分散 σ² も測らない。そこで金融規制の「ストレステスト」と同じ発想で、**集団レベルの相関監査（population-level correlation audit）**を導入するのが第一歩だ。具体的には、デプロイするエージェント群に対し、各モデルの単体精度に加えて、(1) ペア間の残差相関 ρ̄ を複数シナリオ横断で定期測定し、(2) その相関が能力とともに上昇していないか、独立仮定（1/N）との乖離を追跡する、という2軸をKPIに加える。監査は導入時だけでなく、モデル更新やデータ更新のたびに再実行する。ρ̄ が閾値を超えたら、エージェント数を増やすのではなく、むしろ減らすか入力側を分離する判断を下す基準にできる。

誤情報・ナラティブへの耐性設計

実験RQ3が示したのは、「入力が共通なら誤りも共通になる」という原理的な危険だ。敵対環境では、情報を共有した全エージェントが同じ推論エラーに陥り、エージェントを増やしても多様化されなかった。実務では、プロンプト入力の多様化（各エージェントに異なる情報サブセットや異なる指示を与える）、情報ソースの分離（ニュース・SNSフィードなど共通経路を単一化しない）、そして外部検証ゲートの設置（重要な判断を別系統のモデルや人間が確認する）が対応になる。特に、同一のニュースフィードやプロンプトテンプレートを全エージェントが共有する構成は、性能と無関係にリスクを増幅する設計変数であることを認識すべきだ。

金融以外への示唆と、集合行為問題

この枠組みは金融市場に限らない。論文本体の補遺では、保険請求処理の医療現場——請求側と審査側のLLMが共通データで学習し相関する構図——が具体例として示され、コンテンツモデレーションや採用選考でも「全員が同じモデル＋同じ情報環境」が同じ構造の危険をはらむ。共通する論点は次の表の通りだ。

最後に、これらは一組織で完結しない集合行為問題でもある。個々の導入者には最強モデルを使う誘因が強く、全体最適の「多様性の確保」とはズレる。単独のデプロイヤーでは解決しきれないため、業界協調による共通評価基準、規制による相関監査の義務化、そして「どのデータで訓練したか」のモデル由来の開示（model provenance disclosure）の制度化が論点になる。自社のシステム設計を見直すと同時に、この業界レベルの調整に参画することが、長期的には最も効果的な対策である。

よくある質問

「プロバイダを分散して複数社のモデルを混ぜればリスクは下がるの？」

本論文の実験では、同一プロバイダかどうかは残差相関の有意な予測因子ではなかった（p=0.39 / p=0.28）。むしろ異なる会社の高性能モデル同士の方が、同じ会社の低性能モデル同士より強く相関する。リスクを決めるのは「どのベンダーか」ではなく「能力がどれだけ高いか」と「どの情報環境を共有しているか」なので、調達の分散だけではリスク下限（ρ̄·σ²）は消えない。

「結局、性能の高いモデルを使うな、ということ？」

そうではない。単体で見れば高性能モデルは市場の価格発見を改善する（RQ2：参加率を上げると追跡誤差は単調に減少）。問題なのは「高性能モデルだけで構成され、同じ情報環境を共有する」こと自体であり、性能を否定するのではなく、集団としての相関と情報環境の多様性を設計変数にせよ、というのが論文の主張である。

「この話は金融市場に限った話？」

枠組みは一般の動的システム向けに作られており、金融市場はその検証用テストベッドである。論文本体の補遺では保険請求の医療現場への応用（請求側・審査側のLLMが共通データで学習し相関する構図）が示され、コンテンツモデレーションや採用選考への含意も明記されている。「全員が同じモデル＋同じ情報」という構成なら、どの領域でも同じ構造のリスクが生じ得る。

「『相関した行動』はどうやって測定するの？」

各モデルの行動を価格ギャップ（ファンダメンタル値と現在価格の乖離）に対するOLS回帰に当てはめ、回帰で説明できない「非修正的残差」を分離する。その残差のペア間ピアソン相関を64シナリオ横断で計算し（7モデルで21ペア）、能力スコア（ELO・MMLU-Pro）との回帰で「能力が高いほど相関が高い」ことを統計的に検証する（RQ1の手法）。

「実際の市場でも同じことが起きるの？」

論文自身が限界として明記する通り、実験は単一資産・外生的ファンダメンタル・様式化された流動性を用いたシミュレーションであり、実市場への直接的な結論は引き出せない。実市場には相関資産や内生的流動性、戦略的適応などが存在するため、効果の「増幅か緩和か」は未解決の問題である。ただし2010年のフラッシュクラッシュが示すように、類似アルゴリズムの同期リスク自体は現実の市場で実証済みの現象である。

まとめ

本稿で見てきた「能力のパラドックス（capability paradox）」は、一見すると直感に反する。個々のLLMの性能を高めれば高めるほど、モデル同士は「同じすぎる」ようになり、システム全体としてはむしろ危険になり得る。能力が上がるほど非修正的行動のペア相関は強まり（ELO回帰 t=3.94、MMLU-Pro回帰 t=4.88、いずれも有意）、完璧なアンサンブルでも分散は ρ·σ²=0.010 を下回らない。この「非分散可能なリスク下限」は、エージェント数を増やしても決して消えない。

重要なのは、この相関の意味が文脈によって正反対に転じる点だ。共有する推論が正確なら、エージェントが増えるほど市場の追跡誤差は単調に減り、価格発見は改善される。ところが共通の誤情報環境では、同じ相関が「致命的な負債」に化け、追跡誤差はノイズトレーダーだけのベースラインの5〜7倍に膨らむ。問題はモデルそのものではなく、「どの能力水準のモデルを」「どんな情報環境で」「何体」動かすかという集団としての設計にある。

この結果が示すのは、評価パラダイムの転換の必要性だ。単体のベンチマーク偏重から、集団としての挙動——残差相関 ρ̄ の構造や共通情報環境への耐性——まで含めた評価へ、いわば金融規制と同じ発想で「集団レベルの相関監査（population-level correlation audit）」へ軸足を移す必要がある。あわせて、モデル集団の脱相関手法（行動多様性を報酬に含める訓練・入力摂動・モデル由来の開示制度化）や、個別導入者と全体最適のズレを解く調整メカニズムの研究が今後の課題だ。

自社システムを設計する読者にできることは、まず最強の単一モデルを「ただ1つの情報環境」で何体も動かす構成を見直すこと。次に、単体精度だけでなく集団の相関構造を監視する枠組みを導入すること。そして、プロバイダを分散するだけではリスク下限は消えない——「どのモデルか」ではなく「能力がどれだけ高いか」と「どの情報を共有しているか」こそがリスクを決める設計変数だ、という認識を持つこと。性能の追求と多様性の確保は、二者択一ではなく両立させるべき経営課題なのである。

参考資料

• 論文: Why Better Models Can Create Riskier Systems: Evidence from LLM Agents in Financial Markets — https://arxiv.org/abs/2609.04373
• 論文HTML全文（実験詳細・付録含む）: https://arxiv.org/html/2609.04373v1
• Kleinberg & Raghavan (2021) Algorithmic monoculture and social welfare — https://doi.org/10.1073/pnas.2018340118
• Goel et al. (2025) Great models think alike and this undermines AI oversight — https://arxiv.org/abs/2502.04313
• Kim et al. (2025) Correlated errors in large language models — https://arxiv.org/abs/2506.07962
• Huh et al. (2024) The platonic representation hypothesis — https://arxiv.org/abs/2405.07987
• Bommasani et al. (2021) On the opportunities and risks of foundation models — https://arxiv.org/abs/2108.07258
• Kaplan et al. (2020) Scaling laws for neural language models — https://arxiv.org/abs/2001.08361
• ESRB (2025) Artificial Intelligence and Systemic Risk — https://www.esrb.europa.eu/pub/pdf/asc/esrb.ascreport202512_AIandsystemicrisk.en.pdf

関連記事

• 「校正済みで知るには十分、行動には不十分」──捏造された証拠がLLMエージェントを知り得ない未来に賭けさせる