ゲーム理論

A collection of 1 post
AI・テクノロジー

基盤モデルのためのゲーム理論:類似性推論が切り拓く合理的協調への新たな道

Abstract 基盤モデルは社会経済システムの自律エージェントを動かす核となるが、ここでは従来の「独立した意思決定」という前提を見直す。基盤モデルを周囲環境に埋め込まれたエージェントとして扱うと、自己の意思決定アルゴリズムの不確実性を前提に、他者との協調を検討する必要が生じる。この文脈で導入されるのが「埋め込み型エージェンシー」であり、自己の位置づけを世界の一部として捉える視点である。併せて、他者が自分と同じ方針で振る舞う可能性を推定する「類似性推定」が協調のカギとなる。こうして提案される新しい解概念が「埋め込み均衡」だ。エージェントが自分を環境の一部とみなす前提の下、相手の意図や行動を自分と類似と信じるほど、協力選択の安定性が高まる。この構図は、分散AIシステムの設計や安全性評価に資する。 1. 中核概念 埋め込みエージェンシー(embedded agency)は、エージェントが世界の一部として自己を位置づける考え方である。自己の意思決定アルゴリズムを完全には予測できない不確実性を前提とし、基盤モデルを核に動く自律エージェントは、環境データの変化や自己改変に応じて意思決定の
9 min read