Grounding

A collection of 2 posts
科学・研究

Enhancing Small Language Models Reasoning through Knowledge Graph Grounding

はじめに 知識グラフ groundingとは、外部知識グラフの情報を根拠として小規模言語モデルの推論を支援する手法である。モデルが内部に保持する知識だけでは検証が難しい事実や結論の整合性を、グラフ上の関係性とエビデンスとして参照可能にする点が特徴だ。例えば、エンティティ同士の結びつき、階層構造、時系列的な関係性を推論過程に組み込むことで、出力の信頼性と解釈性を高め、根拠を可視化しやすくする。 本論文の目的は、小規模LMの推論信頼性と解釈性を高めるための、知識グラフ grounding 推論の設計と評価を示すことである。提案手法の全体像、実験設計、実務的応用、関連研究との位置づけを整理し、現場での活用に向けた指針を提示する。 本稿では、以下の三点を軸に展開する。第一に、外部グラフから関連ノードを検索・抽出し、LMに根拠を提供して推論を導くアーキテクチャの要点。第二に、推論の正確性と根拠の整合性を評価する実験設計と評価指標。第三に、実務での適用に向けたデータ連携や運用上の留意点を整理する。 背景と課題 小規模言語モデルは、データ量や計算資源の制約のため、推論の正確さ・一貫性・解
9 min read
AI・テクノロジー

Interventional Grounding Audits: Black-Box Premise-Dependency Tests for LLM Chain-of-Thought via Predicate Substitution

はじめに Chain-of-Thought(CoT)推論は、問題を解く際に辿る思考の連鎖として現れる。近年の評価は主に最終解や自己一貫性の一貫度に焦点を当てることが多いが、推論の各段階で前提がどの程度影響しているかを直接測ることは難しい。そこで用いられるのが介入的 grounding audits である。介入とは、推論の特定の前提に用いられる述語を新規のシンボルへ置換し、再度推論を実行する操作を指す。前提の表現を変えると分岐の結果がどう変わるかを比較することで、各ステップでの前提依存性を定量的に捉えられる。これにより、表面的な正解と推論過程の乖離を検出する手掛かりが得られる。 本手法の意義は、自己一貫性ベースの評価だけでは見落としがちな推論過程の依存性を浮き彫りにする点にある。CoT推論は前提の真偽・構造に左右されやすく、同じ結論へ至る経路が複数存在しても、ある前提の操作で分岐が生じると結論が揺らぐ場合がある。前提依存性を分解して観察することで、モデルの推論過程の信頼性をより正確に評価できる。さらに、ブラックボックス的な外部観察の枠組みで評価を完結させる点も特徴の一つであり、公開
9 min read