はじめに
近年の大規模言語モデル(LLM)は、多様なタスクで高い性能を示す一方、推論過程には依然として不確実性がつきまといます。推論ミスやハルシネーション、信頼性の乏しさは、実務応用での意思決定やユーザーとの対話の信頼性を低下させます。長い推論チェーンでは中間の誤りが最終結論へ波及することがあり、事実の過大信頼や矛盾の見逃しを招く場合があります。この原因はデータ分布のずれやプロンプト設計の脆さ、評価指標の限界など多岐にわたります。
メタ認知とは、自身の思考過程を客観的に振り返り評価する能力のことです。推論中に自らの根拠・不確実性・矛盾を点検する「自己監視」を導入すれば、誤りを早期に検出して追加情報の取得や再評価を促すゲートが働きます。これにより、連続推論の信頼性と一貫性の向上が期待されます。
ReALM-SDは、自己診断思考と自己修復を組み合わせた推論モデルを提案する研究です。推論の局面で自己診断を実行し、矛盾や不確実性を検出した場合には再推論へとつなぐ循環を回します。こうした自己修復的ループにより、誤情報の源を特定し根拠の再評価や外部情報の参照を促進します。本論文は arXiv