自然言語推論を説明可能かつ忠実にする

ニューラルモデル、大規模言語モデル（LLMs）を含むは、質問応答などの論理推論タスクで優れた性能を発揮します。LLMから推論能力を引き出すために、最近の研究ではチェイン・オブ・ソート（CoT）メカニズムを用いて推論の連鎖と答えの両方を生成し、モデルの推論能力を強化しています。しかし、LLMの非解釈性と自由形式の説明の極端な柔軟性により、不正確な推論、幻覚、そして人間の好みとの不一致といった複数の課題が残っています。本講演では、(1) 説明可能な複雑な質問応答と推論のために文脈に基づく構造化情報を活用する設計、(2) 逐次的なフィードバックを伴う段階的忠実推論を実施する誘導推論のための多モジュール解釈可能フレームワークに焦点を当てます。