マルコフ連鎖に基づくマルチエージェント議論フレームワークによるLLMの幻覚検出に向けて

大規模言語モデル（LLM）の登場は自然言語テキスト生成の発展を促進しましたが、内容の幻覚生成という重大な課題も生み出しました。既存の解決策は多くの場合、訓練プロセス中に高コストで複雑な介入を伴います。さらに、一部の手法は問題の分解に重点を置く一方で、検証プロセスの重要性を軽視しており、それが性能低下や応用範囲の制限を招いています。これらの限界を克服するために、我々は簡潔な主張における幻覚検出の精度を高めるため、マルコフ連鎖に基づくマルチエージェント議論検証フレームワークを提案します。本手法は、主張検出、証拠検索、マルチエージェント検証を含む事実確認プロセスを統合しています。検証段階では、柔軟なマルコフ連鎖に基づく議論を通じて複数のエージェントを配置し、個別の主張を検証し、綿密な検証結果を確保します。三つの生成タスクにおける実験結果は、本手法がベースラインを大幅に上回る改善を達成していることを示しています。