リレーショナルデータベース拡張型大規模言語モデル

大規模言語モデル（LLM）は多くの自然言語処理（NLP）タスクで優れた性能を発揮します。しかし、LLMは新しい知識を学習や教師あり微調整プロセスを通じてのみ取り込むことができるため、トレーニングコーパスに含まれていない正確で最新かつプライベートな情報を要求されるアプリケーションには適していません。このような正確で最新かつプライベートな情報は通常リレーショナルデータベースに保管されています。したがって、LLMに外部メモリとしてリレーショナルデータベースを組み込むことは有望な解決策となります。これにより、データの適時性、正確性、一貫性を確保し、LLMの固有の能力を超える複雑な算術操作の実行を支援できます。しかし、LLMとリレーショナルデータベース間のギャップを埋めることは困難です。正しいデータベースを選択し正しいSQLクエリを発行するためにデータベースとそこに格納されたデータの認識が必要です。さらに、外部メモリは実際のアプリケーションのニーズを満たすためにLLMから独立している必要があります。本研究では、データベース選択メモリ、データ値メモリ、およびリレーショナルデータベースからなるLLM非依存の新しいメモリアーキテクチャを提案し、そこから情報を取得する洗練されたパイプラインを設計しました。また、フレームワークの潜在能力を最大化するためにLLMに指示を与えるプロンプトも慎重に設計しました。我々の手法を評価するために様々な種類の質問を含む新しいデータセットを作成し、実験結果は我々のフレームワークがLLMに対して直接の能力を超えたデータベース関連の質問に効果的に答えることを可能にすることを示しました。