思考のグラフ：大規模言語モデルによる複雑な問題の解決

私たちはGraph of Thoughts（GoT）を紹介します。これは、Chain-of-ThoughtやTree of Thoughts（ToT）などのパラダイムが提供するものを超えた、大規模言語モデル（LLM）のプロンプト能力を進化させるフレームワークです。GoTの主なアイデアと利点は、LLMによって生成された情報を任意のグラフとしてモデル化できることにあります。ここで、情報単位（「LLMの思考」）は頂点であり、エッジはこれらの頂点間の依存関係を表します。このアプローチにより、任意のLLMの思考を組み合わせて相乗効果を生み出したり、思考ネットワーク全体の本質を抽出したり、フィードバックループを用いて思考を強化したりすることが可能になります。GoTは様々なタスクにおいて最先端技術より優れていることを示しており、例えばToTと比べてソートの質を62%向上させる一方で、コストを31%以上削減しています。GoTは新たな思考変換にも拡張可能であり、新しいプロンプト方式の先導役として利用できます。本研究は、LLMの推論を人間の思考や再帰といった脳のメカニズムに近づけるものであり、これらはいずれも複雑なネットワークを形成します。