Flotte von Agenten: Koordiniertes Problemlösen mit großen Sprachmodellen unter Verwendung genetischer Partikelfilterung

Große Sprachmodelle (LLMs) haben sich erheblich weiterentwickelt, von einfacher Ausgabegenerierung zu komplexem Denken und von Einzelverwendung hin zur Einbettung in umfassendere Frameworks. In diesem Papier stellen wir Fleet of Agents (FoA) vor, ein neuartiges Framework, das LLMs als Agenten nutzt, um dynamische Baumsuchen zu navigieren, wobei ein genetischer Partikelfilterungsansatz verwendet wird. FoA erzeugt eine Vielzahl von Agenten, die jeweils autonom erkunden, gefolgt von einer Auswahlphase, in der eine Neubewertung basierend auf einer heuristischen Wertfunktion das Gleichgewicht zwischen Exploration und Exploitation optimiert. Dieser Mechanismus ermöglicht dynamische Verzweigungen und passt die Erkundungsstrategie basierend auf gefundenen Lösungen an. Wir validieren FoA experimentell anhand von zwei Benchmark-Aufgaben, "Game of 24" und "Mini-Crosswords". FoA übertrifft die zuvor vorgeschlagene Tree-of-Thoughts-Methode hinsichtlich Effektivität und Effizienz: Es senkt die Rechenkosten signifikant (durch selteneren Aufruf der Wertfunktion), während die Genauigkeit vergleichbar oder sogar überlegen bleibt.