요원들의 함대: 유전 입자 필터링을 이용한 대형 언어 모델과의 협력 문제 해결

대형 언어 모델(LLM)은 단순 출력 생성에서 복잡한 추론으로, 독립적 사용에서 더 넓은 프레임워크에 내장되는 방향으로 크게 발전해 왔습니다. 본 논문에서는 LLM을 에이전트로 활용하여 유전형 입자 필터링 방식을 적용한 동적 트리 탐색을 수행하는 새로운 프레임워크인 Fleet of Agents(FoA)를 소개합니다. FoA는 다수의 에이전트를 생성하여 각기 자율적으로 탐색을 진행한 후, 휴리스틱 가치 함수에 기반한 리샘플링을 통해 탐색과 활용 간 균형을 최적화하는 선택 단계를 거칩니다. 이 메커니즘은 탐색 전략을 발견된 해에 따라 동적으로 분기하도록 합니다. "Game of 24"와 "Mini-Crosswords"라는 두 가지 벤치마크 작업에서 FoA를 실험적으로 검증하였으며, FoA는 효율성과 효과성 측면에서 기존에 제안된 Tree-of-Thoughts 방법을 능가합니다. 즉, 가치 함수 호출 횟수를 줄여 계산 비용을 크게 낮추면서도 동등하거나 더 우수한 정확도를 유지합니다.