Conception automatisée des systèmes agents

Les chercheurs consacrent des efforts importants au développement d'agents puissants à usage général, où les modèles fondamentaux sont utilisés comme modules au sein des systèmes agents (par exemple Chain-of-Thought, Self-Reflection, Toolformer). Cependant, l'histoire de l'apprentissage automatique nous montre que les solutions conçues manuellement sont finalement remplacées par des solutions apprises. Nous formulons un nouveau domaine de recherche, la Conception Automatisée des Systèmes Agents (ADAS), qui vise à créer automatiquement des conceptions puissantes de systèmes agents, incluant l'invention de nouveaux éléments de base et/ou leur combinaison de nouvelles manières. Nous démontrons en outre qu'il existe une approche prometteuse encore inexplorée au sein d'ADAS où les agents peuvent être définis par code et de nouveaux agents peuvent être automatiquement découverts par un méta-agent programmant sans cesse de meilleurs agents en code. Étant donné que les langages de programmation sont Turing complets, cette approche permet théoriquement l'apprentissage de tout système agent possible : y compris de nouveaux prompts, l'utilisation d'outils, des flux de contrôle et leurs combinaisons. Nous présentons un algorithme simple mais efficace nommé Meta Agent Search pour démontrer cette idée, où un méta-agent programme itérativement de nouveaux agents intéressants basés sur une archive en constante croissance de découvertes précédentes. À travers des expériences étendues dans plusieurs domaines incluant le codage, la science et les mathématiques, nous montrons que notre algorithme peut inventer progressivement des agents avec des conceptions novatrices qui surpassent largement les agents conçus manuellement à la pointe de la technologie. Il est important de noter que nous observons systématiquement que les agents inventés par Meta Agent Search maintiennent une performance supérieure même lorsqu'ils sont transférés entre différents domaines et modèles, démontrant ainsi leur robustesse et leur généralité. À condition de le développer de manière sûre, notre travail illustre le potentiel d'une nouvelle direction de recherche passionnante visant à concevoir automatiquement des systèmes agents toujours plus puissants pour le bénéfice de l'humanité.