Einfließen der Theory of Mind in sozial intelligente LLM-Agenten

Die Theory of Mind (ToM) – das Verständnis der mentalen Zustände anderer – ist ein Schlüsselmerkmal menschlicher sozialer Intelligenz, wird jedoch bei Chatbots und auf LLM basierenden sozialen Agenten üblicherweise nicht integriert. In dieser Arbeit zeigen wir, dass LLMs, die ToM explizit nutzen, im Dialog besser werden und Ziele effektiver erreichen. Nachdem wir gezeigt haben, dass allein das Auffordern von Modellen, mentale Zustände zwischen Dialogbeiträgen zu generieren, bereits deutliche Vorteile bringt, führen wir darüber hinaus ToMAgent (ToMA) ein, einen ToM-fokussierten Dialogagenten. ToMA wird so trainiert, dass ToM mit Dialogvorausschau gekoppelt wird, um mentale Zustände zu erzeugen, die maximal nützlich zur Erreichung von Dialogzielen sind. Experimente mit dem Sotopia interaktiven sozialen Evaluationsbenchmark belegen die Wirksamkeit unserer Methode gegenüber verschiedenen Baselines. Eine umfassende Analyse zeigt, dass ToMA strategischere, zielorientierte Denkweisen aufweist, die eine Anpassung über lange Zeiträume ermöglichen und dabei bessere Beziehungen zu den Partnern aufrechterhalten. Unsere Ergebnisse deuten auf einen Fortschritt bei der Integration von ToM zur Entwicklung sozial intelligenter LLM-Agenten hin.