CulturePark: Förderung des interkulturellen Verständnisses in großen Sprachmodellen

Kulturelle Voreingenommenheit ist in vielen großen Sprachmodellen (LLMs) weit verbreitet, was hauptsächlich auf den Mangel an Daten zurückzuführen ist, die verschiedene Kulturen repräsentieren. Üblicherweise werden kulturelle Datensätze und Benchmarks entweder durch Extrahieren von Teilmengen bestehender Datensätze oder durch Aggregation von Plattformen wie Wikipedia und sozialen Medien erstellt. Diese Ansätze sind jedoch stark von realen Daten und menschlichen Annotationen abhängig, was sie kostspielig und schwer skalierbar macht. Inspiriert von kognitiven Theorien zur sozialen Kommunikation führt dieses Papier CulturePark ein, ein von LLM betriebenes Multi-Agenten-Kommunikationsrahmenwerk zur kulturellen Datensammlung. CulturePark simuliert interkulturelle menschliche Kommunikation mit LLM-basierten Agenten, die Rollen in verschiedenen Kulturen übernehmen. Es generiert hochwertige interkulturelle Dialoge, die menschliche Überzeugungen, Normen und Bräuche einfangen. Mithilfe von CulturePark haben wir 41.000 kulturelle Proben erstellt, um acht kulturspezifische LLMs feinzujustieren. Wir evaluierten diese Modelle anhand von drei nachgelagerten Aufgaben: Inhaltsmoderation, kulturelle Ausrichtung und kulturelle Bildung. Die Ergebnisse zeigen, dass unsere auf GPT-3.5 basierenden Modelle bei der Inhaltsmoderation entweder mit GPT-4 auf den Datensätzen mithalten oder diese übertreffen. Bezüglich der kulturellen Ausrichtung übertreffen unsere Modelle GPT-4 beim Hofstede VSM 13 Framework. Außerdem zeigen unsere Modelle bei der kulturellen Bildung menschlicher Teilnehmer sowohl hinsichtlich der Lerneffektivität als auch des Nutzererlebnisses bessere Ergebnisse als GPT-4. CulturePark stellt einen wichtigen Schritt zur Bekämpfung kultureller Voreingenommenheit und zur Förderung der Demokratisierung von KI dar und unterstreicht die entscheidende Rolle kulturell inklusiver Daten bei der Modellschulung.