Abbildung der Sozialwahltheorie auf RLHF

Neuere Arbeiten zu den Einschränkungen der Verwendung von Reinforcement Learning aus menschlichem Feedback (RLHF), um menschliche Präferenzen in das Modellverhalten einzubeziehen, beziehen sich oft auf die Sozialwahltheorie als Referenzpunkt. Die Analyse der Sozialwahltheorie von Entscheidungsmechanismen wie Wahlverfahren bietet eine technische Infrastruktur, die dabei helfen kann, menschliche Präferenzen bei Uneinigkeit zu aggregieren. Wir analysieren die Problemsituationen der Sozialwahl und von RLHF, identifizieren wesentliche Unterschiede zwischen ihnen und erörtern, wie diese Unterschiede die RLHF-Interpretation bekannter technischer Ergebnisse der Sozialwahl beeinflussen können.