Bedarf an Fairness- und Verantwortlichkeitsdesign für algorithmische Unterstützung bei bedeutenden Entscheidungen im öffentlichen Sektor

Forderungen nach verstärkter Berücksichtigung von Fairness und Verantwortlichkeit in algorithmisch informierten öffentlichen Entscheidungen – wie Steuern, Justiz und Kinderschutz – sind mittlerweile alltäglich. Wie können Designer solche menschlichen Werte unterstützen? Wir führten Interviews mit 27 Machine-Learning-Fachleuten aus dem öffentlichen Sektor in 5 OECD-Ländern zu den Herausforderungen beim Verstehen und Einbringen öffentlicher Werte in ihre Arbeit durch. Die Ergebnisse deuten auf eine Diskrepanz zwischen organisatorischen und institutionellen Realitäten, Einschränkungen und Bedürfnissen sowie jenen hin, die in der aktuellen Forschung zu benutzbarem, transparentem und „diskriminierungsbewusstem“ Machine Learning adressiert werden – Abwesenheiten, die praktische Initiativen wahrscheinlich untergraben, wenn sie nicht behandelt werden. Wir sehen Designmöglichkeiten in dieser Diskrepanz, beispielsweise bei der Unterstützung der Verfolgung von Konzeptverschiebungen in sekundären Datenquellen und beim Aufbau benutzbarer Transparenzwerkzeuge zur Identifizierung von Risiken und Einbeziehung von Domänenwissen, die sowohl für Manager als auch für die „Street-Level-Bürokraten“ an der Front öffentlicher Dienstleistungen gedacht sind. Abschließend skizzieren wir ethische Herausforderungen und zukünftige Richtungen für die Zusammenarbeit in diesen risikoreichen Anwendungsbereichen.