Erweiterung der Erklärbarkeit: Auf dem Weg zu sozialer Transparenz in KI-Systemen

Da KI-gestützte Systeme zunehmend bedeutende Entscheidungsprozesse vermitteln, ist deren Erklärbarkeit entscheidend dafür, dass Endnutzer fundierte und verantwortungsbewusste Entscheidungen treffen können. Erklärungen in zwischenmenschlichen Interaktionen sind sozial eingebettet. KI-Systeme sind oft soziotechnisch eingebettet. Dennoch konzentrieren sich Ansätze der erklärbaren KI (XAI) überwiegend auf Algorithmen. Wir unternehmen einen Entwicklungsschritt hin zu sozial eingebetteter XAI, indem wir Soziale Transparenz (ST) einführen und untersuchen – eine soziotechnisch informierte Perspektive, die den sozio-organisatorischen Kontext in die Erklärung KI-vermittelter Entscheidungsprozesse einbezieht. Um ST konzeptionell zu erforschen, führten wir Interviews mit 29 KI-Nutzern und Praktikern durch, die in einem spekulativen Design-Szenario verankert sind. Wir schlugen konstitutive Gestaltungselemente von ST vor und entwickelten einen konzeptionellen Rahmen, um die Wirkungen und Implikationen von ST auf technischer, entscheidungsbezogener und organisatorischer Ebene zu erläutern. Der Rahmen zeigt, wie ST potenziell das Vertrauen in KI kalibrieren, Entscheidungen verbessern, kollektive organisatorische Maßnahmen fördern und eine ganzheitliche Erklärbarkeit kultivieren kann. Unsere Arbeit trägt zum Diskurs der menschenzentrierten XAI bei, indem sie den Gestaltungsraum von XAI erweitert.