Verständnis der Wahrnehmungen und Bedürfnisse der Interessengruppen entlang der LLM-Lieferkette

Erklärbarkeit und Transparenz von KI-Systemen sind unbestreitbar wichtig, was zu mehreren Forschungsstudien und Werkzeugen geführt hat, die sich damit befassen. Bestehende Arbeiten berücksichtigen jedoch nicht ausreichend die vielfältigen Interessengruppen der KI-Lieferkette, die sich in ihren Bedürfnissen und der Berücksichtigung der Aspekte von Erklärbarkeit und Transparenz unterscheiden können. In diesem Artikel plädieren wir dafür, die Fragestellungen dieser wesentlichen Konstrukte im Kontext von LLMs neu zu überdenken. Zu diesem Zweck berichten wir über eine qualitative Studie mit 71 verschiedenen Interessengruppen, in der wir die vorherrschenden Wahrnehmungen und Bedürfnisse in Bezug auf diese Konzepte untersuchen. Diese Studie bestätigt nicht nur die Bedeutung der Erkundung des „Wer“ in XAI und Transparenz für LLMs, sondern reflektiert auch bewährte Praktiken, um dies zu tun, wobei oft vergessene Interessengruppen und ihre Informationsbedürfnisse hervorgehoben werden. Unsere Erkenntnisse legen nahe, dass Forschende und Praktiker gleichzeitig das „Wer“ in den Überlegungen zu Erklärbarkeit und Transparenz, das „Was“ bei den Informationsbedürfnissen und das „Warum“ für deren Notwendigkeit klären sollten, um ein verantwortungsbewusstes Design und eine verantwortungsvolle Entwicklung entlang der LLM-Lieferkette zu gewährleisten.