Nutzung von Erklärungen im interaktiven maschinellen Lernen: Ein Überblick

Erklärungen haben in den KI- und Maschinellen Lern- (ML) Gemeinschaften zunehmend an Interesse gewonnen, um die Modelltransparenz zu verbessern und es den Nutzern zu ermöglichen, ein mentales Modell eines trainierten ML-Modells zu entwickeln. Allerdings können Erklärungen über diese einseitige Kommunikation hinausgehen und als Mechanismus zur Einholung von Nutzerkontrolle dienen, denn sobald Nutzer verstehen, können sie Feedback geben. Ziel dieses Papiers ist es, einen Überblick über die Forschung zu geben, bei der Erklärungen mit interaktiven Funktionen kombiniert werden, um neue Modelle von Grund auf zu lernen sowie bestehende Modelle zu bearbeiten und zu debuggen. Zu diesem Zweck zeichnen wir eine konzeptuelle Karte des Standes der Technik, gruppieren relevante Ansätze basierend auf ihrem vorgesehenen Zweck und wie sie die Interaktion strukturieren, und heben Ähnlichkeiten und Unterschiede hervor. Wir diskutieren auch offene Forschungsfragen und skizzieren mögliche zukünftige Richtungen, in der Hoffnung, weitere Forschung zu diesem boomenden Thema anzuregen.