Ein einheitlicher Ansatz zur Interpretation von Modellvorhersagen

Zu verstehen, warum ein Modell eine bestimmte Vorhersage trifft, kann in vielen Anwendungen genauso entscheidend sein wie die Genauigkeit der Vorhersage. Die höchste Genauigkeit für große moderne Datensätze wird jedoch oft von komplexen Modellen erreicht, die selbst Experten schwer interpretieren können, wie Ensemble- oder Deep-Learning-Modelle, wodurch ein Spannungsfeld zwischen Genauigkeit und Interpretierbarkeit entsteht. Als Antwort wurden kürzlich verschiedene Methoden vorgeschlagen, um Nutzern bei der Interpretation der Vorhersagen komplexer Modelle zu helfen, doch ist oft unklar, wie diese Methoden miteinander in Beziehung stehen und wann eine Methode einer anderen vorzuziehen ist. Um dieses Problem zu lösen, stellen wir einen einheitlichen Rahmen für die Interpretation von Vorhersagen vor, SHAP (SHapley Additive exPlanations). SHAP weist jeder Eigenschaft einen Wichtigkeitswert für eine bestimmte Vorhersage zu. Seine neuartigen Komponenten umfassen: (1) die Identifikation einer neuen Klasse additiver Messgrößen zur Merkmalswichtigkeit und (2) theoretische Ergebnisse, die zeigen, dass es in dieser Klasse eine einzigartige Lösung mit einer Reihe erwünschter Eigenschaften gibt. Die neue Klasse vereinheitlicht sechs bestehende Methoden, was bemerkenswert ist, da mehrere jüngste Methoden aus dieser Klasse die vorgeschlagenen erwünschten Eigenschaften nicht besitzen. Basierend auf den Erkenntnissen dieser Vereinheitlichung präsentieren wir neue Methoden, die eine verbesserte Rechenleistung und/oder eine bessere Übereinstimmung mit der menschlichen Intuition als frühere Ansätze zeigen.