Une approche unifiée pour interpréter les prédictions des modèles

Comprendre pourquoi un modèle fait une certaine prédiction peut être aussi crucial que la précision de la prédiction dans de nombreuses applications. Cependant, la plus grande précision pour de grands ensembles de données modernes est souvent obtenue par des modèles complexes que même les experts ont du mal à interpréter, tels que les modèles d'ensemble ou d'apprentissage profond, créant une tension entre précision et interprétabilité. En réponse, diverses méthodes ont récemment été proposées pour aider les utilisateurs à interpréter les prédictions des modèles complexes, mais il est souvent difficile de savoir comment ces méthodes sont liées et quand une méthode est préférable à une autre. Pour résoudre ce problème, nous présentons un cadre unifié pour interpréter les prédictions, SHAP (SHapley Additive exPlanations). SHAP attribue à chaque caractéristique une valeur d'importance pour une prédiction particulière. Ses composants novateurs incluent : (1) l'identification d'une nouvelle classe de mesures d'importance additive des caractéristiques, et (2) des résultats théoriques montrant qu'il existe une solution unique dans cette classe avec un ensemble de propriétés souhaitables. Cette nouvelle classe unifie six méthodes existantes, ce qui est notable car plusieurs méthodes récentes dans cette classe ne possèdent pas les propriétés souhaitables proposées. Sur la base des connaissances issues de cette unification, nous présentons de nouvelles méthodes démontrant une amélioration des performances computationnelles et/ou une meilleure cohérence avec l'intuition humaine que les approches précédentes.