Une revue des méthodes pour expliquer les modèles en boîte noire

Ces dernières années, de nombreux systèmes d'aide à la décision précis ont été construits sous forme de boîtes noires, c’est-à-dire des systèmes qui cachent leur logique interne à l'utilisateur. Ce manque d'explication constitue à la fois un enjeu pratique et éthique. La littérature rapporte de nombreuses approches visant à surmonter cette faiblesse cruciale, parfois au prix d'un sacrifice de la précision au profit de l'interprétabilité. Les applications des systèmes décisionnels en boîte noire sont variées, et chaque approche est généralement développée pour fournir une solution à un problème spécifique et, par conséquent, définit explicitement ou implicitement sa propre définition de l'interprétabilité et de l'explication. L'objectif de cet article est de fournir une classification des principaux problèmes abordés dans la littérature en ce qui concerne la notion d'explication et le type de système en boîte noire. Étant donné une définition du problème, un type de boîte noire et une explication souhaitée, cette revue devrait aider le chercheur à trouver les propositions les plus utiles pour son propre travail. La classification proposée des approches pour ouvrir les modèles en boîte noire devrait également être utile pour mettre en perspective les nombreuses questions ouvertes en recherche.