Sobre Explicações Pixel a Pixel para Decisões de Classificadores Não Lineares por Propagação de Relevância em Camadas

Compreender e interpretar decisões de classificação de sistemas automatizados de classificação de imagens é de grande valor em muitas aplicações, pois permite verificar o raciocínio do sistema e fornece informações adicionais ao especialista humano. Embora métodos de aprendizado de máquina estejam solucionando com muito sucesso uma variedade de tarefas, na maioria dos casos possuem a desvantagem de agir como uma "caixa-preta", não fornecendo informações sobre o que os levou a chegar a uma determinada decisão. Este trabalho propõe uma solução geral para o problema de compreender decisões de classificação por decomposição pixel a pixel de classificadores não lineares. Introduzimos uma metodologia que permite visualizar as contribuições de pixels individuais para previsões de classificadores baseados em kernel sobre recursos Bag of Words e para redes neurais multicamadas. Essas contribuições dos pixels podem ser visualizadas como mapas de calor e são fornecidas a um especialista humano que pode, intuitivamente, não apenas verificar a validade da decisão de classificação, mas também focar análises adicionais em regiões de interesse potencial. Avaliamos nosso método para classificadores treinados com imagens PASCAL VOC 2009, dados sintéticos contendo formas geométricas, o conjunto de dados MNIST de dígitos manuscritos e para o modelo pré-treinado ImageNet disponível como parte do pacote open source Caffe.