“Por Que Eu Deveria Confiar em Você?”: Explicando as Previsões de Qualquer Classificador

Apesar da ampla adoção em PLN, os modelos de aprendizado de máquina permanecem em sua maioria caixas-pretas. Entender as razões por trás das previsões é, no entanto, bastante importante para avaliar a confiança em um modelo. A confiança é fundamental se alguém planeja tomar uma ação baseada em uma previsão, ou ao escolher se deve ou não implantar um novo modelo. Neste trabalho, descrevemos o LIME, uma técnica de explicação inovadora que explica as previsões de qualquer classificador de maneira interpretável e fiel. Apresentamos ainda um método para explicar modelos apresentando previsões individuais representativas e suas explicações de forma não redundante. Propomos uma demonstração dessas ideias em diferentes tarefas de PLN, como classificação de documentos, detecção de cortesia e análise de sentimento, com classificadores como redes neurais e SVMs. As interações do usuário incluem explicações de texto livre, desafiando os usuários a identificar o melhor classificador a partir de um par e realizar engenharia básica de características para melhorar os classificadores.