IA Explicável e Aprendizado por Reforço—Uma Revisão Sistemática das Abordagens e Tendências Atuais

A pesquisa em Inteligência Artificial Explicável (XAI) tem aumentado nos últimos anos como resposta à necessidade de maior transparência e confiança na IA. Isso é particularmente importante à medida que a IA é usada em domínios sensíveis com implicações sociais, éticas e de segurança. O trabalho em XAI tem se concentrado principalmente em Aprendizado de Máquina (ML) para classificação, decisão ou ação, com revisões sistemáticas detalhadas já realizadas. Esta revisão busca explorar as abordagens atuais e limitações para XAI na área de Aprendizado por Reforço (RL). De 520 resultados de busca, 25 estudos (incluindo 5 por amostragem snowball) são revisados, destacando visualização, explicações baseadas em consulta, sumarização de políticas, colaboração com intervenção humana e verificação como tendências nesta área. Limitações nos estudos são apresentadas, particularmente a falta de estudos com usuários, a prevalência de exemplos simplificados e as dificuldades em fornecer explicações compreensíveis. São identificadas áreas para estudos futuros, incluindo visualização imersiva e representação simbólica.