Explicação Parcial Agrupada: Uma Estrutura Multinível para Interpretação Contextual de Modelos em Suporte à Decisão Clínica

A crescente integração da inteligência artificial na tomada de decisões clínicas destaca a necessidade de modelos preditivos transparentes e confiáveis. A inteligência artificial explicável surgiu para enfrentar esse desafio; no entanto, a maioria das abordagens existentes depende exclusivamente de análises globais ou locais, que não capturam a heterogeneidade do comportamento dos modelos entre as populações de pacientes. Neste artigo, apresentamos a estrutura de explicação parcial agrupada (CPE), uma metodologia inovadora em três níveis que compreende análises globais, parciais e locais, projetada para preencher essa lacuna. A estrutura proposta combina a subagrupação baseada em clusters com técnicas de inteligência artificial explicável para revelar variações latentes na influência das características e no comportamento do modelo. Aplicamos a estrutura proposta a uma tarefa de previsão de sobrevivência ao câncer de mama usando um modelo Random Forest treinado no conjunto de dados SEER. As explicações parciais resultantes revelam padrões heterogêneos de importância das características entre os clusters, destacando interações que permanecem ocultas em análises globais. Ao validar explicações globais no nível dos subgrupos, a estrutura proposta aprimora tanto a interpretabilidade quanto a confiabilidade, apoiando assim a tomada de decisão clínica consciente do contexto. Finalmente, discutimos as implicações dessa camada adicional de interpretabilidade para pesquisas futuras.