Inteligencia Artificial Explicable y Aprendizaje por Refuerzo: Una Revisión Sistemática de Enfoques y Tendencias Actuales

La investigación en Inteligencia Artificial Explicable (XAI) ha aumentado en los últimos años como respuesta a la necesidad de mayor transparencia y confianza en la IA. Esto es especialmente importante dado que la IA se utiliza en ámbitos sensibles con implicaciones sociales, éticas y de seguridad. El trabajo en XAI se ha centrado principalmente en el Aprendizaje Automático (ML) para clasificación, toma de decisiones o acción, con revisiones sistemáticas detalladas ya realizadas. Esta revisión busca explorar los enfoques actuales y las limitaciones de XAI en el área del Aprendizaje por Refuerzo (RL). De 520 resultados de búsqueda, se revisan 25 estudios (incluyendo 5 por muestreo en cadena), destacando la visualización, explicaciones basadas en consultas, resumen de políticas, colaboración con humanos en el bucle y verificación como tendencias en esta área. Se presentan limitaciones en los estudios, especialmente la falta de estudios con usuarios, la prevalencia de ejemplos simplificados y las dificultades para proporcionar explicaciones comprensibles. Se identifican áreas para futuros estudios, incluyendo visualización inmersiva y representación simbólica.