La falsa esperanza de los enfoques actuales para la inteligencia artificial explicable en la atención médica

La naturaleza de caja negra de la inteligencia artificial (IA) actual ha llevado a algunos a cuestionar si la IA debe ser explicable para ser utilizada en escenarios de alto riesgo como la medicina. Se ha argumentado que la IA explicable fomentará la confianza en el personal de salud, proporcionará transparencia en el proceso de toma de decisiones de la IA y potencialmente mitigará varios tipos de sesgos. En este punto de vista, argumentamos que este argumento representa una falsa esperanza para la IA explicable y que los métodos actuales de explicabilidad probablemente no logren estos objetivos para el soporte de decisiones a nivel del paciente. Proporcionamos una visión general de las técnicas actuales de explicabilidad y destacamos cómo diversos casos de fallo pueden causar problemas en la toma de decisiones para pacientes individuales. En ausencia de métodos de explicabilidad adecuados, abogamos por una validación rigurosa interna y externa de los modelos de IA como un medio más directo para alcanzar los objetivos a menudo asociados con la explicabilidad, y advertimos contra que la explicabilidad sea un requisito para los modelos desplegados clínicamente.