Hacia una Ciencia Rigurosa del Aprendizaje Automático Interpretable

A medida que los sistemas de aprendizaje automático se vuelven omnipresentes, ha habido un aumento en el interés por el aprendizaje automático interpretable: sistemas que proporcionan explicaciones para sus resultados. Estas explicaciones a menudo se usan para evaluar cualitativamente otros criterios como la seguridad o la no discriminación. Sin embargo, a pesar del interés en la interpretabilidad, hay muy poco consenso sobre qué es el aprendizaje automático interpretable y cómo debería medirse. En este artículo de posición, primero definimos la interpretabilidad y describimos cuándo se necesita (y cuándo no se necesita). Luego, sugerimos una taxonomía para una evaluación rigurosa y exponemos preguntas abiertas hacia una ciencia más rigurosa del aprendizaje automático interpretable.