在交互式机器学习中利用解释：概述

解释在人工智能和机器学习（ML）社区中越来越受到关注，以提高模型透明度并使用户能够形成对训练过的机器学习模型的心智模型。然而，解释能够超越单向沟通的机制，作为引导用户控制的方式，因为一旦用户理解模型，他们就可以提供反馈。本文的目标是展示将解释与交互式功能结合起来的研究综述，作为从零开始学习新模型以及编辑和调试现有模型的手段。为此，我们绘制了一个概念地图，将相关方法按照其预期目的和交互结构进行分类，突出它们之间的相似性和差异。我们还讨论了开放的研究问题并勾勒出可能的未来方向，希望能促进这一蓬勃发展的研究主题的进一步研究。