「説明可能なAI」を求める時、人々は本当に何を望んでいるのか？ 60人のステークホルダーに聞いた

本論文は、説明可能な人工知能（Explainable AIまたはXAI）の問題をさまざまなステークホルダーがどのように捉えているかを理解することを目的とした質的研究の成果をまとめている。9か月間にわたり、著者は40回のインタビューと2回のフォーカスグループを実施した。収集されたデータの分析から、以下の2つの重要な初期発見が得られた。 (1) 説明可能なAIに関する現在の議論は一貫した用語の欠如によって妨げられている。 (2) 説明可能なAIには複数の異なるユースケースが存在し、それにはモデルのデバッグ、バイアスの理解、信頼の構築が含まれる。これらのユースケースは異なる利用者ペルソナを想定しており、おそらく異なる説明戦略を必要とし、現行のXAIツールはこれらを均等に扱っていない。このステークホルダー調査は、説明可能なAIの問題を広く特徴づけるものであり、将来の機能設計に重要な文脈を提供しうる。