畳み込みネットワークの深層解析：画像分類モデルとサリエンシーマップの可視化

本論文では、学習済みの深層畳み込みネットワーク（ConvNets）による画像分類モデルの可視化を扱います。我々は、クラススコアの入力画像に関する勾配を計算する2つの可視化手法を検討します。1つ目は、Erhanら（2009）が提案したクラスを最大化する画像を生成し、ConvNetが捉えたクラスの概念を可視化します。2つ目の手法は、特定の画像とクラスに対するクラスサリエンシーマップを計算します。我々は、このようなマップが分類ConvNetsを用いた弱教師あり物体セグメンテーションに利用可能であることを示します。最後に、勾配ベースのConvNet可視化とZeilerら（2013）の逆畳み込みネットワークとの関連を論じます。