EvolBA：ハードラベルブラックボックス条件下における進化的境界攻撃

研究により、深層ニューラルネットワーク（DNN）には特定の摂動を加えた敵対的例（AE）を誤認識させる脆弱性があることが示されています。損失勾配や信頼度スコアが得られないハードラベルブラックボックス（HL-BB）条件下の脆弱性検出のために、様々な敵対的攻撃手法が提案されています。しかし、これらの手法は探索空間の局所的領域のみを検索するため、局所解に陥ります。そこで本研究では、対象のDNNモデルが予測するクラスラベルのみが利用可能なHL-BB条件下で、共分散行列適応進化戦略（CMA-ES）を用いてAEを生成する敵対的攻撃手法EvolBAを提案します。数式駆動の教師あり学習に着想を得て、提案手法は初期化プロセスにドメイン非依存の演算子を導入し、探索の多様性を高めるジャンプを採用しました。実験結果により、提案手法は従来手法が苦戦する画像においても、より小さな摂動でAEを生成できることが確認されました。