HADT：ハイブリッドアテンション・デンスコネクテッドトランスフォーマーネットワークを用いた画像超解像復元

概要 画像超解像（SR）は視覚タスクにおいて重要な役割を果たしており、トランスフォーマーベースの手法は従来の畳み込みニューラルネットワークを上回っています。既存の研究では性能向上のために残差接続を使用することが多いですが、この接続方式はブロック内の情報伝達が限定的です。また、特徴抽出を改善するために、既存の研究は自己注意計算を単一のウィンドウに制限することが一般的であり、これによりトランスフォーマーベースのネットワークは限られた空間範囲内の特徴情報しか利用できません。これらの課題に対処するため、本論文では特徴情報の潜在的利用を向上させる新しいハイブリッドアテンション・デンスコネクテッドトランスフォーマーネットワーク（HADT）を提案します。HADTは、効果的デーントランスフォーマーブロック（EDTB）とハイブリッドアテンションブロック（HAB）を含む注意型トランスフォーマーブロック（ATB）を積み重ねて構成されます。EDTBはデンス結合とスウィントランスフォーマーを組み合わせることで特徴転送を強化しモデル表現力を高め、同時にHABはウィンドウ間の情報相互作用および特徴の共同モデリングを行い、より良い可視化を実現します。実験に基づくと、本手法は倍率2、3、4のSRタスクにおいて有効です。例えば、Urban100データセットで倍率4の実験を行った場合、本手法は従来法よりPSNRが0.15 dB高く、より詳細なテクスチャを再構築しています。