通过自动结构搜索进行通道剪枝

通道剪枝是压缩深度神经网络的主要方法之一。为此，大多数现有剪枝方法侧重于基于经验法则设计通过重要性/优化或正则化选择通道（滤波器），但存在剪枝次优的问题。本文提出了一种基于人工蜂群算法（ABC）的新型通道剪枝方法，称为ABCPruner，旨在高效地找到最优剪枝结构，即每层的通道数量，而不是像以往工作那样选择“重要”通道。为了解决深度网络剪枝结构组合巨大难以处理的问题，我们首先提出限制保留通道在特定空间内，从而显著减少剪枝结构的组合数。然后，我们将最优剪枝结构的搜索形式化为一个优化问题，并集成ABC算法以自动方式求解，减少人为干预。实验证明ABCPruner更有效，还支持以端到端方式高效进行微调。源码可在https://github.com/lmbxmu/ABCPruner获取。