论文一作丁霄汉对论文的解读:卷积神经网络(CNN)中的大卷积核设计已被埋没许久,本文在现代背景下重新探索之。本文指出,采用少量大卷积核的设计范式要明显优于当今主流的堆叠大量小卷积核的范式。本文总结了5条准则(例如应用结构重参数化的depthwise大卷积)以设计高效又强力的大卷积核CNN。基于这5条准则,本文提出一种称为RepLKNet的CNN架构,其中的卷积核大到31x31。与Swin Transformer相比,RepLKNet在ImageNet和目标检测、语义分割任务上的性能相当或更好,且RepLKNet速度更快。此外,RepLKNet也展示出了在大数据和大模型上的优越的性能,如ImageNet上精度达到87.8%,ADE20K上mIoU达到56%。最后,本文的研究揭示了大kernel的CNN具有一些与视觉Transformer相似的好的性质,如超大的有效感受野和较高的shape bias(即模型做出的预测更多依赖于物体的整体形状而非局部纹理),这些都与传统的小kernel的CNN显著不同。
对论文和十问感兴趣的同学可以前往阅读:
Scaling Up Your Kernels to 31x31: Revisiting Large Kernel Design in CNNs
https://readpaper.com/paper/663530411408506880?channel=harryreadpaper