还在用VGG? RepVGG重铸VGG荣光

秃头小苏 发表于 2022/04/20 09:28:18 2022/04/20
【摘要】 写在前面 RepVGG结构 多路模型转单路模型✨✨✨ 1、卷积层和BN层的合并 2、1x1卷积转换为3x3卷积 3、残差模块转换为3x3卷积 卷积的可加性原理 实验结果  写在前面  VGG算是非常经典的网络了,它是由牛津大学计算机视觉组(Visual Geometry Group)和Google DeepMind公司的研究员一起研发的 “直筒型“ 的网络。既然在看这篇文章,想必已经对VG...

 

写在前面

  VGG算是非常经典的网络了,它是由牛津大学计算机视觉组(Visual Geometry Group)和Google DeepMind公司的研究员一起研发的 “直筒型“ 的网络。既然在看这篇文章,想必已经对VGG十分熟悉了。VGG有一些特别明显的缺陷,如网络的参数量较多,模型检测准确率也不是很好,总之VGG网络效果不理想。之后的一段时间,人们总是将网络变得更宽更深(如GoogleNet、ResNet),以期待达到更优异的效果。事实上也是这样,更深更宽的网络更容易满足需求。这样,VGG变得鲜有问津。这时,一位大佬——丁霄汉,相信科学技术总是螺旋式的上升,捡起了VGG模型,给其注入了新思想,RepVGG便横空出世。

  首先我们先来解读一些RepVGG的取名含义,Rep全称为re- parameterization(重参数化),Rep是指首先构造一系列结构(一般用于训练),并将其参数等价转换为另一组参数(一般用于推理),从而将这一系列结构等价转换为另一系列结构。估计这段话大家读的似懂非懂,对于RepVGG来说,就是在训练阶段会训练一个多分支模型,然后利用重参数化将多分支模型等价转换为单路模型,最后在推理时使用单路模型。为什么要这样做呢?因为在训练过程中往往多分支的结构会得到更高的性能收益,即在训练时采用多分支结构来提升网络性能,在推理时,将多分支结构转化为单路结构,这样会使推理速度大大加快✈✈✈
 

RepVGG结构

  听了上文的讲解,不知大家对RepVGG有了多少了解,还有很多疑惑是正常的,不要着急,下面会详细的对RepVGG的结构和设计进行分析📝📝📝RepVGG模型具有一个类似于VGG的拓扑结构,没有任何分支,模型只采用了3x3的卷积核和Relu激活函数。【注意:这里的RepVGG模型指的是推理(inference)时采用的结构,训练(training)时结构不是这样的】模型的结构如下图所示:

image-20220309205819771

  从上图我们可以看出,在RepVGG的训练阶段,其结构借鉴了ResNet,同时引入了残差结构和1x1的卷积分支,在论文中也证明了加入残差结构和1x1的卷积均可以提升网络的性能,如下图所示:

  至于RepVGG的推理阶段,其结构就是简单的3x3卷积同Relu函数的结合。

 
 

多路模型转单路模型✨✨✨

​  这一部分绝对是RepVGG的核心了!!!re- parameterization(重参数化)要做的其实就是要将多路模型转成单路模型。首先我们要搞清楚我们要转换的对象,即多路模型指什么?单路模型指什么?这两个模型在上文已经提及,多路模型指的就是在训练阶段的模型,而单路模型指的是在推理阶段的模型,如下图:

image-20220309215031425

  现在我们的目标有了,即将上图右侧模型转换成左侧。仔细观察左右两图的区别,可以看出我们只需要将上图黄框部分进行转换就可以了。下面来看看作者是怎么进行转换的🔑🔑🔑下图大致描述了多路模型转换成单路模型的过程,从①到②涉及到了将3x3卷积和BN层的合并、1x1卷积转换为3x3卷积及残差模块等效为特殊权重的卷积层。【注意:可能有小伙伴发现上文图中的卷积后都没有BN层,为什么这里有了了,其实一般卷积后都会跟上BN进行归一化,上图只是省略了网络的一些细节】


 

1、卷积层和BN层的合并

  上图展示了卷积层和BN层合并的推导过程,非常容易理解。但需要注意的是这里的卷积层含有偏置b,往往现在带有BN结构的卷积都不含偏置b了,论文中的推导结构就没带偏置b,如下图所示:可以看出,下式和上图推导结构是一致的🎨🎨🎨【符号表示有区别,没有偏置项b】

image-20220310194537878

 

2、1x1卷积转换为3x3卷积

  1x1卷积怎么转化为3x3的卷积呢?不知道大家有没有什么想法🙋🏼‍♂️🙋🏼‍♂️🙋🏼‍♂️我觉得这个大家应该是很容易就可以想到的——补两圈0!!!所以这部分其实是没什么么好说的,论文中也是一笔带过。但这里我还是想提醒大家注意一下,因为我们的三路输出最后会通过Add操作,因此在使用3x3卷积时应该使用same形式,即保证输入输出的特征图维度不变🎑🎑🎑

 

3、残差模块转换为3x3卷积

  我们知道残差模块就是一个恒等映射,即要求输入等于输出。这一步该怎么实现呢?这里我们可以使用卷积核权重为1的1x1卷积,因为这样的卷积核不会改变输入特征图的值,这样我们就可以将残差模块等效为1x1的卷积操作了。之后再利用第2步将1x1的卷积转化成3x3的卷积。
 


卷积的可加性原理

  完成了上述三步,我们就可以实现从①到②的变换,即现在我们得到了含3路3x3卷积的结构,接下来就是要实现从②到③的转化,即要将含3路3x3卷积的结构变换成只有1路3x3卷积的结构⛳⛳⛳这里需要利用卷积的可加性原理,即如果几个大小兼容的二维核在相同的输入上以相同的步幅操作以产生相同分辨率的输出,并且它们的输出被求和,我们可以将这些核在相应的位置相加,从而得到一个产生相同输出的等效核。这句话很好的总结了可加性原理,但是当我开始看到这句话的时候也是不明白为什么,后面也是自己画了一些图,就恍然大悟,所以我想说很多时候我们应该多动手,好脑子不如烂笔头📝📝📝下面给出整理的图片帮助大家理解,如下图:

image-20220310203932421

image-20220310203901185

  看了上图可以发现,不管我们是先进行卷积得到结果后再进行Add操作,还是先将卷积核的值先相加得到新的卷积核,然后再进行卷积,所得到的结果是一样的,这就是卷积的可加性。由此可知,我们将②变为③其实只需要将三个3x3的卷积核的值进行相加即可!!!

 

实验结果

  上面其实就把RepVGG最核心的给讲完了,下面来看一下RepVGG的效果叭。可以看出RepVGG的效果还是很好的,特别的表5中RepVGG-B2的FLOPs是EfficientNet-B3的10倍,但1080Ti上的速度是后者的2倍,这说明前者的计算密度是后者的20余倍。

image-20220310211307994

image-20220310212104277

  最后,这里给出丁霄汉本人对这篇文章的一些介绍:RepVGG:极简架构,SOTA性能,让VGG式模型再次伟大(CVPR-2021)
也给出文章的下载链接:RepVGG

 
 
如若文章对你有所帮助,那就🛴🛴🛴

咻咻咻咻~~duang~~点个赞呗

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区),文章链接,文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件至:cloudbbs@huaweicloud.com进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容。
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。