RepVGG:MakingVGG-styleConvNetsGreatAgain1.Motivation2.Contribution3.Method3.1SimpleisFast,Memory-economical

性能和推理速度之间的权衡对于实际应用至关重要。而重参化可以让模型获得了更好的性能平衡，这也促使它正在成为现代卷积神经网络中越来越流行的架构。尽管如此，当需要INT8推断时，其量化性能通常太差，无法部署（例如ImageNet上的前1精度下降超过20%）。在本文中深入探讨了这种失败的潜在机制，其中原始设计不可避免地扩大了量化误差。作者提出了一种简单、鲁棒和有效的量化友好型结构作为补救方法，该结构也享有

BASICSstrcuturalInception算法思想算法核心算法架构Re-Parameter四部曲：ACNetACNet原理ACNet分析涨点原因推理阶段融合机制Re-Parameter四部曲：RepVGGRepVGG原理RepVGG

点击左上方蓝字关注我们开源发展至今，越来越多的开发者共享免费代码的同时，也将自己的项目和代码大方骄傲地分享出来。使用者自由的获得项目成果，贡献者找到成就和价值，然后，更多的开发者加入使用、共同开发，如此正向循环，从而推动社区生态良性发展…（上期抽奖结果见文末哦~）本周看点速览：AgentMaker小组近期正式发布PPIM组件，内含带有Involution（内卷）的RedNet以及Deit、Pit、

目录1SENet1.1SENet原理1.2SENet代码(Pytorch)1.3YOLOv5中加入SE模块1.3.1common.py配置1.3.2yolo.py配置1.3.3创建添加RepVGG模块的

ResNeXt（2017）MobileNetV1（2017）/V2（2018）/V3（2019）SuffleNetV1（2017）/V2（2018）EfficinetNetV1（2019）/V2（2021）RepVGG

文章目录前言0.环境搭建&快速开始1.数据集制作1.1标签文件制作1.2数据集划分1.3数据集信息文件制作2.修改参数文件3.训练4.评估5.其他教程前言项目地址：https://github.com/Fafa-DL/Awesome-Backbones操作教程：https://www.bilibili.com/video/BV1SY411P7NdRepVGG原论文：点我跳转如果你以为该仓库仅支持训

的教程，安装YOLOv5可参考前面的文章YOLOv5训练自己的数据集(超详细)https://blog.csdn.net/qq_40716944/article/details/118188085目录1、RepVGG

RepVGG通过结构重参数化的方法，在训练的时候使用多分支结构，而在推理的时候多分支结构融合成单路结构，即保证了训练的效果，也提高了推理速度。

点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【模型压缩】技术交流群后台回复【RepVGG】获取本文论文！1摘要性能和推理速度之间的权衡对于实际应用至关重要。

论文名称：RepVGG:MakingVGG-styleConvNetsGreatAgain官方源码（Pytorch实现）：https://github.com/DingXiaoH/RepVGG0序言VGG

前言：repVGG绝对可以算得上2020年在backbone方面有很大影响力的工作，其核心思想是：通过结构重参数化思想，让训练网络的多路结构(多分支模型训练时的优势——性能高)转换为推理网络的单路结构(

imagenet精度：importtorch.nnasnnimportnumpyasnpimporttorchdefconv_bn(in_channels,out_channels,kernel_size,stride,padding,groups=1):result=nn.Sequential()result.add_module('conv',nn.Conv2d(in_channels=in_

提出量化友好方案解决结构重参数模型的量化时性能下降问题，无需任何技巧，采用标准PTQ，RepVGG在ImageNet上的精度下降就能保持在2%以内。

论文RepVGG:MakingVGG-styleConvNetsGreatAgain代码GitHub-DingXiaoH/RepVGG:RepVGG:MakingVGG-styleConvNetsGreatAgain

【专栏：前沿进展】“结构重参数化”是清华大学丁霄汉博士近年来提出的一种通用深度学习模型设计方法论。在青源Live第34期中，丁霄汉博士分享了题为「结构重参数化与通用视觉模型的基本设计元素」的报告，介绍了结构重参数化的起源和发展，以及他基于这一思想在改进单分支模型性能、设计卷积模型组件、模型剪枝等方向的相关研究工作。本文整理自青源LIVE第34期，视频回放链接：https://hub.baai.ac

RepVGG论文地址：https://arxiv.org/abs/2101.03697代码：GitHub-DingXiaoH/RepVGG:RepVGG:MakingVGG-styleConvNetsGreatAgain

RepVGG论文详解RepVGG是截止到2021.2.9日为止最新的一个轻量级网络架构。在我的测试中，其在安霸CV22上的加速效果不如ShuffleNetv2。

上一篇介绍了RepVGG，RepVGG存在量化问题，Repopt通过将先验融入优化器中，统一训练与测试模型解决了其量化不友好的问题。

最近，看到很多轻量化工作是基于RepVGG改进而来，决定重新回顾一下RepVGG，并在此记录一些理解与心得。

论文地址:RepVGG:MakingVGG-styleConvNetsGreatAgain(arxiv.org)主要贡献:结构重参数化主要结构图多分支模型的优势实验证明多分支模型可以更好的增加模型的表征能力

模型内存访问代价计算卷积层MAC计算四，一些概念双精度、单精度和半精度浮点计算能力硬件利用率(Utilization)五，参考资料前言现阶段的轻量级模型MobileNet/ShuffleNet系列、CSPNet、RepVGG

结构重参数化分为两步，第一步是将卷积和BN进行融合以及将只有BN的分支转换成一个Conv2d算子。第二步是将每个分支上的3X3卷积层融合成一个卷积层。1.1融合Conv和BNBN中包含四个参数均值、方差、尺度、偏执，对于第i层特征的BN计算公式为：卷积的形式，这里借用https://blog.csdn.net/qq_37541097/article/details/125692507博主中的图片演

手把手教你在Detectron2中搭建自己的Backbone0、准备主干网络准备一个Bockbone，我们以最新的RepVGG为例：RepVGG的链接如下：DingXiaoH/RepVGG:RepVGG

RepVGG重参数化-Yolov5BatchNormalizationYolov5forward_fuse()Yolov5-记录RepVGG代码复现BatchNormalization我们发现经过激活函数之后

（写作日期：2022-08-18）这篇文章提出一种新的VGG模型RepVGG。它使用重参数化技巧，能够让模型推理(inference)速度大幅提升。并取得SOTA性能。VGG是一种经典的卷积神经网络。

答：RepVGG主要为了解决原始VGG网络模型较大，不便于部署以及性能比较差二提出的一个VGG升级版本。2.RepVGG的主要思路是什么？

序言上一篇记录了训练过程，但是项目中提供的模型网络都是偏大的，如果想要在边缘设备上部署，还是比较吃力的，所以本文记录如何加入新的网络模型进行训练，以repvgg为例，加入mobilenet、shufflenet

结构重参数化笔记RepVGG参考：https://zhuanlan.zhihu.com/p/370438999结构重参数化（structuralre-parameterization）指的是首先构造一系列结构

【论文阅读】RepVGG论文阅读笔记1.REPVGG1.1背景1.2重参数化1.2.1内存开销1.2.2方法1.REPVGG提出重参数化，训练和推理结构解耦。

论文RepVGG:MakingVGG-styleConvNetsGreatAgain论文地址https://openaccess.thecvf.com/content/CVPR2021/papers/Ding_RepVGG_Making_VGG-Style_ConvNets_Great_Again_CVPR

根据博主太阳花的小绿豆的文章学习：RepVGG网络简介_太阳花的小绿豆的博客-CSDN博客_repvgg网络是干嘛的?简单来说repvgg就是改变了网络结构，做了模型重参数化，啥叫模型重参数化？

目录1.简介2.RepVGG详情2.1RepVGGBlock2.2结构重参数化2.2.1融合Conv2d和BN，将三个分支上的卷积算子和BN算子都转化为卷积算子（包括卷积核和偏置）2.2.2将每个分支都扩充为一个

之所以RepVGG能够一骑绝尘达到STOA水平，源于其提出了在训练时使用下图B的网络结构，而在推理时则采用下图C的网络结构，而为何能够如此转换，这就是论文提出的思想：结构冲

BuildingaConvolutionasanInception-likeUnitcode:https://github.com/DingXiaoH/DiverseBranchBlock前言有了前两篇文章ACNet和RepVGG

模型压缩——重参数化重参数化RepVGG和ACNe的重参数化方法ACNetRepVGGDiverseBranchBlock(DBB)串联1x1Conv和KxKConv融合1x1Conv和AVG(AveragePooling

论文链接：RepVGG:MakingVGG-styleConvNetsGreatAgain代码链接：https://github.com/DingXiaoH/RepVGG一、论文亮点在ResNet提出之前

YOLOV7主要的贡献在于：1.模型重参数化YOLOV7将模型重参数化引入到网络架构中，重参数化这一思想最早出现于REPVGG中。2.标签分配策略YOLO

下面的代码是经过验证，肯定有效的转换代码，而且适用于RepVGG之类的等效模块的参数迁移。importt

1.RepVggDingX,ZhangX,MaN,etal.Repvgg:Makingvgg-styleconvnetsgreatagain[C]//ProceedingsoftheIEEE/CVFConferenceonComputerVisionandPatternRecognition

RepVGG是2021年发表于CVPR，它和resnet一样是一种图像分类网络，在目标检测中被用作backbone，论文提出一种新型技术称之结构重参数化，简单来说就是对训练出的模型进行等价替换成一个简单的模型

系列文章目录文章目录系列文章目录前言一、Netron模型可视化二、代码实现总结前言本文主要是对RepVGG的讲解论文：https://arxiv.org/pdf/2101.03697.pdfGitHub

训练和推理架构的这种解耦是通过结构重参数化技术实现的，因此该模型称为RepVGG。在ImageNet上，据我们所知，RepVGG的top-1准确性达到80％以上，这是老模型首次实现该精度。

紧接上篇:RepVGG:MakingVGG-styleConvNetsGreatAgain这里我们解读其核心部分。核心思想其核心思想就是做一个算子融合，比如常见的conv+bn算子融合。

引言经典的卷积神经网络（ConvNet）VGG[31]在图像识别中取得了巨大的成功，其简单的架构由conv、ReLU和池化的堆栈组成。随着Inception[33，34，32，19]、ResNet[12]和DenseNet[17]的出现，许多研究兴趣转向了设计良好的架构，使得模型越来越复杂。一些最近的架构基于自动[44，29，23]或手动[28]架构搜索，或搜索的复合缩放策略[35]。尽管许多复杂

1.简介之前一直以为对BN是了解的，直到看了RepVGG文章中有一个结构重参数化部分，需要将BN算子融合到卷积算子中时，我才发现对BN的了解远远不够，所以现在来重新了解一下BN的整个计算流程。

阐述如下：1.网络结构改动模块repvgg网络加宽了yolov5，这里我们将yolov5原先的conv3×33\times33×3的卷积替换成repvgg的conv3×33\times33×3的

目录一、准备RepVgg1.参考YOLOv7二、使用RepVgg1.搭积木2.解析模型3.推理总结参考一、准备RepVgg1.参考YOLOv7在yolov7git仓库中，在common.py提供了详细的

目录RepVGG——极简架构，SOTA性能！！！

文章目录一、背景二、方法2.1使用简单结构的卷积神经网络的三个原因2.2使用多分支结构的训练时长2.3边端设备推理的重参数化2.4结构细节三、效果论文：RepVGG:MakingVGG-styleConvNetsGreatAgain