YOLOv8来啦 | 详细解读YOLOv8的改进模块!YOLOv5官方出品YOLOv8,必卷! 快资讯
2023-01-09 20:15:23 来源:程序员客栈
点击下方名片关注【集智书童】,后台回复【YOLOv8】获取YOLOv8源码以及书童亲自绘制的YOLOv8结构图原图。回顾一下YOLOv5,不然没机会了

这里粗略回顾一下,这里直接提供YOLOv5的整理的结构图吧:


(相关资料图)

Backbone:CSPDarkNet结构,主要结构思想的体现在C3模块,这里也是梯度分流的主要思想所在的地方;PAN-FPN:双流的FPN,必须香,也必须快,但是量化还是有些需要图优化才可以达到最优的性能,比如cat前后的scale优化等等,这里除了上采样、CBS卷积模块,最为主要的还有C3模块(记住这个C3模块哦);Head:Coupled Head+Anchor-base,毫无疑问,YOLOv3、YOLOv4、YOLOv5、YOLOv7都是Anchor-Base的,后面会变吗?Loss:分类用BEC Loss,回归用CIoU Loss。话不多说,直接YOLOv8吧!

直接上YOLOv8的结构图吧,小伙伴们可以直接和YOLOv5进行对比,看看能找到或者猜到有什么不同的地方?

下面就直接揭晓答案吧,具体改进如下:

Backbone:使用的依旧是CSP的思想,不过YOLOv5中的C3模块被替换成了C2f模块,实现了进一步的轻量化,同时YOLOv8依旧使用了YOLOv5等架构中使用的SPPF模块;PAN-FPN:毫无疑问YOLOv8依旧使用了PAN的思想,不过通过对比YOLOv5与YOLOv8的结构图可以看到,YOLOv8将YOLOv5中PAN-FPN上采样阶段中的卷积结构删除了,同时也将C3模块替换为了C2f模块;Decoupled-Head:是不是嗅到了不一样的味道?是的,YOLOv8走向了Decoupled-Head;Anchor-Free:YOLOv8抛弃了以往的Anchor-Base,使用了Anchor-Free的思想;损失函数:YOLOv8使用VFL Loss作为分类损失,使用DFL Loss+CIOU Loss作为分类损失;样本匹配:YOLOv8抛弃了以往的IOU匹配或者单边比例的分配方式,而是使用了Task-Aligned Assigner匹配方式。1、C2f模块是什么?与C3有什么区别?

我们不着急,先看一下C3模块的结构图,然后再对比与C2f的具体的区别。针对C3模块,其主要是借助CSPNet提取分流的思想,同时结合残差结构的思想,设计了所谓的C3 Block,这里的CSP主分支梯度模块为BottleNeck模块,也就是所谓的残差模块。同时堆叠的个数由参数n来进行控制,也就是说不同规模的模型,n的值是有变化的。

其实这里的梯度流主分支,可以是任何之前你学习过的模块,比如,美团提出的YOLOv6中就是用来重参模块RepVGGBlock来替换BottleNeck Block来作为主要的梯度流分支,而百度提出的PP-YOLOE则是使用了RepResNet-Block来替换BottleNeck Block来作为主要的梯度流分支。而YOLOv7则是使用了ELAN Block来替换BottleNeck Block来作为主要的梯度流分支。

C3模块的Pytorch的实现如下:

classC3(nn.Module):#CSPBottleneckwith3convolutionsdef__init__(self,c1,c2,n=1,shortcut=True,g=1,e=0.5):#ch_in,ch_out,number,shortcut,groups,expansionsuper().__init__()c_=int(c2*e)#hiddenchannelsself.cv1=Conv(c1,c_,1,1)self.cv2=Conv(c1,c_,1,1)self.cv3=Conv(2*c_,c2,1)#optionalact=FReLU(c2)self.m=nn.Sequential(*(Bottleneck(c_,c_,shortcut,g,e=1.0)for_inrange(n)))defforward(self,x):returnself.cv3(torch.cat((self.m(self.cv1(x)),self.cv2(x)),1))

下面就简单说一下C2f模块,通过C3模块的代码以及结构图可以看到,C3模块和名字思路一致,在模块中使用了3个卷积模块(Conv+BN+SiLU),以及n个BottleNeck。

通过C3代码可以看出,对于cv1卷积和cv2卷积的通道数是一致的,而cv3的输入通道数是前者的2倍,因为cv3的输入是由主梯度流分支(BottleNeck分支)依旧次梯度流分支(CBS,cv2分支)cat得到的,因此是2倍的通道数,而输出则是一样的。

不妨我们再看一下YOLOv7中的模块:

YOLOv7通过并行更多的梯度流分支,放ELAN模块可以获得更丰富的梯度信息,进而或者更高的精度和更合理的延迟。

C2f模块的结构图如下:

我们可以很容易的看出,C2f模块就是参考了C3模块以及ELAN的思想进行的设计,让YOLOv8可以在保证轻量化的同时获得更加丰富的梯度流信息。

C2f模块对应的Pytorch实现如下:

classC2f(nn.Module):#CSPBottleneckwith2convolutionsdef__init__(self,c1,c2,n=1,shortcut=False,g=1,e=0.5):#ch_in,ch_out,number,shortcut,groups,expansionsuper().__init__()self.c=int(c2*e)#hiddenchannelsself.cv1=Conv(c1,2*self.c,1,1)self.cv2=Conv((2+n)*self.c,c2,1)#optionalact=FReLU(c2)self.m=nn.ModuleList(Bottleneck(self.c,self.c,shortcut,g,k=((3,3),(3,3)),e=1.0)for_inrange(n))defforward(self,x):y=list(self.cv1(x).split((self.c,self.c),1))y.extend(m(y[-1])forminself.m)returnself.cv2(torch.cat(y,1))

SPPF改进了什么?

这里讲解的文章就很多了,这里也就不具体描述了,直接给出对比图了

上图中,左边是SPP,右边是SPPF。

PAN-FPN改进了什么?

我们先看一下YOLOv5以及YOLOv6的PAN-FPN部分的结构图:

YOLOv5的Neck部分的结构图如下:

YOLOv6的Neck部分的结构图如下:

我们再看YOLOv8的结构图:

可以看到,相对于YOLOv5或者YOLOv6,YOLOv8将C3模块以及RepBlock替换为了C2f,同时细心可以发现,相对于YOLOv5和YOLOv6,YOLOv8选择将上采样之前的1×1卷积去除了,将Backbone不同阶段输出的特征直接送入了上采样操作。

Head部分都变了什么呢?

先看一下YOLOv5本身的Head(Coupled-Head):

而YOLOv8则是使用了Decoupled-Head,同时由于使用了DFL 的思想,因此回归头的通道数也变成了4*reg_max的形式:

对比一下YOLOv5与YOLOv8的YAML损失函数

对于YOLOv8,其分类损失为VFL Loss,其回归损失为CIOU Loss+DFL的形式,这里Reg_max默认为16。

VFL主要改进是提出了非对称的加权操作,FL和QFL都是对称的。而非对称加权的思想来源于论文PISA,该论文指出首先正负样本有不平衡问题,即使在正样本中也存在不等权问题,因为mAP的计算是主正样本。

q是label,正样本时候q为bbox和gt的IoU,负样本时候q=0,当为正样本时候其实没有采用FL,而是普通的BCE,只不过多了一个自适应IoU加权,用于突出主样本。而为负样本时候就是标准的FL了。可以明显发现VFL比QFL更加简单,主要特点是正负样本非对称加权、突出正样本为主样本。

针对这里的DFL(Distribution Focal Loss),其主要是将框的位置建模成一个 general distribution,让网络快速的聚焦于和目标位置距离近的位置的分布。

DFL 能够让网络更快地聚焦于目标 y 附近的值,增大它们的概率;

DFL的含义是以交叉熵的形式去优化与标签y最接近的一左一右2个位置的概率,从而让网络更快的聚焦到目标位置的邻近区域的分布;也就是说学出来的分布理论上是在真实浮点坐标的附近,并且以线性插值的模式得到距离左右整数坐标的权重。

样本的匹配

标签分配是目标检测非常重要的一环,在YOLOv5的早期版本中使用了MaxIOU作为标签分配方法。然而,在实践中发现直接使用边长比也可以达到一阿姨你的效果。而YOLOv8则是抛弃了Anchor-Base方法使用Anchor-Free方法,找到了一个替代边长比例的匹配方法,TaskAligned。

为与NMS搭配,训练样例的Anchor分配需要满足以下两个规则:

正常对齐的Anchor应当可以预测高分类得分,同时具有精确定位;不对齐的Anchor应当具有低分类得分,并在NMS阶段被抑制。基于上述两个目标,TaskAligned设计了一个新的Anchor alignment metric 来在Anchor level 衡量Task-Alignment的水平。并且,Alignment metric 被集成在了 sample 分配和 loss function里来动态的优化每个 Anchor 的预测。Anchor alignment metric:

分类得分和 IoU表示了这两个任务的预测效果,所以,TaskAligned使用分类得分和IoU的高阶组合来衡量Task-Alignment的程度。使用下列的方式来对每个实例计算Anchor-level 的对齐程度:

s 和 u 分别为分类得分和 IoU 值,α 和 β 为权重超参。从上边的公式可以看出来,t 可以同时控制分类得分和IoU 的优化来实现 Task-Alignment,可以引导网络动态的关注于高质量的Anchor。

Training sample Assignment:

为提升两个任务的对齐性,TOOD聚焦于Task-Alignment Anchor,采用一种简单的分配规则选择训练样本:对每个实例,选择m个具有最大t值的Anchor作为正样本,选择其余的Anchor作为负样本。然后,通过损失函数(针对分类与定位的对齐而设计的损失函数)进行训练。

参考

[1].https://github.com/uyolo1314/ultralytics.[2].https://github.com/meituan/YOLOv6.[3].https://arxiv.org/abs/2209.02976.[4].https://github.com/PaddlePaddle/PaddleDetection.[5].https://github.com/PaddlePaddle/PaddleYOLO.[6].https://github.com/open-mmlab/mmyolo.

推荐阅读

书童改进 | YOLOv5之架构改进、样本匹配升级、量化部署、剪枝、自蒸馏以及异构蒸馏

目标检测模型设计准则 | YOLOv7参考的ELAN模型解读,YOLO系列模型思想的设计源头

目标检测Trick | SEA方法轻松抹平One-Stage与Two-Stage目标检测之间的差距

扫描上方二维码可联系小书童加入交流群~

想要了解更多前沿AI视觉感知全栈知识【分类、检测、分割、关键点、车道线检测、3D视觉(分割、检测)、多模态、目标跟踪、NerF】、行业技术方案【AI安防、AI医疗、AI自动驾驶】、AI模型部署落地实战【CUDA、TensorRT、NCNN、OpenVINO、MNN、ONNXRuntime以及地平线框架等】,欢迎扫描下方二维码,加入集智书童知识星球,日常分享论文、学习笔记、问题解决方案、部署方案以及全栈式答疑,期待交流!

YOLOv8来啦 | 详细解读YOLOv8的改进模块!YOLOv5官方出品YOLOv8,必卷! 快资讯

2023-01-09

四川腊肠在什么温度下风干?

2023-01-09

淘气天尊:别冲动!这个缺口不补不踏实!

2023-01-09

算法岗没技术积累,要换组吗?

2023-01-09

蚂蚁集团调整!马云退出实控人位置,表决权由53%降为6%

2023-01-09

绑架罪的案例有哪些:天天微动态

2023-01-09

本周末湖南大部暖意融融 最高气温冲上20℃_焦点精选

2023-01-09

机械键盘市场为何如此火爆 焦点

2023-01-07

安徽三县喜获全国“金豆王”荣誉称号

2023-01-06

俄媒:五角大楼称暂无迹象表明俄罗斯在白俄罗斯开辟新战线_当前要闻

2023-01-06

准婚姻与事实婚姻的区别是什么?-讯息

2023-01-06

以全新的孵化模式,构建全面的成长系统

2023-01-06

著作权归属是如何确定的?_天天热推荐

2023-01-06

今日聚焦!大周期与小确幸:2023追光而行,收获“+一点”

2023-01-06

FARMER BOB全球首家旗舰店惊艳开业:焦点快播

2023-01-06

亿利洁能与国家电投合作400MW风光制氢项目获批 为延伸绿色低碳产业链筑牢基础

2023-01-05

瑞银:予香港科技探索(01137)“买入”评级 目标价升至7.9港元|每日速看

2023-01-05

协鑫集成子公司收到2022年经营性补贴共3947万元_焦点简讯

2023-01-04

广西出台《南宁国际航空货运枢纽发展规划(2022-2050年)》_视讯

2023-01-04

智库知识 什么是剥夺政治权利

2023-01-04

百科问答 经销商和分销商区别

2023-01-04

知识课堂 马萨卡是什么梗

2023-01-04

字词小课堂 松塔是什么

2023-01-04

网络百科全书 赖斯什么意思

2023-01-04

知识百科 什么是文案策划

2023-01-04

百科知识 燕南天怎么死的

2023-01-04

中文百科 brooklyn是什么牌子

2023-01-04

2023德云社苏州站演出地点?附交通指南|全球关注

2023-01-04

环球今热点:王者和原神都没进榜单 全球热门移动游戏下载量榜单出炉

2023-01-04

塑料瓶装热水放被窝取暖有害吗?

2023-01-04

韩国首尔梨泰院踩踏事故遇难者人数升至159人|观热点

2023-01-03

环球要闻:至纯科技: 关于第三期股权激励计划2022年第四季度自主行权结果暨股份变动的公告

2023-01-03

刚刚,A股开门红!杭州突发:也发现XBB毒株!浙江:日增约百万病例!一批核酸检测机构将陷入财务危机?

2023-01-03

炖的冰糖雪梨过夜可以吃吗 炖的冰糖雪梨过夜还能不能食用呢

2023-01-03

世界短讯!2022武汉双年展举办

2023-01-03

被朝鲜无人机“羞辱”后,韩国要用“斩首无人机”吓人?_天天快看

2023-01-03

全球新资讯:单日销售额破亿元×7!这里免税店,又火了!

2023-01-02

环球新消息丨龙岩市长汀县产假最新天数是好几

2023-01-02

热门:大学生是艾滋病的高发人群吗?艾滋病的初期症状是什么

2023-01-02

辽宁沈阳:腊八粥 腊八蒜 浓浓年味“满街窜” 世界观速讯

2023-01-01

当前热文:ColorOS 13 2023年Q1适配计划出炉:10款机型喜提正式版

2022-12-31

12月31日上市公司重要公告集锦:中国稀土拟定增募资不超20.3亿元 收购江华稀土股权|每日快讯

2022-12-30

环球资讯:医护人员尽全力守护患儿健康 希望能为孩子再多做一点

2022-12-30

顺丰推出预制菜一体化供应链解决方案,助力实现新鲜健康的“预制菜自由”

2022-12-30

【速看料】银保监会:银行保险机构应当建立消费者适当性管理机制

2022-12-30

越来越多虚拟数字人“上岗”了 当前独家

2022-12-30

民用无人机拥有者要实名登记……上海组织开展“全民反恐 守‘沪’平安”教育活动

2022-12-29

海泰新能(835985)12月29日主力资金净买入82.78万元-天天微动态

2022-12-29

雪天盐业:湘渝盐化联碱装置绿色固碳升级改造项目预计2023年底投产,目前正有序推进中

2022-12-29

亚星客车12月29日快速回调

2022-12-29

醋化股份: 关于南通醋酸化工股份有限公司2022年第一次临时股东大会之法律意见书:世界观热点

2022-12-29

券商观点|传媒行业点评报告:12月进口及国产游戏版号发放 看好板块估值业绩双修复

2022-12-29

复宏汉霖:PD-1在美商业化合作达成,H药出海加速启航

2022-12-28

全国二手农机交易平台上线 头条焦点

2022-12-28

2023河南兔年纪念币剩余多少枚?持续更新-今日聚焦

2022-12-28

金辰股份(603396)12月27日主力资金净卖出1274.42万元:实时

2022-12-28

振邦智能: 第二届董事会第二十四次(临时)会议决议公告 世界播报

2022-12-27

世界观速讯丨韭菜花没开花有毒吗?

2022-12-27

2023年全国硕士研究生招生初试结束 专硕报考人数超六成:世界球精选

2022-12-27

每日精选:“感动海南”2022十大年度人物特别致敬奖获得者获奖感言

2022-12-27

促文旅消费恢复 首批6个北京微度假目的地品牌发布:今日精选

2022-12-26

当前热文:ppmoney借款逾期20天延迟还款会上征信吗

2022-12-26

充电式的热水袋的边缘漏水还能用吗?_当前讯息

2022-12-26

知名品牌突然公告:天猫旗舰店停运,下架所有产品!_全球热资讯

2022-12-25

环球快资讯:焦点访谈丨坚守一线勇担当

2022-12-24

*ST紫晶: 2023年第一次临时股东大会会议资料|今日报

2022-12-23

本周盘点(12.19-12.23):兖矿能源周跌8.29%,主力资金合计净流出2.30亿元_短讯

2022-12-23

花钱越多福利越多?警惕“温情”关怀背后的养老投资骗局:天天热点

2022-12-23

热点聚焦:大秦铁路全线通车30年 累计运输煤炭超过79亿吨

2022-12-22

Q3全球网络安全市场达178亿美元,同比增长15.9%

2022-12-22

环球即时:业务开办近一个月来 工行36地约三成客户已主动缴存个人养老金

2022-12-22

速递!丰华股份: 重庆丰华(集团)股份有限公司对外投资管理制度(2022年12月)

2022-12-21

腾讯上线新冠防护药物共享平台 市民间展开互助自救

2022-12-21

玉门油田天然气稳产增收再发力 环球观热点

2022-12-21

康普化学12月21日将正式登陆北交所 在手订单充足IPO募投项目扩产增效

2022-12-20

还没赚钱先被骗,省呗防诈小剧场真实还原-世界快播

2022-12-20

汽车“降碳”,有啥新招?

2022-12-20

变废为宝 城市“清道夫”守护美丽家园|环球即时看

2022-12-19

NBA-爱德华兹37分赛季新高,森林狼主场大胜公牛

2022-12-19

【全球时快讯】中际旭创:参与公司2017年重组增发的机构绝大部分都不是百分之五以上的股东及一致行动人

2022-12-19

2022全国地方政府投融资平台转型发展评价结果正式发布|全球播报

2022-12-18

【聚看点】包装 | 一款有“理想”的咖啡

2022-12-17

会稽山(601579)12月16日主力资金净买入1.49亿元

2022-12-17

简讯:安集科技(688019):5%以上股东集中竞价减持达到1%暨减持股份结果

2022-12-16

环球快资讯丨第一辆邮政药品保供专车驶出,北京邮政邮运生产运行正常

2022-12-16

工伤鉴定没有级别,单位应该怎样赔偿:世界看点

2022-12-16

丰林集团: 丰林集团公司章程(2022年12月修订)

2022-12-15

连带责任后债务人跑了应该怎样办呢|焦点热门

2022-12-15

【时快讯】安全生产事故的等级怎样划分

2022-12-15

当前聚焦:南阳市:发挥高校优势 赋能乡村振兴

2022-12-14

异动快报:友阿股份(002277)12月14日10点7分触及涨停板

2022-12-14

伟星股份:参股子公司上市辅导备案

2022-12-13

12月12日基金净值:华宝中证医疗ETF最新净值0.5081,跌0.02%

2022-12-13

当前热讯:甲烷排放板块12月12日跌1.06%,蓝焰控股领跌,主力资金净流出2709.8万元

2022-12-13

天天观热点:手机号实名认证进入倒计时本月20日后未实名用户将被停机

2022-12-12

东富龙董秘回复:自疫情以来,不仅仅是制药装备行业,所有行业的整体原材料均有一定幅度的增长

2022-12-12

本周盘点(12.5-12.9):科力远周跌5.11%,主力资金合计净流出1.28亿元-快资讯

2022-12-09

午后,思摩尔国际(06969.HK)升势加速,升约12%

2022-12-08

新华制药:公司尚无扑热息痛原料药生产|环球观察

2022-12-07

印度黄金进口量上升至10年来的最高水平 销售几乎翻了一番

2022-03-21