2023-2-2-openMMLab AI实战营 笔记(二)

计算机视觉之图像分类算法基础

课程视频回放:https://www.bilibili.com/video/BV1js4y1W7CN/?spm_id_from=333.788&vd_source=db3d134c564b091aeb95550baf2fa5b0

一、图像分类与基础视觉模型

基础介绍:

图像分类:给一张图片,识别图片中的物体是什么

计算机难以通过简单代码实现,使用“学习”。——采集数据、定义模型、训练、预测

早期使用特征工程,之后深度学习

2023-2-2-openMMLab AI实战营 笔记(二)_第1张图片

卷积神经网络:

alexNet:

2023-2-2-openMMLab AI实战营 笔记(二)_第2张图片
2023-2-2-openMMLab AI实战营 笔记(二)_第3张图片

VGG:

2023-2-2-openMMLab AI实战营 笔记(二)_第4张图片

GoogLeNet:

2023-2-2-openMMLab AI实战营 笔记(二)_第5张图片

模型越来越深,准确率适得其反。

2023-2-2-openMMLab AI实战营 笔记(二)_第6张图片

残差学习:解决之前的考虑。残差可以使网络更深,参数

2023-2-2-openMMLab AI实战营 笔记(二)_第7张图片

ResNet:

2023-2-2-openMMLab AI实战营 笔记(二)_第8张图片
2023-2-2-openMMLab AI实战营 笔记(二)_第9张图片
2023-2-2-openMMLab AI实战营 笔记(二)_第10张图片

ResNet的影响:视觉领域影响力最大、使用最广泛的模型,获得CVPR2016最佳论文奖

2023-2-2-openMMLab AI实战营 笔记(二)_第11张图片

更强的图像分类模型:

神经结构搜索 Neural Architecture Search(2016+)

2023-2-2-openMMLab AI实战营 笔记(二)_第12张图片

Transformers(2020+):

2023-2-2-openMMLab AI实战营 笔记(二)_第13张图片

ConvNeXt(2022):

2023-2-2-openMMLab AI实战营 笔记(二)_第14张图片

轻量化卷积神经网络:

(小网络)

卷积的参数量:

2023-2-2-openMMLab AI实战营 笔记(二)_第15张图片

卷积的计算量:

2023-2-2-openMMLab AI实战营 笔记(二)_第16张图片

降低参数量和计算量的方法:

  1. 降低通道数

  1. 减少卷积核的大小

2023-2-2-openMMLab AI实战营 笔记(二)_第17张图片

GoogLeNet使用不同大小的卷积核:

2023-2-2-openMMLab AI实战营 笔记(二)_第18张图片

ResNet使用1×1卷积压缩通道数:

2023-2-2-openMMLab AI实战营 笔记(二)_第19张图片

可分离卷积:

2023-2-2-openMMLab AI实战营 笔记(二)_第20张图片

MobileNet V1/V2/V3(2017~2019):

2023-2-2-openMMLab AI实战营 笔记(二)_第21张图片

ResNeXt中的分组卷积:

2023-2-2-openMMLab AI实战营 笔记(二)_第22张图片

Vision Transfromers:

2023-2-2-openMMLab AI实战营 笔记(二)_第23张图片
2023-2-2-openMMLab AI实战营 笔记(二)_第24张图片
2023-2-2-openMMLab AI实战营 笔记(二)_第25张图片

2023-2-2-openMMLab AI实战营 笔记(二)_第26张图片
2023-2-2-openMMLab AI实战营 笔记(二)_第27张图片

2023-2-2-openMMLab AI实战营 笔记(二)_第28张图片
2023-2-2-openMMLab AI实战营 笔记(二)_第29张图片

模型学习:

模型学习的范式:

目标:确定模型Fx的具体形式后,找寻最优参数x’,是的模型Fx'(X)给出准确的分类结果P

(y|X)

范式一:监督学习——数据标注

2023-2-2-openMMLab AI实战营 笔记(二)_第30张图片

范式二:自监督学习——不需要标注数据

2023-2-2-openMMLab AI实战营 笔记(二)_第31张图片

监督学习:

流程:标注数据-定义损失函数-最优化

2023-2-2-openMMLab AI实战营 笔记(二)_第32张图片

交叉熵函数 Cross-Entropy Loss:

2023-2-2-openMMLab AI实战营 笔记(二)_第33张图片

优化目标&随机梯度下降:

2023-2-2-openMMLab AI实战营 笔记(二)_第34张图片

动量 Momentum SGD:

基于梯度下降训练神经网络的整体流程:

2023-2-2-openMMLab AI实战营 笔记(二)_第35张图片

训练技巧:

2023-2-2-openMMLab AI实战营 笔记(二)_第36张图片

学习率与优化器策略:

权重初始化(随机初始化):

2023-2-2-openMMLab AI实战营 笔记(二)_第37张图片

学习率对训练的影响:

2023-2-2-openMMLab AI实战营 笔记(二)_第38张图片

学习率策略:

2023-2-2-openMMLab AI实战营 笔记(二)_第39张图片
2023-2-2-openMMLab AI实战营 笔记(二)_第40张图片
2023-2-2-openMMLab AI实战营 笔记(二)_第41张图片
2023-2-2-openMMLab AI实战营 笔记(二)_第42张图片

2023-2-2-openMMLab AI实战营 笔记(二)_第43张图片

2023-2-2-openMMLab AI实战营 笔记(二)_第44张图片

2023-2-2-openMMLab AI实战营 笔记(二)_第45张图片

2023-2-2-openMMLab AI实战营 笔记(二)_第46张图片

数据增强:

数据表较少时,需要扩充数据集

数据增强:通过简单的变换产生一系列副本,比如几何变换、色彩变幻、随机遮挡。。

2023-2-2-openMMLab AI实战营 笔记(二)_第47张图片

2023-2-2-openMMLab AI实战营 笔记(二)_第48张图片
2023-2-2-openMMLab AI实战营 笔记(二)_第49张图片
2023-2-2-openMMLab AI实战营 笔记(二)_第50张图片

模型相关策略:

2023-2-2-openMMLab AI实战营 笔记(二)_第51张图片
2023-2-2-openMMLab AI实战营 笔记(二)_第52张图片

自监督学习:

基于代理任务:https://zhuanlan.zhihu.com/p/150224914

2023-2-2-openMMLab AI实战营 笔记(二)_第53张图片

基于代理任务:

2023-2-2-openMMLab AI实战营 笔记(二)_第54张图片

基于对比学习:

2023-2-2-openMMLab AI实战营 笔记(二)_第55张图片

基于掩码学习:

2023-2-2-openMMLab AI实战营 笔记(二)_第56张图片

2023-2-2-openMMLab AI实战营 笔记(二)_第57张图片

二、图像分类工具包与MMClassification介绍与实践

三、目标检测

四、目标检测工具包与MMDetection介绍与实践

你可能感兴趣的:(23,openMMLab,AI,实战营,上课笔记,人工智能)