【总结】有三AI所有原创模型分析设计优化与部署相关的学习资料汇总（2022年12月）...
好的模型结构是深度学习成功的关键因素之一，不仅是非常重要的学术研究方向，在工业界实践中也是模型是否能上线的关键。对各类底层深度学习模型设计和优化技术理解的深度是决定我们能否在深度学习项目中游刃有余的关键，而模型的部署则是项目的最后一环。为了让大家能够系统性掌握相关内容，为以后做研究以及就业打下基础，我们平台输出了海量与模型有关的内容，包括公众号文章，书籍，以及4门对应的视频课程，本次来汇总一下相关学习资料，内容层层递进，从新手到进阶，一键全部掌握！
模型设计与优化相关文章
公众号最早期的模型解读相关学习资料，也是最适合初学者入门的资料，就是经典的CNN模型解读。
相关文章请阅读：
【完结】总结12大CNN主流模型架构设计思想
【模型解读】从LeNet到VGG，看卷积+池化串联的网络结构
【模型解读】network in network中的1*1卷积，你懂了吗
【模型解读】GoogLeNet中的inception结构，你看懂了吗
【模型解读】说说移动端基准模型MobileNets
【模型解读】pooling去哪儿了？
【模型解读】resnet中的残差连接，你确定真的看懂了？
【模型解读】“不正经”的卷积神经网络
【模型解读】“全连接”的卷积网络，有什么好？
【模型解读】深度学习网络只能有一个输入吗
【模型解读】从“局部连接”回到“全连接”的神经网络
【模型解读】从2D卷积到3D卷积，都有什么不一样
【模型解读】浅析RNN到LSTM
【模型解读】历数GAN的5大基本结构
然后我们在修行之路系列中继续深入进行更新，在AI不惑境界中详细解读了更加深入的模型理解与优化相关内容。
相关文章请阅读：
【完结】你对深度学习模型的理解是否足够深刻，这12篇文章可以作为一个参考
【AI不惑境】数据压榨有多狠，人工智能就有多成功
【AI不惑境】网络深度对深度学习模型性能有什么影响？
【AI不惑境】网络的宽度如何影响深度学习模型的性能？
【AI不惑境】学习率和batchsize如何影响模型的性能？
【AI不惑境】残差网络的前世今生与原理
【AI不惑境】移动端高效网络，卷积拆分和分组的精髓
【AI不惑境】深度学习中的多尺度模型设计
【AI不惑境】计算机视觉中注意力机制原理及其模型发展和应用
【AI不惑境】模型剪枝技术原理及其发展现状和展望
【AI不惑境】模型量化技术原理及其发展现状和展望
【AutoML】如何选择最合适的数据增强操作
【AutoML】激活函数如何进行自动学习和配置
【AutoML】归一化(Normalization)方法如何进行自动学习和配置
【AutoML】优化方法可以进行自动搜索学习吗？
【AutoML】损失函数也可以进行自动搜索学习吗？
【AutoML】如何使用强化学习进行模型剪枝？
【AutoML】强化学习如何用于模型量化？
【AutoML】当前有哪些可用的AutoML平台？
【AutoML】强化学习如何用于模型蒸馏？
【AutoML】强化学习如何用于自动模型设计(NAS)与优化？
【AutoML】进化算法如何用于自动模型搜索(NAS)
【AutoML】连续可微分架构如何用于网络结构搜索
【完结】如何学习AutoML在模型优化中的应用，这12篇文章可以作为一个参考
保持相关论文阅读是基本的学习习惯，我们推荐了许多模型设计与优化相关文章，供大家循序渐进进行学习，如下：
【每周论文推荐】初入深度学习CV领域必读的几篇文章
【每周CV论文推荐】初学者必须精读的5篇深度学习优化相关文章
【每周CV论文推荐】掌握残差网络必读的10多篇文章
【每周CV论文推荐】 初学高效率CNN模型设计应该读的文章
【每周CV论文推荐】初学模型可视化分析有哪些值得阅读的论文？
【每周CV论文推荐】初学视觉注意力机制有哪些值得阅读的论文？
【每周CV论文推荐】初学模型剪枝值得阅读的文章
【每周CV论文推荐】初学模型量化值得阅读的文章
【每周CV论文推荐】初学模型蒸馏值得阅读的文章
【每周CV论文推荐】初学动态模型压缩值得阅读的文章
还有很多相对比较独立的文章，这里我们只列举一些，更多请大家自行去搜索学习。
【总结】言有三&阿里天池深度学习模型设计直播汇总，附赠超过200页直播PPT课件
【杂谈】当前知识蒸馏与迁移学习有哪些可用的开源工具？
【杂谈】当前模型量化有哪些可用的开源工具？
【杂谈】当前模型剪枝有哪些可用的开源工具？
【杂谈】一招，同时可视化18个开源框架的网络模型结构和权重
【杂谈】那些酷炫的深度学习网络图怎么画出来的？
模型使用视频课程专栏
为了在最大程度上让大家掌握好各类模型的使用，我们也推出了一些理论与实战专栏，已经基本完结的包括《深度学习之模型分析：理论基础篇》，《深度学习之模型设计：理论实践篇》，《深度学习之模型优化：理论实践篇》，《深度学习之模型部署》。
首先是第1重境界，想要掌握模型，必须先懂你的模型！
深度学习模型使用的门槛虽然低，但模型参数多，网络结构复杂，模型结构的设计以及训练过程中超参数的调试，都非常依赖于经验。
结果不好，是数据的问题还是模型的问题，往往分析起来比较困难。如果是数据问题，那到底是什么问题？如果只凭经验，没有很科学的分析工具，仍然会有盲人摸象的感觉。因此为了能够更好地进行研究和实践，对模型进行相关的分析是非常重要的。
为了帮助初学者深入掌握模型分析相关知识，有三AI推出了《深度学习之模型分析》系列课程，为大家深入掌握深度学习模型分析相关方法以及实践打下基础。
本课程内容包括模型分析的几个重要方向的理论与实践（基于Pytorch），已有时长大概3个小时，下面是当前课程的大纲脑图：
(1) 模型可视化：涵盖了深度学习模型可视化的几个重要且实用的方向，如模型结构可视化、模型权重可视化、模型特征可视化，激活热图可视化，后续还会增加其他可视化技术等，每一部分内容都是理论+实践。我们会非常详细地讲解算法中的细节，帮助彻底消化算法原理；
(2) 复杂度分析。重点讲解FLOPs，MAC等模型复杂度指标的理论计算，以及若干自动化统计工具的使用。
(3) 速度分析。重点讲解Pytorch模型速度分析API以及相关插件的使用。
实践案例效果
课程的详情，请大家阅读：【视频课】AI必学，超3小时，3大模块，掌握模型分析核心技术！
然后是第2重境界，开始针对自己的任务选择与设计模型！
模型的设计是整个深度学习领域的通用基础，不管是从头设计自己的神经网络，还是对已有模型进行优化获得更高的任务指标，更快的运行速度，获得更小的模型体积，都需要掌握各类网络的设计技巧，是深度学习算法工程师进阶的难点及必学点！！！
为了让大家能够更加系统更加深入的掌握模型设计相关的内容，有三AI推出了《深度学习之模型设计-理论实践篇》系列课程，为大家深入掌握深度学习模型设计相关方法以及实践打下基础。
本课程内容已经包含有网络深度与模型性能、网络宽度与模型性能、注意力机制、轻量化网络、安卓部署5个部分，总共时长超过20个小时：
理论部分内容如下，包括：
(1) 网络深度与模型性能主要包含：经典浅层卷积网络的设计、网络深度对分类模型的影响；
(2) 网络宽度与模型性能主要包含：经典模型的宽度设计思想、网络宽度对模型性能影响；
(3) 注意力机制主要包含：空间注意力模型、通道注意力模型、 混合注意力模型、项目实战；
(4) 轻量化网络理论主要包含：Xception网络、MobileNet V1和V2网络、 ShuffleNet V1和V2网络、SqueezeNet网络；
实践部分内容如下，包括：
(1) 基于MobileNet的网络深度设计分析及实战；
(2) 基于XceptionNet的网络宽度设计分析及实战；
(3) 基于SeNet的人种分类实战；
(4) 基于Pytorch的安卓端模型部署。
实践案例效果
课程的详情，请大家阅读：【视频课】AI必学，超20小时，4大模块，循序渐进地搞懂CNN模型设计与简单部署！
接下来是第3重境界，对模型进行优化改进，使其能够满足自己业务上线的需求！
模型优化是模型能够在各类嵌入式平台使用的关键技术，包括紧凑模型设计，模型剪枝，模型量化，模型蒸馏，自动化模型设计等内容。
为了让大家能够更加系统更加深入的掌握模型优化相关的内容，有三AI推出了《深度学习之模型优化-理论实践篇》系列课程，为大家深入掌握深度学习模型优化相关方法以及实践打下基础。
本课程内容已经涵盖了深度学习模型优化的核心领域，包括模型剪枝、模型量化、知识蒸馏，超过10个小时，既有足够的宽度，也具备有足够的深度。我们会非常详细地讲解算法中的细节，帮助彻底消化算法原理；
下图是已有课程的大纲脑图：
实践案例效果
课程的详情，请大家阅读：【视频课】AI必学，超10小时，4大模块，掌握模型优化核心技术！
最后是第4重境界，对模型进行实际部署，才是我们的终极目标！
深度学习模型必须要经过部署到实际的生产环境中，才能产生真正的应用价值。对于公司而言，无需为AI模型部署云端服务器，能够大幅度降低公司的运营和服务成本；对于用户而言，用户的数据，如视频、图片、声音、文字等，无需上传至云端服务器，可在本地移动端进行计算，用户的隐私得到有效的保护。
为了让大家能够更加系统深入的掌握模型部署相关的内容，有三AI推出了《深度学习之模型部署》系列课程，让有经验有实力的讲师带你系统深入学习，掌握模型部署流程。
本次课程中一共已经包含了6个平台和框架案例，分别为通用Pytorch部署，通用NCNN部署，Tengine在EAIDK嵌入式平台上的部署，TensorRT在服务器端的模型优化与部署，微信小程序的前后端完整部署，MNN在Android手机端部署，后续还会增加其他硬件平台与部署框架。
下图是已有课程的大纲脑图：
实践案例效果
课程的详情，请大家阅读：【视频课】快速掌握6大模型部署框架(Pytorch+NCNN+MNN+Tengine+TensorRT+微信小程序)！
另外，也有一些独立的模型相关的实战课程，大家可以查看下面的介绍。
【项目实战课】人人免费可学，基于ResNet的生活垃圾图像分类实战
【项目实战课】基于Pytorch的InceptionNet花卉图像分类实战
【项目实战课】基于Pytorch的的SENet人种图像分类实战
【项目实战课】基于Pytorch的稀疏约束结构化模型剪枝实战
【项目实战课】基于ncnn框架与KL散度的8bit对称模型量化与推理实战
【项目实战课】从零实现原生Pytorch安卓端图像分类模型部署
【项目实战课】从零实现原生Pytorch安卓端图像分割模型部署
【项目实战课】从零实现原生Pytorch安卓端目标检测模型部署
【项目实战课】人人免费可学！基于Pytorch的图像分类经典知识蒸馏实战
最后，欢迎大家来我们平台投稿原创的技术专栏，申请开设相关实战类课程。
模型设计书
2020年有三出版了新书《深度学习之模型设计：核心算法与案例实践》，在电子工业出版社正式出版，本次书籍是当时业界首次深入全面讲解深度学习模型设计的书籍，同时配套有大量实战案例。
全书共计12章，全书目录如下。
书籍完整介绍请阅读：言有三新书来袭！业界首次深入全面讲解深度学习模型设计
CV秋季划-模型算法组
最后，如果大家想要一次性获取所有模型算法相关的学习资源（包括视频、图文、书籍等），可以加入有三AI-CV秋季划模型算法组，永久拥有有三AI社区所有模型算法相关的学习课程资源，相关介绍可阅读下面视频与文章。
【CV秋季划】模型算法与落地很重要，如何循序渐进地学习好（2022年言有三一对一辅导）？
有三AI知识星球-模型相关板块
有三AI知识星球是我们公众号内容的升级，包含更多更新技术的图文解读（注意星球是一个图文知识社区），关于星球的介绍如下。
【重要】有三AI知识星球不再对外公开！还想加入的有哪些途径？
知识星球中一个非常重要的模块就是模型结构1000变，内有超过300期经典模型的解读，下面是其中一些重要模块的归类预览。
星球里的学习方式为提供论文下载+论文解读，如下：
1 模型设计板块
这一部分内容更新的就是通用的模型设计思想，与有三出版的《深度学习之模型设计：核心算法与案例实践》书籍契合度非常高，请大家务必配合一起阅读，可以作为书的补充和进阶。其中内容包括：网络的起源，经典的ImageNet网络，残差网络，分组与分支网络，三维卷积，时序网络，注意力机制，形变网络，多输入网络，多尺度网络等内容，目前有超过70期内容。
请大家使用相关标签进行阅读，#CNN起源# #ImageNet经典# #残差网络# #分组卷积# #注意力机制# #三维卷积#等。
2 模型优化板块
这一部分更新的就是通用的模型优化思想，包括紧凑模型设计，动态推理，模型的剪枝、量化、蒸馏，软硬件优化，模型自动搜索等内容，目前有超过70期内容。
请大家使用相关标签进行阅读，包括#模型剪枝# #模型量化# #模型蒸馏# #模型压缩# #硬件优化# #动态推理# #AutoML#等。
转载文章请后台联系
侵权必究
【CV夏季划】2022年正式入夏，从理论到实践，如何系统性进阶CV？（产学研一体的超硬核培养方式）
【CV秋季划】模型算法与落地很重要，如何循序渐进地学习好（2022年言有三一对一辅导）？
【CV秋季划】生成对抗网络GAN有哪些研究和应用，如何循序渐进地学习好（2022年言有三一对一辅导）？
【CV冬季划】终极进阶，超30个项目实战+3大基础方向专栏+3本书+3年知识星球（2022年言有三一对一辅导）
【CV秋季划】人脸算法那么多，如何循序渐进地学习好？
【CV秋季划】图像质量提升与编辑有哪些研究和应用，如何循序渐进地学习好？