OpenMMLab AI 实战营 Day 2

OpenMMLab AI实战营 Day 2

主讲人 王若晖

本讲全面介绍了计算机视觉领域的各种研究范式、需求和设计思路：CNN、轻量化、Transformer、自监督、优化器、训练技巧等，每一个部分mmlab都有研发工具包的支持。

ConvNeXt，将很多视觉神经网络设计中的工程技法运用回卷积神经网络的设计，大大引导出了卷积网络的天资，超越了SwinTransformer，让CNN重焕生机。

EfficientNet是NAS出来的结果。
RegNet为NAS的设计空间提供指导。

深度可分离卷积，大大减少计算量。

基于打乱的代理任务 和 基于掩码重建，都是得用Transformer作为骨干网络才擅长的自监督任务。