训练流程+卷积神经网络

训练流程

一般神经网络训练的整体流程

训练流程+卷积神经网络_第1张图片

OpenMMLab 2.0的训练流程

训练流程+卷积神经网络_第2张图片

卷积神经网络(CNN)

传统的深度神经网络(DNN)在处理图片数据时,存在两点问题:1)参数量大;2)图像本身是二维结构,相邻像素直接存在一定的关联。因此,CNN在cv领域大放异彩。

CNN的优势

  1. 局部连接:像素局部相关

  1. 权重共享:位移不变性

CNN整体结构

训练流程+卷积神经网络_第3张图片

卷积输出尺寸计算公式

其中,k是卷积核大小,s是步长,p是边缘填充。

激活函数

训练流程+卷积神经网络_第4张图片

概率输出层

概率输出层将网络输出转换为概率向量。

二分类:通过sigmoid函数计算正类的概率。

多分类:通过softmax函数计算K类的概率。

你可能感兴趣的:(学习笔记,人工智能,深度学习)