卷积神经网络基本组成结构

1.深度学习三部曲


卷积神经网络基本组成结构_第1张图片

step1:搭建神经网络结构(用于提取输入图像的特征)

step2:找到一个合适的损失函数(如cross entropy loss,MSE,MAE)

step3:找到一个合适的优化函数,更新参数(如反向传播,随机梯度下降) 


2.损失函数


卷积神经网络基本组成结构_第2张图片

 假如输入图像是向量xi(-15,22,-44,56),w和b是要学习的参数,经过f(x)后得到的值通过softmax分类,选取一种损失函数将真实值与预测值比较,经过参数优化最终选取一个合适的损失函数


3.传统的神经网络与卷积神经网络比较


卷积神经网络基本组成结构_第3张图片

 假如input image是一张1000*1000大小的图片,要学习的单元是1M个,那么全连接之后则一共有10**12个参数。如果是卷积神经网络,由于参数共享,假如我们的kernel是5*5,那么这一个unit扫一遍图像只需要学习(5*5+1)个参数(1是偏置b)

和传统的神经网络相比较,CNN需要学习的参数大大减少


卷积神经网络基本组成结构_第4张图片


 4.池化


卷积神经网络基本组成结构_第5张图片


5.全连接


卷积神经网络基本组成结构_第6张图片

你可能感兴趣的:(卷积神经网络)