卷积神经网络与传统神经网络的区别

这里假设输入的图像是300x300大小的。
传统神经网络:假设我们用一个有128个单元的全连接层,则我们需要300x300x128=11520000个参数(不考虑偏置)。

卷积神经网络:假设我们采用5x5x3的filter,对于不同的区域,我们都共享同一个filter,因此就共享这同一组参数,一个filter有75个参数,假设我们使用10个filter,则需要750个参数(不考虑偏置),
由此我们可以看出卷积神经网络的参数数量大大减少了。
参数共享机制让我们的网络的参数数量大大地减少。这样,我们可以用较少的参数,训练出更加好的模型,典型的事半功倍,而且可以有效地 避免过拟合。
同样,由于filter的参数共享,即使图片进行了一定的平移操作,我们照样可以识别出特征,这叫做 “平移不变性”。因此,模型就更加稳健了。

你可能感兴趣的:(卷积神经网络与传统神经网络的区别)