AlexNet网络结构详解与花分类数据集下载

• 看b站up主霹雳吧啦Wz视频，所做笔记
• 视频链接：AlexNet网络结构详解与花分类数据集下载
• ISVRC：一个用于图像分类的数据集，属于ImageNet的一个子集

  

• 网络亮点

  

  • 高端GPU的提速比可以达到CPU的20-50倍的速度差距
  • sigmoid激活函数的两个缺点：
    • 1、求导的过程比较麻烦；
    • 2、当网络比较深的时候会出现梯度消失的现象。
    • Relu能够解决以上问题
  • dropout操作可以减少过拟合现象
    • 过拟合现象：过拟合的函数能够完美地预测训练集，但是对新数据的测试机预测效果较差，过度的拟合了训练数据，而没有考虑到泛化能力
      • 第一幅图是网络的一个初始状态，随机地划分了一条边界对于样本进行分类
      • 通过不断的训练过程中，网络会慢慢学习出一条分类的边界如第二幅图所示，得到了一个比较好的分类的结果
      • 第三幅图虽然能够将训练样本进行完全正确的分类，但是图中出现了过拟合现象
    • 出现过拟合现象的原因有很多：
      • 网络中参数过多
      • 模型过于复杂
      • 训练数据过少等
    • 使用了dropout之后，会在每一层随机地失活一部分神经元，变相地减少了网络中训练的参数，从而达到了减少过拟合现象的作用
• 网络分析

  

  • 注意：
    • 代表padding的2p值的是两边padding的像素之和，并不一定要求两边像素一定要一样
    • 池化操作只会改变输出矩阵的高度和宽度，不会改变特征矩阵的深度
    • 最后一个全连接层只有1000个节点，对应数据集的1000个类别，如果要将这个网络应用到自己的数据集的话，只需要将最后一层全连接层的节点个数改成和自己数据集的类别数一致即可