AlexNet学习记录-前言

参考文献

参考文献：ImageNet Classification with Deep Convolutional Neural Network
作者：Alex Krizhevsky

• 文献名中的Deep，是相对于当时来讲比较深，但相比现在的网络已经是比较浅了。

前期知识储备

1. 机器学习

了解机器学习基本原理及概念，如数据集划分、损失函数、优化方法等

2. 神经网络

了解神经网络基本知识，特别是卷积神经网络的工作原理等

3. 图像分类

了解图像分类的概念，掌握图像分类的流程

4. PyTorch

了解PyTorch基本使用方法，如数据读取处理，模型构建，损失优化等

论文总览

摘要Abstract：介绍背景及提出AlexNet模型，获得ILSVRC-2012冠军

1. Introduction：研究的成功得益于大量数据及高性能GPU；介绍本论文主要贡献
2. The Dataset：ILSVRC数据集简介；图片预处理细节
3. The Architecture：AlexNet网络结构及其内部细节：ReLU、GPU、LRN、Overlapping Pooling
4. Reducing Overfitting：防止过拟合技术，数据增强和dropout
5. Details of learning：实验参数设置：超参调整，权重初始化
6. Results：AlesNet比赛指标、成绩及其详细设置
7. Qualitative Evaluations：实验探究，分析卷积核模式，模型输出合理性，高级特征的相似性
8. Discussion：强调网络结构之间的强关联提出进一步研究方向

学习目标

1. 模型结构设计：ReLU、LRN、Overlapping Pooling、双GPU训练

2. 减轻过拟合：图像增强、Dropout

3. 卷积核可视化

4. ILSVRC

Part 1、论文导读＋背景介绍

Part 2、论文总览＋AlexNet结构

Part 3、训练技巧讲解

Part 4、可视化及实验分析

Part 5、论文总结

Part 6、代码实现分析