《ImageNet Classification with Deep Convolutional Neural Networks》论文笔记

Alex Krizhevsky

---

通过这篇论文，一定程度上了解了deep learning  和image recognition 的结合

---

亮点：

1，神经元输出的调节函数，弃用sigmoid和tanh，转用nonlinearity方法： Rectified Linear Units（ReLUs）

2，多个GPU 共建一个神经网络时候的小trick

3，local normalization scheme 来帮助泛化

4，避免overfitting的两个方法

    （1）data augmentation

    （2）dropout