卷积神经网络记录

1、深度学习发展史

• 大致经历两次浪潮：浅层学习，深度学习
• Geoffrey Hinton 神经网络之父
• AlexNet 2012年在ILSVRC比赛中脱颖而出，进入深度学习爆发阶段

[1] 深度学习的昨天今天和明天
https://wk.baidu.com/view/a65b6d5ffd4ffe4733687e21af45b307e871f920
[2] 深度学习技术综述
https://m.doc88.com/p-9905015544172.html

2、基础概念

• 激活函数（sigmoid，tanh，relu）
• 卷积运算
• 池化（步幅，卷积核，卷积特征面）
• 全连接
• dropout
• softmax

[1]空间魔法师的概念 www. zhihu. com/question/22334626
[2] 《卷积神经网络从入门到精通》第四章
[3] 《深度学习：基于python的理论与实现》第二章

3、AlexNet

是深度学习的突破性成果
每层在做什么，参数数量变化，GPU的使用，relu的使用，keras实现

4、深度学习框架

2012百花齐放
2018 tensorflow 老大哥
当今 ML框架之争：pytorch tensorflow