深度学习——day22 知识回顾：什么是神经网络

1.1 序章

AI 和电力一样，是足以改变世界的技术

1.2 什么是神经网络

• 例子：房价预测
  
  不管训练集有多大，神经网络在训练好之后只需要输入x，就能输出想要的结果y，所有中间过程都自动完成，只是这个过程的精确度和健壮性需要更精密的调试。
  
  中间每一个圆圈都代表一个隐藏单元
  

1.3 用神经网络进行监督学习

• 监督学习
• 机智的选择x和y才能得出更好的结果

1.3.1例子

• 结构化和非结构化数据
  

1.4 深度学习为什么兴起

1.4.1 Scale drives deep learning progress

一开始，数据量很少，一些模型表现很好；紧接着进入大数据时代，数据量太多远超传统算法能处理的规模。
“规模”不只是NN的规模，还需要数据（带标签）的“规模”

1.4.2 ReLU与Sigmod等算法

SIgmod函数 与 ReLU函数 图示如下：
sigmod函数（左）在x负轴上有一段的斜率为零，这在梯度下降算法中会导致算法运行很慢；ReLU函数就能够很好地解决这个问题，使模型计算更快

1.4.3 计算速度影响迭代速度

1.5 课程资源

直接联系，也可以去课程论坛