基于神经网络的深度学习——第一章_绪论

第一章 绪论

1. 机器学习步骤
   

2. 表示学习：Representation learning，自动地学习出有效的特征，提高机器学习模型的性能。
   表示：Representation，有效的特征
   表示学习的关键：构建具有一定深度的多层次特征表示。

3. one-hot向量：有且只有一个元素为1，其余元素都为0的向量

4. 嵌入：高维的局部表示 映射到 低维的分布式表示

5. 深度学习的数据处理流程
   

6. 激活函数
   如果不用激活函数，每一层输出都是上层输入的线性函数，无论神经网络有多少层，输出都是输入的线性组合，这种情况就是最原始的感知机（Perceptron）。

   如果使用的话，激活函数给神经元引入了非线性因素，使得神经网络可以任意逼近任何非线性函数，这样神经网络就可以应用到众多的非线性模型中。

7. 反向传播算法：基于梯度下降，包括两个环节(激励传播、权重更新)