TensorFlow学习4：深度学习的知识点

神经网络基础

1，神经元（Neuron）
2，权重（Weights）
3，偏差（Bias）
4，激活函数（Activation Function）
常用激活函数：Sigmoid，ReLU（整流线性单位），Softmax
5，神经网络
6，输入、输出、隐藏层
7，MLP（多层感知器）
8，正向传播（Forword Propagation）
9，成本函数（Cost Function）
10，梯度下降（Gradient Descent）
11，学习率（Learning Rate）
12，反向传播（Back Propagation）
13，批次（Batches）
14，周期（Epochs）
15，丢弃（Dropout）
16，批量归一化（Batch Normalization）

卷积神经网络

17，滤波器（Filters）
18，卷积神经网络（CNN）
19，池化（Pooling）
20，填充（Padding）
21，数据增强（Data Augmentation）

循环神经网络

22，循环神经元（Recurrent Neuron）
23，循环神经网络（RNN）
24，消失梯度问题（Vanishing Gradient Problem）
25，激增梯度问题（Exploding Gradient Problem）

参考： 深度学习入门必须理解这25个概念