2020-02-19

经过5天的学习，非常开心对整个知识有了较大的收获，

从最初的线性回归，softmax与分类模型，多层感知机，到学习初步的卷积神经网络，leNet网络，为解决神经网络训练中的过拟合、欠拟合和梯度消失爆炸，都进行了详细的代码实现。

有了初步的知识，就可以开始学习数据提前处理，例如批量归一化和残差网络、文本预处理，数据增强，提高模型的预测能力。

接着在自然语言领域开始详细介绍语言模型、循环神经网络和注意力机制，以及采用凸优化和梯度下降解决模型的参数，为网络改善提供了基础。

后面将学习最新的网络模型和在图像上的应用。