深度学习记录--初印象

神经网络单元

我理解成是一种通过输入大量的样本数据与结果数据，在一定的学习之后，尽可能给出准确的预测的一种单元

几种不同的神经网络

大致可以分为SNN(标准神经网络),CNN(卷积神经网络),RNN(循环神经网络)

相关应用场景

广告推荐，动物识别，无人驾驶

兴起的原因

数据量，数据规模的增大，导致传统的算法的性能提升不高，不足以满足需求。

而神经网络可以在数据规模很大的条件下做到性能的大大提高，并且神经网络的规模越大，其性能也就越高。

总的来说，数据规模越大，神经网络规模越大，性能表现越好

但由于数据规模越大会导致训练时间随之增大，所以往往会增大神经网络的规模。

同时，由于算法的改进以及算力的提升缩减了训练模型的迭代时间，使得神经网络的提升更加迅速。

比如sigmoid函数(左图)通过算法改进为relu函数(右图)，提升了梯度，使学习速度得到提升。

也由于近来硬件的升级，算力不断提升，训练模型的时间缩短，使更多的想法得以实践。