《人工智能基础》4/91天阅读

卷积层：

当一个深度神经网络以卷积层为主体时，我们也称之为卷积神经网络。

卷积层就是用卷积运算对原始图像或者上一层的特征进行变换的层。

全连接层：

略。

归一化指数层：

归一化指数层的作用就是完成多类线性分类器中的归一化指数函数的计算。

非线性激活层：

如果我们在每次线性运算后，再进行一次非线性运算，那么每次变换的效果就可以得以保留。

池化层：

如果图像或特征图的分辨率很大，那么卷积层的计算量就会很大。通常在几个卷积层之后插入池化层，以降低特征图的分辨率。

人工神经网络与生物神经网络的关系：

人工神经元是生物神经元的一个数学模型。

在实际应用中，主流的人工神经网络和生物神经网络已没有直接的联系。

人工神经网络的训练：

训练本质上就是寻找最佳参数的过程。

反向传播算法是训练神经网络最有效的手段之一。涉及梯度计算的链式法则和随机梯度下降。