反向传播 Backward Prorogation

原文：Hemanth Kumar Mantri's answer to How do you explain back propagation algorithm to a beginner in neural network? - Quora

误差逆向传播

    误差逆向传播（Backward Prorogation of Errors）是人工智能神经网络（Artificial Neural Network）常用的训练方法之一，是一种监督学习方法，即训练数据为带标签数据，就像有一个“监督者”监督整个学习过程一样。

    可以将误差逆向传播理解为“从错误中学习”，每次神经网络模型“犯错”，”监督者”就给予指正。

    神经网络由节点和不同的层组成，包括：输入层、隐含层、输出层。相邻节点之间的连接拥有权重参数，训练的目的就是为这些连接找到正确的权重。给定一个输入向量，利用这些权重参数，可以计算得出输出向量。

    在监督学习中，训练数据是有标签的，即对于给定的输入，我们有期望的输出。

误差逆传播算法

    初始状态下，所有权重随机赋值，神经网络对训练数据中的每一条输入数据进行预测，并与给定的期望值比较，将与期望值的误差“逆向”传回前面的各层，前面各层的权重随之调整。这个过程重复进行，直至模型的误差低于一个给定的阈值。

    上述过程结束，这个“训练好的”神经网络便可以进行实际的预测工作。可以这样理解：神经网络从对样本（带标签的训练数据）的错误预测（误差逆向传播）中学习。

    了解更多关于反向传播，可以参考一文弄懂神经网络中的反向传播法——BackPropagation - Charlotte77 - 博客园

    其他机器学习、神经网络相关博文，请点这里