人工神经网络(Artificial Neural Netwroks)笔记-delta规则增量学习

delta规则增量学习

Wij(t+1)=Wij(t)+α(Yj-Aj(t))Oi(t)


式中 Wij(t+1)、Wij(t) 分别表示神经元ANi到ANj的联接在时刻t+1和时刻t的强度,Oi(t)为ANi神经元在时刻t的输出,Yj为神经元ANj的理想输出,Aj(t)为神经元ANj的激活状态,α为给定的学习率

这是有监督学习(Supervised Learning)中最为重要,应用最普遍的delta规则

增量学习(Delta Rule Learning)和 向后传播学习(Back Propagation Learning) 都可使用delta规则来调整联接权重

BP网络中delta规则的理论推导是一个难点,但是只要遵循上面的公式来做就可以实现了

你可能感兴趣的:(人工神经网络(Artificial Neural Netwroks)笔记-delta规则增量学习)