神经网络学习函数和训练函数有什么联系?

训练函数和学习函数是两个不同的函数 ,网络设置中两个都有。简单的说,训练函数确定调整的大算法,是全局调整权值和阈值,考虑的是整体误差的最小; 学习函数决定调整量怎么确定,是局部调整权值和阈值,考虑的是单个神经元误差的最小。所以两者不冲突,可以一样也可以不同,就像你绕着楼跑步时,地球也在绕着太阳跑,是局部与整体的区别,既有联系又有区别,辩证统一。

训练函数是如何让误差最小的一些算法,如梯度下降,共轭梯度,这里强调算法。学习函数是指,权值和阈值的调整规则,或者称更新规则。训练函数求得权值或阈值之后,由学习函数进行调整,然后再由训练函数训练新的权值或阈值,然后再调整,反复下去。

 

Matlab7.6版本中训练函数与学习函数的区别? - MATLAB等数学软件专版 - 经管之家(原人大经济论坛)



作者:黄柏月
链接:https://www.zhihu.com/question/36358823/answer/208105681
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

你可能感兴趣的:(Matlab)