【机器学习之神经网络】损失函数

损失函数

但是会出下分数一样的情况，如

 

 

 该情况突出的问题是，w1偏重于一个像素点，而w2均衡

 为了解决这一问题，加入正则化惩罚项

 

 

例如，上图的正则惩罚项w2为(1/4)^2 * 4 = 1/4

 这会使得虽然分数相同但是w的损失量不同从而更好地衡量w

 

 为了使结果得到概率值而不是分数，用softmax分类器进行归一化，即先算e^x在进行概率计算

 

转载于:https://www.cnblogs.com/python-machine-learning/p/11594775.html