CNN神经网络优化常用函数范式一览(损失函数loss,学习率learning_rate,滑动平均ema,正则化regularization)
来源:学习北大曹健老师Tensorflow课程后做的学习笔记,整理后在此分享给大家.之前是抄在本子上的,可能存在一些抄写错误或是标记缺失,若发现了可以评论告诉我.谢谢.###一.损失函数(loss):预测值y与已知答案y_的差距神经网络优化目标即找到适合的w以减小loss,有三种减小loss的方法1.均方误差mse(MeanSquaredError)2.自定义损失函数3.交叉熵ce(CrossEn