神经网络常见的损失函数

神经网络常见的损失函数_第1张图片

衡量预测值与真实值之间的差异的函数就叫做损失函数,衡量模型参数的质量的函数,衡量的方式是比较网络输出和真实输出的差异。

常见命名:

神经网络常见的损失函数_第2张图片

 

分类任务的损失函数

神经网络常见的损失函数_第3张图片

神经网络常见的损失函数_第4张图片

神经网络常见的损失函数_第5张图片

交叉熵结果越接近0,说明预测结果越接近真实值。

 

神经网络常见的损失函数_第6张图片

 

回归任务的损失函数

神经网络常见的损失函数_第7张图片

神经网络常见的损失函数_第8张图片

神经网络常见的损失函数_第9张图片

神经网络常见的损失函数_第10张图片

神经网络常见的损失函数_第11张图片

神经网络常见的损失函数_第12张图片

神经网络常见的损失函数_第13张图片

Smooth 上面2中损失函数的结合,使用最多

 

网络会根据损失函数更新网络参数权重,来训练网络模型,对神经网络进行优化。

 

 

 

 

 

你可能感兴趣的:(人工智能,神经网络,tensorflow)