交叉熵损失函数的应用

1.单标签分类任务中的使用（二分类任务包含在其中）

参考：交叉熵在单标签分类任务中的使用

需要注意的是：

对单个样本，假设真实分布为，网络输出分布为，总的类别数为，则在这种情况下，交叉熵损失函数的计算方法为：

对于二分类问题，，这种情况下也是利用上面的交叉熵损失函数，即：

说明了公式的统一性

2.多标签分类任务中的使用

参考：交叉熵在多标签分类任务中的使用

需要注意的是：

在第1节（单标签分类任务中的使用）中，对一个batch，单标签n分类任务的交叉熵损失函数的计算方法为：

这里，若的分量才保留

在本节（多标签分类任务中的使用）中，对一个batch，多标签n分类任务的交叉熵损失函数的计算方法为：

这里，计算得到的分量均保留