二元交叉熵 binary cross entropy

二元交叉熵 binary cross entropy

理解一下这个损失函数，一般来说，适用于二分类任务，但是在几个推荐系统的paper中看到了这个损失函数，先上公式：
$$Loss=-\frac{1}{N}\sum _{i=1}^N{y}_i\cdot \log (p(y_i))+(1-y)\cdot \log (1-p(y_i))$$
其中，$y_i=\{0,1\}$是二元标签，$p(y)$是输出属于$y$标签的概率。

我们期望$y_i=1$的时候$p(y)$越大越好，看一下理想情况：$y$是正例的时候，$p(y)=1$，损失就是0；反过来看，$p(y)$趋于0，$\log p(y)$就趋于负无穷，导致损失非常大。