Discriminative deep metric learning for face verification in the wild 度量学习(CVPR2014)

Hu, Junlin, Jiwen Lu, and Yap-Peng Tan. “Discriminative deep metric learning for face verification in the wild.” CVPR 2014. (度量学习用于Face Verification：)

马氏距离：

其中$M$是一个$d\times d$的半正定矩阵，根据Choleskey分解:

由此，马氏距离可化简为:

剩下需要根据神经网络去学习非线性变换W，而单纯的马氏距离无法捕捉到非线性的流形。

总体损失函数：

显然，上式最后一行是正则项，用于避免过拟合。其中$d_f^2(x_i,x_j)$可表示为：

这儿在新的space下直接用欧氏距离即可表示原空间下的马氏距离。$l_{ij}$为一个label，当$x_i$和$x_j$为同一类时，$l_{ij}=1$；当$x_i$和$x_j$为不同类时，$l_{ij}=-1$。

其中$g()$是hinge loss: $f(z)=max(z,0)$ 的平滑版近似表示 (参考[1])：

可以看出，当$z=1$时，loss为$\frac{1}{\beta }log2$,求导可得函数单调递增。
即当$z<0$时，损失较小，$z>0$时，损失较大。

这一部分损失函数的设置目的是使得：

这样使得损失函数尽量小。简单地说，就是促使对于正例之间的距离小于$\tau -1$,负例之间的距离大于$\tau +1$。如下图所示：

---

[1] Mignon, Alexis, and Frédéric Jurie. “Pcca: A new approach for distance learning from sparse pairwise constraints.” CVPR 2012.