深度度量学习（Deep Metric Learning）函数求导公式

归一化向量的求导

向量模求导： 定义$\mathbf{x}\in {\mathbb{R}}^{1\times d}$为一个列向量，$||\mathbf{x}||$为向量的模,$\hat{\mathbf{x}}$表示经过L2归一化之后的向量，长度为1

$\frac{\partial }{\partial \mathbf{x}}(||\mathbf{x}||)=\frac{\partial }{\partial \mathbf{x}}\sqrt{{\mathbf{x}}^T\mathbf{x}}=\frac{1}{2}\frac{2{\mathbf{x}}^T}{\sqrt{{\mathbf{x}}^T\mathbf{x}}}=\frac{{\mathbf{x}}^T}{||\mathbf{x}||}={\hat{\mathbf{x}}}^T$

归一化向量求导：
$$\begin{gathered} \frac{\partial }{\partial \mathbf{x}}(\hat{\mathbf{x}})=\frac{\partial }{\partial \mathbf{x}}(\frac{\mathbf{x}}{||\mathbf{x}||})=\frac{\partial }{\partial \mathbf{x}}({\mathbf{x}}^T\frac{1}{||\mathbf{x}||}) \\ =\frac{1}{||\mathbf{x}||}\frac{\partial }{\partial \mathbf{x}}(\mathbf{x})+\mathbf{x}\frac{\partial }{\partial \mathbf{x}}(\frac{1}{||\mathbf{x}||}) \\ =\frac{1}{||\mathbf{x}||}-\mathbf{x}\frac{{\hat{\mathbf{x}}}^T}{||\mathbf{x}|{|}^2} \\ =\frac{||\mathbf{x}||I-\mathbf{x}{\hat{\mathbf{x}}}^T}{||\mathbf{x}|{|}^2} \\ =\frac{I-\hat{\mathbf{x}}{\hat{\mathbf{x}}}^T}{||\mathbf{x}||} \end{gathered}$$