FTRL —— cross entropy 的导数

符号定义：

• ${\mathbf{x}}_t\in {\mathbb{R}}^d$：d 空间中的一个样本实例，其标签值 $y_t\in \{0,1\}$
• $p_t$ 为样本 ${\mathbf{x}}_t$ 的预测值，在 logistic regression 环境下，
  • $p_t=\sigma ({\mathbf{w}}_t\cdot {\mathbf{x}}_t)$，$\sigma (a)=1/(1+\exp (-a))$
  • ${\sigma }^{\prime }(a)=\sigma (a)(1-\sigma (a))$
  • $p_t^{\prime }=p_t(1-p_t)\cdot {\mathbf{x}}_t$
• 损失函数为对数损失（LogLoss）：
  • ${\ell }_t({\mathbf{w}}_t)=-y_t\log p_t-(1-y_t)\log (1-p_t)$
  • 因为 $y_t\in \{0,1\}$，所以 ${\ell }_t({\mathbf{w}}_t)=-\log p_t$ 或 ${\ell }_t({\mathbf{w}}_t)=-\log (1-p_t)$

1. 计算 $\nabla {\ell }_t(\mathbf{w})$

$$\begin{array}{llc}\frac{\partial {\ell }_t(\mathbf{w})}{\partial \mathbf{w}}& =-\frac{y_t}{p_t}{p}_t^{\prime }+\frac{1-y_t}{1-p_t}{p}_t^{\prime }& \\ & =(-\frac{y_t}{p_t}+\frac{1-y_t}{1-p_t})p_t^{\prime }& \\ & =\frac{p_t-y_t}{p_t(1-p_t)}\cdot p_t(1-p_t)\cdot {\mathbf{x}}_t& \\ & =(p_t-y_t){\mathbf{x}}_t& \end{array}$$