关于在线学习算法ftrl的理解

今晚在看ftrl算法的参数更新策略,

看得不是很懂,然后就手抄一下,就感觉知道是那么回事了。

当中损失函数对向量的求导,感觉之前本科时没学过,问了一些人说是线性代数、矩阵论有讲,但是好像当时高成英老师没讲。网上查了资料,其实标量对向量求导很简单,就是逐个元素求。

图片发自App
图片发自App

你可能感兴趣的:(关于在线学习算法ftrl的理解)