[CTR]CTR之fm以及ffm

在CTR中对ID特征vector化,然后求解最小loss一种常见的解决方案,如下收藏两个比较好用的方法,fm以及ffm。其中ffm在前两年的kaggle CTR相关比赛中,都能看到它的身影。


一、fm(Factorization Machines)


论文

http://www.csie.ntu.edu.tw/~b97053/paper/Rendle2010FM.pdf

代码

http://www.libfm.org/

两度fm公式如下:

[CTR]CTR之fm以及ffm_第1张图片


三种类型参数更新如下:

[CTR]CTR之fm以及ffm_第2张图片

  

 


二、ffm(field-aware factorization machines)


比赛ppt

http://www.csie.ntu.edu.tw/~r01922136/kaggle-2014-criteo.pdf

开源代码

https://github.com/guestwalk/kaggle-2014-criteo

 

fm公式如下,针对任一一个样本中的ID特征,有其唯一的一个分解向量与之对应:

[CTR]CTR之fm以及ffm_第3张图片

ffm的公式如下,任一一个样本中的领域A下的ID特征i,对每一个交叉的领域B下的ID特征有一个分解向量与之对应:

[CTR]CTR之fm以及ffm_第4张图片

 

你可能感兴趣的:(CTR)