大厂面试机器学习算法（5）推荐系统算法

在计算广告和推荐系统中，CTR预估（click-through rate）是非常重要的一个环节，以根据CTR预估的点击率判断是否推荐。
在进行CTR预估时，除了单特征外，往往要对特征进行组合。FM算法就是特征组合的常用做法之一。

FM

问题描述：如何解决利用多阶特征中遇到的稀疏矩阵问题
论文：Rendle S. Factorization machines[C]//2010 IEEE International conference on data mining. IEEE, 2010: 995-1000.

背景

以广告分类问题为例，根据用户与广告位的一些特征，来预测用户是否会点击广告：

clicked是分类值，表明用户有没有点击该广告。1表示点击，0表示未点击。而country,day,ad_type则是对应的特征。对于这种categorical特征，一般都是进行one-hot编码处理。

将上面的数据进行one-hot编码以后，就变成了下面这样 ：

Feature fields：Country=USA和Country=China是Feature field1，Day=26/11/15、Day=1/7/14和Day=19/2/15是Feature field2，Ad_type=Movie和Ad_type=Game是Feature field3。
因为是categorical特征，所以经过one-hot编码以后，不可避免的样本的数据就变得很稀疏。由此可见，数据的稀疏性，是我们在实际应用场景中面临的一个非常常见的挑战与问题。

再看一个典型的电影评分的例子，为了预测不同用户对不同电影的评分，我们使用以下5种（5-filled）特征

1. 当前用户信息，可以理解为用户ID，如下图蓝框所示。
2. 当前预测电影的评分信息，可以理解为电影ID。
3. 当前用户对其他电影的评分特征。
4. 时间，对应评分的日期
5. 用户最近评分过的一步电影
   

特征组合

普通的线性模型，我们都是将各个特征独立考虑的，并没有考虑到特征与特征之间的相互关系。但实际上，大量的特征之间是有关联的。最简单的以电商为例，一般女性用户看化妆品服装之类的广告比较多，而男性更青睐各种球类装备。那很明显，女性这个特征与化妆品类服装类商品有很大的关联性，男性这个特征与球类装备的关联性更为密切。如果我们能将这些有关联的特征找出来，显然是很有意义的。

与线性模型相比，FM的模型就多了后面特征组合的部分。

Challenge&解决方案

由于特征过于稀疏，满足$x_i,x_j$同时不为0的情况很少，导致$w_{ij}$无法通过训练得出。
为了求出$w_{ij}$，对每一个特征分量$x_i$引入辅助向量$v_i=(v_{i1},v_{i2}...v_{ik})$，其维度k<$v_i{v}_j^T$对$w_{ij}$进行求解。


通过化简，可以使用SGD对参数进行求解。

• 为什么拆分成$v_i$有效？

  1. 从数据量上来说原来是$n\ast n$的参数量，现在是$n\ast k$的参数量，k<
  2. 特征之间可以相互影响，即使之间没有直接组合的例子，也可以通过迭代优化寻找潜在的关系。
  3. V和W之间的关系？=>分解机的由来

• 多阶特征
  

Wide&Deep Model

问题描述：在推荐系统中如何确保命中的准确性和泛化性
论文：Wide & Deep Learning for Recommender Systems

背景

1. wide模型以高维特征（一阶+二阶等）作为输入，利用交叉特征可以高效的实现记忆能力，达到精准的目的。但是对未曾出现过的数据泛化能力较差。
2. DNN通过将高维特征embedding到低维特征，确保了模型的泛化能力（在损失一定表达能力的前提下），准确性不能得到保证。
   Challenge：如何满足既要又要的问题？

解决方案

Wide部分
基础的线性模型，表示为y=WX+b。X特征部分包括基础特征和交叉特征。交叉特征在wide部分很重要，可以捕捉到特征间的交互，起到添加非线性的作用。交叉特征可表示为：

Deep部分
前馈网络模型。特征首先转换为低维稠密向量，维度通常O(10)~O(100)。向量随机初始化，经过最小化随时函数训练模型。激活函数采用Relu。前馈部分表示如下：

其中，Deep部分包含一个Embedding Layer：由于用于CTR的输入一般是及其稀疏的。因此需要重新设计网络结构。具体实现中为，在第一层隐含层之前，引入一个嵌入层来完成将高维稀疏向量压缩到低维稠密向量。

假设我们的k=5，首先，对于输入的一条记录，同一个field 只有一个位置是1，那么在由输入得到dense vector的过程中，输入层只有一个神经元起作用，得到的dense vector其实就是输入层到embedding层该神经元相连的五条线的权重，即vi1，vi2，vi3，vi4，vi5。这五个值组合起来就是我们在FM中所提到的Vi。在FM部分和DNN部分，这一块是共享权重的，对同一个特征来说，得到的Vi是相同的。

联合模型
Wide和Deep部分的输出通过加权方式合并到一起，并通过logistic loss function进行最终输出。

测试结果

DeepFM

问题描述：如何根据原始数据进行自动的融合低阶和高阶的特征
论文：DeepFM: A Factorization-Machine based Neural Network for CTR Prediction

背景

1. Wide&Deep 模型需要手工的设计wide部分的特征来确保模型的准确性，我们能否通过机器自动的学习这部分特征=>FM
2. 在上述的基础上，我们可以使得FM Layer和我们的DNN部分共享相同的特征输入

解决方案

FM部分的详细结构如下：

FM的输出公式：

Deep部分：

优点：

1. DeepFM模型包含FM和DNN两部分，FM模型可以抽取low-order特征，DNN可以抽取high-order特征。无需Wide&Deep模型人工特征工程。
2. 由于输入仅为原始特征，而且FM和DNN共享输入向量特征，DeepFM模型训练速度很快。
3. 不同field特征长度不同，但是子网络输出的向量需具有相同维度，即dense embedding的输出纬度相同；
4. 利用FM模型的隐特征向量V作为网络权重初始化来获得子网络输出向量；

DeepCross

问题描述：如果利用特征bit之间的高阶叉乘特征
论文：Deep & Cross Network for Ad Click Predictions

背景

Wide&Deep 仍然需要人工地设计特征叉乘。面对高维稀疏的特征空间、大量的可组合方式，基于人工先验知识虽然可以缓解一部分压力，但仍需要不小的人力和尝试成本，并且很有可能遗漏一些重要的交叉特征。FM可以自动组合特征，但也仅限于二阶叉乘。能否告别人工组合特征，并且自动学习高阶的特征组合呢？Deep & Cross 即是对此的一个尝试。

解决方案

cross:

1. 有限高阶：叉乘阶数由网络深度决定$$L_c=>L_c+1$$
2. 自动叉乘：Cross输出包含了原始特征从一阶（即本身）到$$L_c+1$$阶的所有叉乘组合，而模型参数量仅仅随输入维度呈线性增长$$2\ast d\ast L_c$$
3. 参数共享：不同叉乘项对应的权重不同，但并非每个叉乘组合对应独立的权重（指数数量级）， 通过参数共享，Cross有效降低了参数量。此外，参数共享还使得模型有更强的泛化性和鲁棒性。例如，如果独立训练权重，当训练集中$x_i\ne 0\&x_j\ne 0$这个叉乘特征没有出现 ，对应权重肯定是零，而参数共享则不会，类似地，数据集中的一些噪声可以由大部分正常样本来纠正权重参数的学习。类似于FM中V的设计。

xDeepFM

问题描述：如何利用特征field之间的高阶叉乘特征
论文：xDeepFM: Combining Explicit and Implicit Feature Interactions for Recommender Systems

背景

1. Deep Cross最大的问题在于他没有field的概念，实际我们操作特征融合可能更关心的是field级别的融合和叉乘。
2. 在DeepFM中，我们都将每个field映射到了相同的维度，在这篇文章中也一样。

解决方案

xDeepFM=Linear+CIN+Plain DNN

CIN:Compressed Interaction Network

具体实现可参考下面的这个公式，CIN第k层的输出有$H_k$个维度为D的特征向量。每个特征向量表示前k-1层和第0层向量两两之间的Hadamard乘积加权求和。

优势是什么？CIN与DCN中Cross层的设计动机是相似的，Cross层的input也是前一层与输出层。至于为什么这么搞，CIN 保持了DCN的优点：有限高阶、自动叉乘、参数共享。
CIN和DCN的区别：

1. Cross是bit-wise的，而CIN 是vector-wise的；
2. CIN将每一阶的特征都作为了输出

DeepFEFM

论文：https://arxiv.org/abs/2009.09931

背景

FM模型的feature interactions$=v_i^T{v}_j{x}_i{x}_j$，其中$v_i、v_j$对应于feature$x_i、x_j$，而没有利用field信息；
FFM（Field-Awared Factorization Machine）加入了field的考量，feature interactions$=v_{i,F(j)}^T{v}_{j,F(i)}{x}_i{x}_j$，但造成了参数量巨大，complexity过高的缺点。

解决方案

DeepFEFM（Field-Embedded Factorization Machine）构造feature interaction=$v_i^T{W}_{F(i),F(j)}{v}_j{x}_i{x}_j$，其中$W_{F(i),F(j)}$是一个对称矩阵，学习field i、j之间的关系。

其模型结构与DeepFM基本类似，主要区别在于DeepFM的feature interaction=$v_i^T{v}_j{x}_i{x}_j$，其中i、j直接表示field维度；另外DeepFM的DNN输入只使用了单个feature embedding，而DeepFEFM将feature interaction也加入DNN的input，从而提高模型表现。原文内容是：

The DNN part of DeepFM takes input only the input feature embeddings, but we additionally also input FEFM generated interaction embeddings. Our ablation studies in Section 4 show that these FEFM interaction embeddings are key to the lift in performance achieved by DeepFEFM.

AutoInt

论文：AutoInt: Automatic Feature Interaction Learning via Self-Attentive Neural Networks

背景

DeepFM，Deep cross network，xDeepFM等深度学习推荐算法旨在构造高阶交叉特征上，但是这些方法有一些缺陷：

• fully-connected neural networks 抽取的高阶特征在学习multiplicative feature interactions上是inefficient的；
• 隐式学习特征交叉的方式缺乏可解释性。

论文的贡献在于：
提出利用Multi-head Self-Attention 机制显式学习高维特征交叉的一种方法，提高了可解释性。
基于self-attentive neural network提出一种新的方法，可自动学习高维特征交叉，有效提升了CTR预估的准确率。

解决方案

模型结构

Input Layer
x = [x1; x2; …; xM]，其中M表示总共的feature fields的数目，xi表示第i个特征。
如果xi是离散的，就是one-hot向量，如果是连续的，就是一个scalar。
Embedding

离散型特征的embedding是一个矩阵，而连续型特征的embedding是一个向量。
Interacting Layer
这一层使用了multi-head attention，${\alpha }_{m,k}^{(h)}$表示attention head h下，特征m和特征k的相似权重：


Output Layer

Training

AutoDis

论文见这里

背景

ctr算法主要由两部分构成：feature embedding和feature interaction。目前为止，前几种算法的重点集中在了特征的interaction方面，本文重点对embedding方法进行了改进。

神经网络输入特征分为category型和numerical型，对category型特征，一般使用label coding（将类别映射为整数）后embedding look-up的方法（将稀疏的one-hot向量乘以矩阵转化为稠密向量）；对于numerical特征，有如下几种方法：

1. no embedding：直接使用数值本身，问题：low capacity（文中的capacity可理解为每个特征最终被embedding出的维度）；
2. field embedding：对属于同一个field的多个数值型特征，使用同一个向量进行embedding，问题：intra-field feature线性相关，丢失部分表达力，也是low capacity的；
   （On the contrary，一种naive思想是对同一个field中每个特征分别设置embedding向量，问题在于huge parameters and insufficient training for low-frequency features.）
3. discretization+embedding look-up：先使用其他方法（如分箱）对连续型特征离散化，再使用category型特征的embedding方法，问题：两部分割裂，不能保证离散方法对该问题的合理性；
4. 本文提出的端到端的AutoDis方法：使用meta-embedding，使离散化结果可以根据训练目标调整，端到端训练。

解决方案

AutoDis可以分为三个模块：

一、训练meta-embedding
为每个field训练一个meta-embedding：$ME\in R^{H\times d}$，field内的所有feature共享该$ME$，
该field中特征可被离散化为$H$个bucket，每行是一种embedding结果，最终目标为d维向量。

二、Automatic Discretization
首先使用automatic discretization函数$d_j^{Auto(\cdot )}$将x转化为$\tilde{x}$：

再用softmax将$\tilde{x}$转化为$\hat{x}$，这里${\hat{x}}^h$表示x被离散化到第h个bucket的概率：

三、Aggregation function
可以选择max、top-k sum、weighted-average等方法，根据$\hat{x}$和$ME$对最终向量表示进行计算，如选择${\hat{x}}^h$最大值对应$ME$的行，或对top-k个行加权求和等。

效果对比
设一个field有m个feature，使用离散化方法可分为4个类别，目标向量d维。

可以看出：

1. field embedding和no embedding所需的参数最少，但capacity受限（表示的维度小，或field内部具有强相关性）；
2. independent embedding和discretization+embedding的参数成倍数级增长，而AutoDis由于整个field共享ME，不会因为过大feature数量和embedding维度而参数爆炸；
3. discretization+embedding的离散化与DNN训练分离，不能保证离散化方法和结果对问题本身的合理性。

参考资料：
https://www.jianshu.com/p/152ae633fb00
https://www.jianshu.com/p/6f1c2643d31b
https://blog.csdn.net/weixin_45459911/article/details/106917001