多场景建模：快手参数及Embedding个性化网络PEPNet

Parameter and Embedding Personalized Network (PEPNet)

背景

多场景：双列Tab（Double-Columned Discovery Tab）、精选Tab（the Featured-Video Tab）、沉浸单列Tab（the Single-Columned Slide Tab）
多目标：点赞（Like）、关注（Follow）、转发（Forward）、收藏（Collect）、不喜欢（Hate）、 点击（Click）、有效观看（EffView）

user及item在不同场景有交叉重叠，场景之间存在共性；任务之间也存在相互关系，单独为每个场景训练单独的模型既耗费人力也无法利用全量的数据，忽略了场景之间的共性，因此需要多场景多任务建模。

业务挑战&难点：

双跷跷板效应

1. 所有样本混合在一起训练，不同场景有不同的数据分布，容易出现场景跷跷板效应（domain seesaw）
2. 不同的目标有不同的稀疏性，而且目标之间有相关性，会相互影响，容易出现任务跷跷板效应（task seesaw）

解决方案

引入 domain-specific EPNet（Embedding Personalized Network），增加场景相关的先验信息去个性化选择底层的embedding，底层embedding按场景个性化
引入 task-specific PPNet（Parameter Personalized Network），将user和item的个性化先验信息加入进来，通过gate去动态个性化改变DNN隐层单元，平衡不同任务之间的稀疏性

点评：通过输入的个性化先验信息通过gate机制动态缩放底层的Embedding参数以及上层的DNN隐层参数

方案详情：

EPNet和PPNet的基本单元都是Gate NU（Gate Neural Unit），详解下Gate NU，这个结构受语音识别领域的LHUC结构启发而来的，目的是将个性化的先验信息注入到网站中。LHUC是通过speaker的先验信息来缩放模型的隐层单元达到语音识别的个性化。但是LHUC仅仅是用userID来作为个性化的先验信息，并没有用到用户的年龄、性别等其他画像信息，而这些信息在推荐系统非常重要，包括itemID，item的类别、作者等等先验信息，当然也包括场景ID等先验。Gate NU就是将这些信息都当做先验信息输入来个性化调节DNN网络隐层，达到场景、任务的个性化。

Gate NU是由两层网络结构实现，第一层目的是交叉输入的先验信息$\mathbf{x}$,通过非线性函数relu进行激活，第二层通过sigmoid函数产生gate缩放分数，用$\gamma$来调节缩放的程度
${\mathbf{x}}^{{}^{\prime }}=Relu(\mathbf{xW}+\mathbf{b})$

$\delta =\gamma \ast Sigmoid({\mathbf{x}}^{{}^{\prime }}\mathbf{W}+{\mathbf{b}}^{{}^{\prime }})$

Embedding Personalized Network(EPNet)

面临问题：所有特征的Embedding拼接到一起作为共享底层（share-bottom）输入，但是这种方式面对多场景时没有考虑场景之间的差异性，怎样从输入层面考虑场景的差异？
解法：将场景先验信息注入到底层Embedding中，实现场景个性化

sparse特征和dense特征合拼接起来，经过Embedding层，作为主体网络的输入
$\mathbf{E}=E(F_S)\oplus E(F_D)$
场景特征像场景ID、场景的统计特征（用户曝光量和点击量）等表示为$F_d$

经过GateNU后，GateNU的输出为
${\delta }_{domain}=GateNU(E(F_d)\oplus (\oslash (\mathbf{E})))$

这里$\oslash$表示GateNU不对原来的Embedding层做梯度回传，也就是说虽然GateNU会缩放改变Embedding，但是不对Embedding进行梯度回传，避免和主体网络的梯度回传冲突混乱。GateNU这种参数缩放的方式，其实是一种注入的方式，还是尽量减少对原始Embedding的影响。

EPNet的输出如下，这样就实现了对Embedding输入的场景个性化
${\delta }_{domain}\otimes \mathbf{E}$

Parameter Personalized Network(PPNet)

面临问题：各个任务都是用DNN塔来学习的，这样所有用户都是共享这个任务塔，这样缺少个性化，很难去平衡各个任务之间的学习。
核心目的：将user、item、author等先验信息注入上层的DNN塔中，实现任务的个性化

user、item、author的相关特征表示为$F_u$/$F_i$/$F_a$，这部分先验输入拼接起来再和底层经过场景先验注入的Embedding拼接在一起作为PPNet的网络输入

经过GateNU后，GateNU的输出为
${\delta }_{task}=GateNU((E(F_u)\oplus E(F_i)\oplus E(F_a))\oplus (\oslash ({\delta }_{domain})))$
这里GateNu也是不对DNN网络进行回传梯度，减少对主网络的影响

这里$\mathbf{H}$表示DNN的隐层$\mathbf{H}=[H_1,H_2,...,H_T]$，其中$H_t\in R^h$表示任务$t$任务塔的隐层单元数量，${\delta }_{task}\in R^{h\ast T}$需要split拆分成$T$个$h$维度的向量，这样好乘到任务的隐层单元上面，达到改变任务塔隐层的目的。

PPNet的输出如下，这样就实现了对DNN塔参数的任务个性化
${\delta }_{task}\otimes \mathbf{H}$

对DNN每一层进行这样的处理，假设有$L$层
${\mathbf{O}}^l={\delta }_{task}^l\otimes {\mathbf{H}}^l$
${\mathbf{H}}^{l+1}=f({\mathbf{O}}^l\mathbf{W}+{\mathbf{b}}^l)l\in \{1,2,...,L\}$

消融分析

10天的数据训练，第11天验证，第12天测试
训练策略：由于Embedding层的参数更新频率比DNN层参数更新频率要大很多，特别是ID类特征的Embedding参数，因此使用不同的更新策略，Embedding层AdaGrad，学习率 0.05，DNN层Adam，学习率设置相对小：5.0e-06。

A场景

B场景

C场景

without EPNet、without PPNet、without both EPNet and PPNet

PPNet在单场景多任务上的表现

EPNet在多场景单任务上的表现

PPNet在单任务单场景上的表现

超参数分析

Embedding维度，维度在16维的时候已经能取得较好的效果

DNN层数，4层最好，太深了可能过拟合

GateNU的缩放系数，2最好，因为输出是(0,2)，中心是1，这样缩放比较平衡

把GateNU对input的后向梯度传播加/不加进来,说明不对主网络进行更新效果更好