阿里的CTR预测（二）：Deep Interest Evolution Network

这篇文章发布于2018年9月，是之前的DIN的改进版。我们在阿里的CTR预测（一）：Deep Interest Network中提到过，他们尝试使用LSTM来学习序列化数据的特征，但是对DIN的结果没有改善。DIEN在这一点上做了改善。

Deep Interest Evolution Network（DIEN）

我们略去背景介绍，尤其是Base Model的部分，如果大家想看的话，可以去前一篇文章中找。现在我们直接介绍DIEN的结构。DIEN最大的特点是不但要找到用户的interest，还要抓住用户interest的进化过程。作者们将GRU融合到网络中，从而抓出变化的sequence。关于GRU的介绍有兴趣的话不妨看看这篇Understanding GRU networks。

上面两张图分别是DIN和DIEN的结构图，我们可以对比来看。

可以看到，DIEN仍然存在Embedding Layer，并且Embedding的方法也和之前一致。其他User profile， target AD和context feature的处理方式两者都是一致的，只是把user behavior组织成了序列数据的形式，并把简单的使用外积完成的activation unit变成了一个attention-based GRU网络。

Interest Extractor Layer

现在我们具体来说Interest Extractor Layer，也就是GRU单元在的那个layer。顾名思义，这个Layer的主要目标是从embedding数据中提取出interest来。但一个用户在某一时间的interest不仅与当前的behavior有关，也与之前的behavior相关，所以作者们使用GRU单元来提取interest。

这是一个GRU单元的表达式，其中$i_t=e_b[t]$代表一个t时刻behaviour的embedding，$\sigma$是sigmoid函数，$o$代表element-by-element乘法。

他们在这一步还引入了一个$L_{aux}Loss$，用来辅助进行Interest Extractor。因为普通的$h_t$只能从embedding中提取信息，提取的却不一定是interest。最后的action只由final interest决定，要保留中间状态的interest需要其他的激励。通过引入$L_{aux}Loss$如下

并将最终的模型目标设为$L=L_{target}+L_{aux}$，可以让GRU在中间状态提取出interest信息。

Interest Evolution Layer

以用户对衣服的interest为例，随着季节和时尚风潮的不断变化，用户的interest也会不断变化。

• 追踪用户的interest可以使我们学习final interest的表达时包含更多的历史信息
• 可以根据interest的变化趋势更好地进行CTR预测
  而interest在变化过程中遵循如下规律：
• interest drift：用户在某一段时间的interest会有一定的集中性。比如用户可能在一段时间内不断买书，在另一段时间内不断买衣服。
• interest individual：一种interest有自己的发展趋势，不同种类的interest之间很少相互影响，例如买书和买衣服的interest基本互不相关。

为了利用这两个时序特征，我们需要再增加一层GRU的变种，并加上attention机制以找到与target AD相关的interest。其中，attention function可以表示为：

$e_a$是target AD的embedding。

把Attention和GRU结合起来的机制有很多种，

• AIGRU: $i_t^{\prime }=h_t\ast a_t$
• AGRU: $h_t^{\prime }=(1-a_t)\ast h_{t-1}^{\prime }+a_t\ast \widetilde{h_t^{\prime }}$
• AUGRU: $\widetilde{u_t^{\prime }}=a_t\ast u_t^{\prime };h_t^{\prime }=(1-\widetilde{u_t^{\prime }})\circ h_{t-1}^{\prime }+\widetilde{u_t^{\prime }}\circ \widetilde{h_t^{\prime }}$

文章中尝试了这三种机制。

Results

文章在公共数据和自己的数据集上都做了实验，离线实验的结果如下：