信息检索排序算法 LambdaRank 和 LambdaMART

排序算法在搜索引擎中非常重要,需要根据用户的查询 q,对一些相关的文档进行排序,尽可能地让用户感兴趣的文档排在前面。之前的文章介绍了一种 Learning to rank 的算法 RankNet,现在介绍另外两种比较经典的排序模型 LambdaRank 和 lambdaMART。

1.RankNet 的问题

信息检索排序问题常用的评价指标有 NDCG、ERR 等,不熟悉的童鞋可以看下之前的文章《信息检索评价指标》,这些评价指标是不平滑不连续的,无法直接用于梯度下降。RankNet 算法将排序问题转成一个概率问题,使用神经网络计算出一篇文章排在另一篇文章之前的概率,使用交叉熵作为损失函数,最后用梯度下降进行求解。

RankNet 的损失函数如下所示,本质上是计算样本的 pairwise error,即减少排序出错的样本数量,注意下式中 σ 是一个参数。

RankNet 的损失函数

由于 RankNet 优化的是 pairwise error,因此会存在一些问题,我们先看下图。

RankNet 存在的问题

在上图中包含 16 个文档,其中蓝色表示相关的文档,灰色表示不相关的文档。左图中 pairwise error 的个数为 13 (即第二个蓝色文档前有 13 个不相关文档),而右图 pairwise error 的个数为 11。RankNet 在优化时关注于文档对的错误,可能会出现有图的结果,但是很多时候这并不是理想的。

很多评价指标,例如 NDCG 和 ERR 等更加关注的时 top k 个结果的排序,因此优化过程中把相关文档往下调并不合适。

另外一点,右边的图中的黑色箭头表示 RankNet 下一次优化时调整的方向和梯度大小 (箭头越长梯度越大)。但是我们真正需要的是右边的红色箭头,即排名越靠前的文档梯度应该越大。因此微软提出了 LambdaRank。

2.LambdaRank

LambdaRank 是在 RankNet 基础上修改的,首先对 RankNet 的损失函数进行分解,得到其中的梯度。分解公式如下所示,wk 表示神经网络模型的参数。

lambda 可以表示梯度的强度,lambda 可以进一步化简,假设对于训练集里面的文档对 (i, j),都有文档 i 排在文档 j 之前,即 Sij = 1,则 lambda 可以如下简化。

LambdaRank 主要创新点在于不直接定义模型的损失函数再求梯度,而是通过分析 RankNet 排序损失函数的梯度再直接对梯度 lambda 进行修改。

考虑到 NDCG、ERR 等指标不能直接求梯度,因此 LambdaRank 直接修改梯度 lambda,从而引入评价指标的信息,使梯度能够接近评价指标的表现。论文中的做法是交换两个文档 i,j 的位置,然后计算评价指标的变化情况 |ΔZ|,把 |ΔZ| 做为 lambda 的因子。Z 可以是 NDCG 等评价指标。

通过梯度 lambda 也可以反推出 LambdaRank 的损失函数,如下。

3.LambdaMART

LambdaMART 是一种结合了 LambdaRank 和 MART 的算法。MART 算法是一种集成学习算法,全称是 Multiple Additive Regression Tree,也称为梯度提升树 GBDT。MART 算法中每一棵树都是串联的关系,每棵树优化的是上一次分类器的残差。

3.1 MART 分类

对于样本 x,MART 预测的结果为 F(x),另 P+ 和 P- 分别表示模型预测正例和负例的概率,I+ 和 I- 表示真实的类标,如果 I+ = 1 (I- = 0),则表示正例;如果 I+ = 0 (I- = 1),则表示负例。可以定义交叉熵损失函数。

MART 每棵树拟合的是当前的负梯度,如下:

Rjm 表示第 m 棵树的第 j 个叶子节点包含的所有样本,则该叶子节点的取值可以如下计算,最小化对应的损失函数。对应的 gamma 值就是叶子节点的取值。

最终叶子节点的取值可以用牛顿迭代法求解,公式如下,具体推导过程可以参考论文《From RankNet to LambdaRank to LambdaMART: An Overview》。

3.2 LambdaMART

LambdaMART 结合了 LambdaRank 和 MART,LambdaRank 中推导出 lambda 的公式

对应的损失函数如下。

可以求出损失函数的一阶导数和二阶导数

第 m 棵树的第 k 个叶子节点的取值用下面的公式进行计算。

算法的伪代码如下图所示

4.参考文献

  • 《From RankNet to LambdaRank to LambdaMART: An Overview》
  • 《Adapting Boosting for Information Retrieval Measures》
  • 《Learning to Rank with Nonsmooth Cost Functions》

你可能感兴趣的:(信息检索排序算法 LambdaRank 和 LambdaMART)