NDCG归一化折损累积增益

NDCG常用于TOP-K排序的评价指标,不仅体现了预测的TOP-K个结果是否真的相关(有无点击),同时体现这TOP-K个结果的相对排序。

rel 是对item基于预测得分进行倒序排列,由item真实相关性值组成的列表;例如,
item1:预测得分0.9,真实相关性为1(或者在多级相关性中,真实相关性为2)
item2:预测得分0.4,真实相关性为0(或者在多级相关性中,真实相关性为0)
item3:预测得分0.7,真实相关性为0(或者在多级相关性中,真实相关性为1)
则按照预测得分倒序为item1、item3、item2;rel为[1,0,0];或者在多级相关性中,rel为[2,1,0]

累积增益CG:推荐系统中CG表示将每个推荐结果相关性的分值累加后作为整个推荐列表的得分:

C G k = ∑ i = 1 k r e l i ​ CG_k = \sum_{i=1} ^{k}rel_i ​ CGk=i=1kreli

其中, r e l i r e l_ i reli 表示位置 i i i 的预测结果的相关性, k k k 表示推荐列表的大小。

CG没有考虑每个推荐结果处于不同位置对整个推荐结果的影响,例如,我们总是希望相关性大大的结果排在前面,相关性低的排在前面会影响用户体验。

DCG在CG的基础上引入了位置影响因素,计算公式如下:

D C G k = ∑ i = 1 k 2 r e l i − 1 l o g 2 ( i + 1 ) ​ DCG_k = \sum_{i=1}^{k} \frac{2^{rel_i}-1} {log_2(i+1)}​ DCGk=i=1klog2(i+1)2reli1

从上面的式子可以得出:1)推荐结果的相关性越大,DCG越大。2)相关性好的排在推荐列表前面的话,推荐效果越好,DCG越大。

DCG针对不同的推荐列表之间很难进行横向评估,而我们评估一个推荐系统不可能仅使用一个用户的推荐列表及相应结果进行评估,而是对整个测试集中的用户及其推荐列表结果进行评估。那么,不同用户的推荐列表的评估分数就需要进行归一化,也就是NDCG。

IDCG表示推荐系统某一用户返回的最好推荐结果列表, 即假设返回结果按照相关性排序, 最相关的结果放在最前面, 此序列的DCG为IDCG。因此DCG的值介于 (0,IDCG] ,故NDCG的值介于(0,1],那么NDCG@K定义为:

N D C G @ k = D C G @ k / I D C G ​ N D C G @ k = D C G @ k /I D C G​ NDCG@k=DCG@k/IDCG

import numpy as np


def getDCG(scores):
    return np.sum(
        np.divide(np.power(2, scores) - 1, np.log2(np.arange(scores.shape[0], dtype=np.float32) + 2)),
        dtype=np.float32)


relevance_list = [3, 1, 2, 3, 2]
dcg = getDCG(np.array(relevance_list))
idcg = getDCG(np.array(sorted(relevance_list, reverse= True)))
ndcg = dcg / idcg
print(ndcg)

你可能感兴趣的:(python,数据分析)