MMR与CalibratedRec的再思考

最大边缘相关性（Maximum Marginal Relevance）

推荐场景下，MMR对物品重排的目标是找出与推荐目标相关性高，但与已选集合内物品的相似度低的物品，公式表达如下：

$$MMR(Q,C,R)=ArgMa{x}_{d_i\in C/R}[\lambda Si{m}_1(Q,d_i)-(1-\lambda )ma{x}_{d_j\in R}Si{m}_2(d_i,d_j)]$$

其中Q表示推荐的目标（一般为用户），$d_i$表示物品，C表示物品候选集合，R表示推荐集合。

重排序过程如下：

1. $R=\varnothing ,D_r=IR(Q,C,K)$
2. Do $d_i=MMR(Q,D_r,R),R=R\cup \{d_i\}$ Until $D_r=\varnothing$

其中$D_r$表示已某种方式从集合C中生成的候选集合，并且$|C|=K$.

Calibrated Recommendations 目标函数不满足单调递增的推导

Calibrated Recommendations论文提出重排目标中加入推荐列表物品分布与用户历史消费物品分布的相似度，并采用KL散度度量，公式表达如下：

$$I^{\ast }=ArgMa{x}_{I,|I|=N}[(1-\lambda )S(I)-\lambda C_{KL}(p,q(I))]$$

其中$S(I)$表示推荐结合$I$的相关性得分，$p$表示用户历史消费物品分布，$q(I)$表示推荐集合的分布，$C_{KL}$为KL散度，离散变量的KL散度公式如下（这里暂不考虑连续变量，有关连续变量的公式略去）：

$C_{KL}(p,q)={\sum }_{i}p(t_i)log(\frac{p(t_i)}{q(t_i)})，{\sum }_{i}p(t_i)=1，1\le i\le n$

其中$t_1,...,t_n$表示变量的$n$种取值，对应推荐集合中物品的n种类别。

原文中采用贪心算法求解最优集合$I^{\ast }$，即：

$d_{i+1}^{\ast }=ArgMa{x}_{d_{i+1}}[(1-\lambda )S(I_i^{\ast }\cup \{d_{i+1}\})-\lambda C_{KL}(p,q(I_i^{\ast }\cup \{d_{i+1}\}))]$

其中$I_i^{\ast }$表示长度为$i$的最优推荐集合，在选择第$i+1$个物品$d_{i+1}$的时候，满足以上目标函数值的最大化。

原文中提出贪心算法求得的解的目标函数值满足单调递增特征，下面试推导一下：

首先约定$$I_{n+1}^{\ast }=I_n^{\ast }\cup \{d_{n+1}^{\ast }\}，d_{n+1}^{\ast }$$表示第n+1次迭代贪心算法选择的最优物品，属于类型$t_k$，$c_n(t_i)$表示$t_i$类型的物品在$I_n^{\ast }$中出现的次数，则

$f(I_{n+1}^{\ast })-f(I_n^{\ast })=(1-\lambda )[S(I_{n+1}^{\ast })-S(I_n^{\ast })]-\lambda [C_{KL}(p,q(I_{n+1}^{\ast }))-C_{KL}(p,q(I_n^{\ast }))]$

$$=(1-\lambda )S(\{d_{n+1}^{\ast }\})-\lambda [\sum _{i}p(t_i)log(\frac{p(t_i)}{q_{n+1}(t_i)})-\sum _{i}p(t_i)log(\frac{p(t_i)}{q_n(t_i)})]$$

$$=(1-\lambda )S(\{d_{n+1}^{\ast }\})-\lambda \sum _{i}p(t_i)log(\frac{q_n(t_i)}{q_{n+1}(t_i)})$$

$$=(1-\lambda )S(\{d_{n+1}^{\ast }\})+\lambda \sum _{i}p(t_i)log(\frac{q_{n+1}(t_i)}{q_n(t_i)})$$

$$=(1-\lambda )S(\{d_{n+1}^{\ast }\})+\lambda \sum _{i}p(t_i)log(\frac{c_{n+1}(t_i)/(n+1)}{c_n(t_i)/n})$$

$$=(1-\lambda )S(\{d_{n+1}^{\ast }\})+\lambda \sum _{i}p(t_i)log(\frac{c_{n+1}(t_i)}{c_n(t_i)}\ast \frac{n}{n+1})$$

$$=(1-\lambda )S(\{d_{n+1}^{\ast }\})+\lambda \sum _{i}p(t_i)log(\frac{c_{n+1}(t_i)}{c_n(t_i)})+\lambda \sum _{i}p(t_i)log(\frac{n}{n+1})$$

$$=(1-\lambda )S(\{d_{n+1}^{\ast }\})+\lambda \sum _{i}p(t_i)log(\frac{c_{n+1}(t_i)}{c_n(t_i)})+\lambda log(\frac{n}{n+1})$$

$$=(1-\lambda )S(\{d_{n+1}^{\ast }\})+\lambda p(t_k)log(\frac{c_{n+1}(t_k)}{c_n(t_k)})+\lambda log(\frac{n}{n+1})$$

$$=(1-\lambda )S(\{d_{n+1}^{\ast }\})+\lambda p(t_k)log(\frac{c_n(t_k)+1}{c_n(t_k)})+\lambda log(\frac{n}{n+1})$$

可以看出，上式中的第一项为非负数，第二项为正数，但第三项为负数，因此整体取值可能为负数，由此得出原文中关于单调单调递增的论述实际是不满足的。