【数据挖掘】推荐系统

---

1. What is Recommender System

推荐系统提出的动机是什么呢？

• 对于商家：更好的卖产品，更好的宣传
• 对于个人：有一个比较感兴趣导向，可以以引起多巴胺回路兴奋
• 对于信息：能够快速从大量信息中找到想要的

推荐系统

• 自动列出一个合适用户兴趣的简短列表

理念

• 使用历史数据，如用户过去的喜好(past preferences)或类似用户过去的喜好来预测未来的喜好
• 通过观察过去用户或群体的喜好，试着预测他们未来的喜好，然后就可以试着给他们一些推荐了

基本假设

• 用户的偏好可能会保持稳定，并随着时间的推移而平稳变化
• 品味相似的用户对某一物品的评价也相似

通过这个基本假设，我们可以发现，推荐系统是将人们的过去数据(喜好什么的)当作聚类点进行聚类了，相似的簇具有类似的行为，而且这个行为在时间序列上是平稳变化(或者周期性变化)

从形式上讲，推荐系统采用一组用户$U$和一组项目$I$，学习函数$f$使其满足关系$R$
$$f:U\times I\to R$$
推荐系统与搜索引擎最大的区别在于，搜索引擎并没有考虑用户的喜好，而是考虑内容的相关性。

---

2.Recommendation Algorithms

2.1 Content-based Method

• 基于内容的方法基于这样一个事实:用户的兴趣应该与ta应该被推荐的项目的描述相匹配。

• 商品的描述与用户感兴趣的描述越相似，用户就越有可能觉得商品的推荐有趣。

核心思想

• 核心理念:找到用户和所有现有物品之间的相似性

步骤

• 描述向用户推荐的项目
• 创建用户画像，描述用户感兴趣的内容
• 将项目与用户简介进行比较，以决定推荐什么

评价指标

• 我们用一组向量表示项目和用户属性：

  • $$I_j=(i_{j,1},i_{j,2},...,i_{j,k})$$

  • $$U_i=(u_{i,1},u_{i,2},...,u_{j,k})$$

• 他们之间(用户$u$和项目$i$)的相似性扩压用余弦距离度量：

• $$sim(U_i,I_j)=cos(U_i,I_j)=\frac{{\sum }_{l=1}^k{u}_{i,l}{i}_{j,l}}{\sqrt{{\sum }_{l=1}^k{u}_{i,l}^2}\sqrt{{\sum }_{l=1}^k}{i}_{j,l}^2}$$

接着就是计算最接近的top(k)项目啦!

上面的算法只是用用户去评价一个商品，比较适合喜好推荐，并没有基于用户群体给出一个客观的评价。

我们知道，某些商品虽然描述的很好，但可能并不受到群体喜欢(比如某些盗版)，除却考虑推荐内容的相关性，还需要考虑目标群体，那怎么办呢？

---

2.2 Collaborative Filtering Algorithm

协同过滤算法基于用户-项目矩阵：

举个例子：User-Item Matrix

	Lion King	Aladdin	Mulan	Anastasia
John	3	0	3	3
Joe	5	4	0	2
Jill	1	2	4	2
Jane	3	?	1	0
Jorge	2	2	0	1

在商品评价中，得分可以由用户显示打分给出(explicit)

也可以从其他用户的行为中推测得到(implicit)

算法的具体步骤为：

• 权衡所有用户/项目与当前用户/项目的相似性
• 选择用户/项(邻居)的一个子集作为推荐器
• 使用邻居对相同(或类似)物品的评级来预测用户对特定物品的评级
• 推荐预测排名最高的项目

评价指标

• 余弦距离

• 皮尔逊相关系数

  • $$sim(U_i,U_j)=\frac{{\sum }_k(r_{i,k}-{\bar{r}}_i)(r_{j,k}-{\bar{r}}_j)}{\sqrt{{\sum }_k(r_{i,k}-{\bar{r}}_i{)}^2}\sqrt{{\sum }_k(r_{j,k}-{\bar{r}}_j{)}^2}}$$

  • 相较于余弦距离，皮尔逊系数做了中心缩放

• 更新指数

  • $$r_{u,i}={\bar{r}}_u+\frac{{\sum }_{v\in N(u)}sim(u,v)(r_{v,i}-{\bar{r}}_v)}{{\sum }_{v\in N(u)}Sim(u,v)}$$

  • 其中，$r_{u,i}$表示用户$u$对商品$i$的得分，${\bar{r}}_u$表示用户的平均分，$v\in N(u)$表示与用户$u$最相似的邻居组

举个例子

	Lion King	Aladdin	Mulan	Anastasia
John	3	0	3	3
Joe	5	4	0	2
Jill	1	2	4	2
Jane	3	?	1	0
Jorge	2	2	0	1

我们现在要评价$Jane$对$Aladdin$的评分，需要怎么做呢？

1️⃣ 计算用户之间的相似度
KaTeX parse error: Undefined control sequence: \ at position 82: …+0^2}}=0.73 \\ \̲ ̲\\ sim(Jane,Joe…
2️⃣ 选择最相似的topk，并计算他们的平均分。例如，我们选两个：
$${\bar{r}}_{joe}=\frac{5+4+0+2}{4}=2.75$$
joe是个老好人
$${\bar{r}}_{jorge}=\frac{2+2+0+1}{4}=1.25$$
jorge给分不咋样

3️⃣ 基于最近的邻居计算得分
$$\begin{gathered} r_{Jane,Aladdin}={\bar{r}}_{Jane}+\frac{sim(Jane,Joe)(r_{Joe,Aladdin}-{\bar{r}}_{Joe})}{sim(Jane,Joe)+sim(Jane,Jorge)} \\ +\frac{sim(Jane,Jorge)(r_{Jorge,Aladdin}-{\bar{r}}_{Jorge})}{sim(Jane,Joe)+sim(Jane,Jorge)} \\ =1.33+\frac{0.88\ast (4-2.75)+0.84\ast (2-1.25)}{0.88+0.84}=2.33 \end{gathered}$$

---

3.Evaluation of Recommender Systems

推荐系统偏向于数据导向，不同的算法在不同的数据集上会有不同的表现

早期的工作中，人们比较关注准确性，后来呢，也逐渐重视用户满意度和性能。所以说，决定在比较评价中应采用何种综合措施是一项挑战。

1️⃣ 平均绝对误差(MAE)
$$MAE=\frac{{\sum }_{ij}|{\hat{r}}_{ij}-r_{ij}|}{n}$$
2️⃣ 标准平均绝对误差(NMAE)
$$NMAE=\frac{MAE}{r_{max}-r_{min}}$$
3️⃣ 均方根误差(RMSE)

更加强调偏差
$$RMSE=\sqrt{\frac{1}{n}\sum _{i,j}({\hat{r}}_{ij}-r_{ij}{)}^2}$$
4️⃣ 精度(Precision)
$$P=\frac{TP}{TP+NP}$$
用来评价模型本身的性能

5️⃣ 召回率(Recall)

完整性(覆盖率)的度量，更像在数据上的性能
$$R=\frac{TP}{TP+FN}$$
6️⃣ F-Score

精确率和召回率互相影响，理想状态下肯定追求两个都高，但是实际情况是两者相互“制约”，此时需要综合考虑二者
$$F=(1+{\beta }^2)\frac{P\cdot R}{{\beta }^{2}P+R}$$
$\beta$用于控制权重。

7️⃣ 斯皮尔曼相关系数
$$\rho =1-\frac{6{\sum }_{i=1}^n(x_i-y_i{)}^2}{n^3-n}$$
8️⃣ Kendall’s $\tau$

• 按照预测顺序是否与实际顺序相同，计算得到consistent和concordant值，最终的结果为：

• $$\tau =\frac{c-d}{C_2^n}$$