【推荐系统】{1} —— 基于用户的协同过滤算法

协同过滤（英语：Collaborative Filtering，简称CF），简单来说是利用某兴趣相投、拥有共同经验之群体的喜好来推荐用户感兴趣的信息，个人透过合作的机制给予信息相当程度的回应（如评分）并记录下来以达到过滤的目的进而帮助别人筛选信息，回应不一定局限于特别感兴趣的，特别不感兴趣信息的纪录也相当重要。——维基百科

---

基于用户的协同过滤算法（简称UserCF）

在一个在线个性化推荐系统中，当一个用户A需要个性化推荐时，可以先找到和他有相似兴趣的其他用户，然后把那些用户喜欢的、而用户A没有听说过的物品推荐给A。这种方法称为基于用户的协同过滤算法。

举个例子：

用户/物品	物品A	物品B	物品C	物品D
用户A	√		√	推荐给用户A
用户B		√
用户C	√		√	√

要实现基于用户的协同过滤，需要的步骤：

1. 收集用户偏好
2. 通过计算相似度找到与目标用户相似的用户
3. 将相似用户喜欢的、且目标用户没有听说过的物品推荐给目标用户

---

一、计算两个用户的兴趣相似度

其中关键的一步就是计算两个用户的兴趣相似度。

协同过滤算法主要利用行为的相似度计算兴趣的相似度。给定用户 $u$ 和用户 $v$ ，令 $N(u)$ 表示用户 $u$ 曾经有过正反馈的物品集合，令 $N(v)$ 为用户 $v$ 曾经有过正反馈的物品集合。则可以通过计算余弦相似度简单地计算 $u$ 和 $v$ 的兴趣相似度：$$w_{uv}=\frac{|N(u)\cap N(v)|}{\sqrt{|N(u)\cup N(v)|}}$$

---

例子：

图片来源

如图，$A$、$B$、$C$、$D$ 为用户，$a$、$b$、$c$、$d$、$e$ 为物品。

利用余弦相似度公式计算他们之间的兴趣相似度分别为：$$w_{AB}=\frac{|\{a,b,d\}\cap \{a,c\}|}{\sqrt{|\{a,b,d\}||\{a,c\}}|}=\frac{1}{\sqrt{6}}$$

$$w_{AC}=\frac{|\{a,b,d\}\cap \{b,e\}|}{\sqrt{|\{a,b,d\}||\{b,e\}}|}=\frac{1}{\sqrt{6}}$$

$$w_{AC}=\frac{|\{a,b,d\}\cap \{c,d,e\}|}{\sqrt{|\{a,b,d\}||\{c,d,e\}}|}=\frac{1}{3}$$
但事实上，很多用户相互之间并没有对同样的物品产生过行为，即 $|N(u)\cap N(v)|=0$ 。

---

因此换一种思路，我们可以首先计算出 $|N(u)\cap N(v)|\ne 0$ 的用户对 $(u,v)$ ，然后再对这种情况除以分母 $\sqrt{|N(u)\cup N(v)|}$ 。

为此，可以首先建立 $物品->用户$ 的倒排表。令稀疏矩阵 $C[u][v]=|N(u)\cap N(v)|$ 。因此，可以遍历倒排表中每个物品对应的用户列表，将用户列表中的两两用户对应的 $C[u][v]$ 同时加 $1$，最终就可以得到所有用户之间不为 $0$ 的 $C[u][v]$。

代码实现如下：

def UserSimilarity(train):
	# 建立倒排表
	item_users = dict()
	for u, items in train.items():
		for i in items.keys():
			if i not in item_users:
				item_users[i] = set()
			item_users[i].add(u)
	
	# 修改相似度矩阵
	C = dict()
	N = dict()
		for i, users in item_users.items():
			for u in users:
				N[u] += 1
				for V in users:
					if u == v:
						continue
					C[u][v] += 1
	
	# 计算相似度矩阵
	W = dict()
	for u, related_users in C.items():
		for V, cuv in related_users.items():
			W[u][v] = cuv / math.sqrt(N[u] * N[v])
	return W

以上图的用户行为解释上述算法。首先，需要建立 $物品->用户$ 的倒排表（如图1）。然后建立一个 $4\times 4$ 的用户相似度矩阵 $W$，对于物品 $a$，将 $W[A][B]$ 和 $W[B][A]$ 加 $1$，对于物品 $b$，将 $W[A][C]$ 和 $W[C][A]$ 加 $1$，以此类推（如图2）。扫描完所有物品后，我们可以得到最终的 $W$ 矩阵。 此处 $W$ 是余弦相似度中的分子部分，将 $W$ 除以分母即可得到最终的用户兴趣相似度（如图3）。

图片来源

---

二、进行推荐

得到用户之间的兴趣相似度后，$UserCF$ 算法会给用户推荐和他兴趣最相似的 $K$ 个用户喜欢的物品。以下公式度量了 $UserCF$ 算法中用户 $u$ 对物品 $i$ 的感兴趣程度： $$p(u,i)=\sum _{v\in S(u,K)\cap N(i)}{w}_{uv}{r}_{vi}$$

K是 $UserCF$ 算法的一个重要参数

其中，$S(u,K)$ 包含和用户 $u$ 兴趣最接近的 $K$ 个用户，$N(i)$ 是对物品 $i$ 有过行为的用户集合，$w_{ur}$
是用户 $u$ 和用户 $v$ 的兴趣相似度，$r_{vi}$ 代表用户 $v$ 对物品 $i$ 的兴趣，因为使用的是单一行为的隐反馈数据（否则使用评分等指标），所以所有的 $r_{vi}=1$。

评分可以经过归一化处理

代码如下：

def Recommend(user, train, W):
	rank = dict()
	interacted_items = train[user]
	for v, wuv in sorted (W[u].items, key=itemgetter(1), reverse=True)[0:K]:
		for i, rvi in train[v].items:
			if i in interacted_items:
				# 过滤互动过的项目
				continue
			rank[i] += wuv * rvi
	return rank

利用上述 $UserCF$ 算法，可以给上述图1、2、3的用户 $A$ 进行推荐。选取 $K=3$，用户 $A$ 对物品 $c$、$e$ 没有过行为，因此可以把这两个物品推荐给用户 $A$。相似用户则是 $B$、$C$、$D$，他们喜欢过并且 $A$ 没有喜欢过的物品有 $c$、$e$。根据 $UserCF$ 算法，用户 $A$ 对物品 $c$、$e$ 的兴趣是：$$p(A,c)=w_{AB}\times 1+w_{AD}\times 1=\frac{1}{\sqrt{6}}+\frac{1}{\sqrt{9}}=0.7416$$$$p(A,e)=w_{AC}\times 1+w_{AD}\times 1=\frac{1}{\sqrt{6}}+\frac{1}{\sqrt{9}}=0.7416$$

---

用户相似度计算的改进：

两个用户对冷门物品采取过同样的行为比热门物品更能说明他们兴趣的相似度。因此，为了防止热门物品的影响，提出如下公式计算用户的兴趣相似度：$$w_{uv}=\frac{\sum _{i\in N(u)\cap N(v)}\frac{1}{log1+|N(i)|}}{\sqrt{|N(u)||N(v)|}}$$

上述公式通过 $\frac{1}{log1+|N(i)|}$ 惩罚了用户 $u$ 和用户 $v$ 共同兴趣列表中热门物品对他们相似度的影响。

基于上述用户相似度公式的算法记为 $User-IIF$ 算法。

代码如下：

def UserSimilarity(train):
	# 建立倒排表
	item_users = dict()
	for u, items in train.items():
		for i in items.keys():
			if i not in item_users:
				item_users[i] = set()
			item_users[i].add(u)
	# 统计相似度矩阵
	C = dict()
	N = dict()
	for i, users in item_users.items():
		for u in users:
			N[u] += 1
			for v in users: 
				if u == v:
					continue
				C[u][v] += 1 / math.1og(1 + len(users))
	# 计算相似度矩阵
	W = dict()
	for u, related_users in C.items():
		for v, cuv in related.users.items():
			W[u][v] = cuv / math.sqrt(N[u] * N[v])
	return W

---

$UserCF$ 算法存在的问题：

• 对于一个新用户，很难找到相似用户。
• 对于一个物品，所有相似用户都在其上没有多少行为。
• 矩阵稀疏。
• 用户量越来越大
• 人类善变

---

参考资料：《推荐系统实践》