【机器学习】4. 相似性比较（二值化数据）与相关度(correlation)

SMC

Simple Matching Coefficient 评估两组二进制数组相似性的参数
SMC = (f11 + f00) / (f01+f10+f11+f00)
其中，f11表示两组都为1的组合个数，f10表示第一组为1，第二组为0的组合个数。

这样做会有一个缺点，假设是比较稀疏的数据，如今天去哪一个地区，地区有成千上万个，但是去的只有一个地区。那么就会导致f00非常的大，如此计算的结果SMC必然很大，但是能够代表两组数据高度相关吗？这并不合理。

Jaccard

由于SMC不适配某些场景，Jaccard应运而生。
Jaccard剔除了f00，从而避免了f00过大导致的数值偏差。
J = f11 / (f01 + f10 + f11)

Cosine

• 适用于二值化数据，也适用于非二值化数据。
• 广泛用于文档的分类
  $$cos(A,B)=\frac{A\ast B}{||A||||B||}$$
  ||A|| L2范式，即上一节讲的欧氏距离

A = [1 , 2, 3]
B = [4, 5, 6]
A*B = 1 * 4 + 2 * 5 + 3 * 6
||A|| = sqrt (1 * 1 + 2 * 2 + 3 * 3)
||B|| = sqrt (4 * 4 + 5 * 5 + 6 * 6)

0°相关
90°不相关

离的远则不相似，贴得近则相似

Correlation

$$corr(X,Y)=\frac{covar(x,y)}{std(x)std(y)}$$
$$covar(x,y)=\frac{1}{n-1}\sum _{k=1}^n(x_k-mean(x))(y_k-mean(y))$$
$$std(x)=\sqrt{\frac{{\sum }_{k=1}^n(x_k-mean(x){)}^2}{n-1}}$$

• mean: 均值
• 范围[-1,1] -1是负相关， 0 是不相关， 1 是正相关