皮尔逊/斯皮尔曼相关系数

1.相关性的直观展示

两个变量X、Y之间的相关性可通过如下几张图直观感受下：

以上各图来自https://www.scribbr.com/statistics/pearson-correlation-coefficient/。

2.斯皮尔曼等级相关系数 (Spearman’s Rank Correlation Coefficient)

2.1 定义

斯皮尔曼等级相关系数是一种衡量两个变量X、Y相关性的方法。

计算公式为：

$\rho =1-\frac{6\sum d_i^2}{n^3-n}$，其中$d_i=x_i-y_i$。

有趣的是，它不是直接针对变量各维度的值进行运算，而是针对各维度值的排序，即所谓的等级(rank)。

显然，如果两变量单调性一致，则各维度等级的差$d_i$均为0时，$\rho =1$；单调性相反时，$\rho =-1$。

2.2 示例

引自wiki百科–Spearman’s rank correlation coefficient中的例子，计算IQ值与每周看电视小时数之间的斯皮尔曼相关系数：

其计算过程也非常简单：

1. 对X中各数据进行排序，获得rank $x_i$;
2. 对Y中各数据进行排序，获得rank $y_i$;
3. 对应求得 $d_i=x_i-y_i$，同时计算平方值$d_i^2$;
4. 求得$\sum d_i^2$，并计算$\rho =1-\frac{6\sum d_i^2}{n^3-n}$。

此例子中计算的$\rho$为$-0.176$，接近于0 ，略显负相关，即智商较低的人，看电视时间较长。

3.皮尔逊相关系数(Pearson Correlation Coefficient）

皮尔逊相关系数取值范围也是[-1,1]。

3.1 计算公式

皮尔逊相关系数的几个等价公式：

${\rho }_{X,Y}=\frac{cov(X,Y)}{{\sigma }_X{\sigma }_Y}=\frac{E[(X-{\mu }_X)(Y-{\mu }_Y)]}{{\sigma }_X{\sigma }_Y}$

$$\begin{gathered} {\rho }_{X,Y}=\frac{\sum _{i=1}^n(x_i-\bar{x})(y_i-\bar{y})}{\sqrt{\sum _{i=1}^n(x_i-\bar{x}{)}^2}\sqrt{\sum _{i=1}^n(y_i-\bar{y}{)}^2}} \\ =\frac{n\sum x_i{y}_i-\sum x_i\sum y_i}{\sqrt{n\sum x_i^2-(\sum x_i{)}^2}\sqrt{n\sum y_i^2-(\sum y_i{)}^2}} \end{gathered}$$

3.2 皮尔逊相关系数与余弦相似度

设向量$x=\{x_1,x_2,...,x_n\},y=\{y_1,y_2,...,y_n\}$，则二者的余弦相似度定义为：

$\cos \theta =\frac{xy}{|x||y|}=\frac{\sum x_i{y}_i}{\sqrt{\sum x_i^2\sqrt{\sum y_i^2}}}$。

因此当$\bar{x}=\bar{y}=0$时，二者计算一致。

参考文献

[1]Pearson Correlation Coefficient
[2] Spearman correlation coefficient: Definition, Formula and Calculation with Example
[3] wiki–Spearman’s rank correlation coefficient
[4] https://www.scribbr.com/statistics/pearson-correlation-coefficient/