【数学笔记】描述样本相似度的几种指标

1.闵可夫斯基距离

给定样本集合$X$,$X$是$m$维实数向量空间$R^m$中点的集合，其中$x_i,x_j\in X$,$x_i=(x_{1i},x_{2i},\cdots ,x_{mi}{)}^T$,$x_i=(x_{1j},x_{2j},\cdots ,x_{mj}{)}^T$,样本$x_i$与样本$x_j$的闵可夫斯基距离(Minkowski distance)为
$$d_{ij}=(\sum _{k=1}^m|x_{ki}-x_{kj}{|}^p{)}^{\frac{1}{p}}$$
其中$p\ge 1$。
$p=1$时称为曼哈顿距离(Manhattan distance)
$p=2$时称为欧式距离(Euclidean distance)
$p=\infty$时称为切比雪夫距离(Chebyshev distance)，通过夹逼法不难证明此时$d_{ij}=\max |x_{ki}-x_{kj}|$

闵可夫斯基距离越大相似度越小

2.马哈拉诺比斯距离

给定一个样本集合$X$，$X=[x_{ij}{]}_{m\times n}$,其协方差矩阵记作$S$。样本$x_i$与样本$x_j$的马哈拉诺比斯距离为$$d_{ij}=[(x_i-x_j{)}^T{S}^{-1}(x_i-x_j){]}^{\frac{1}{2}}$$
当S为单位矩阵，马哈拉诺比斯距离为欧氏距离。

马哈拉诺比斯距离越大相似度越小

3.相关系数

样本$x_i$与$x_j$之间的相关系数为:
$$r_{ij}=\frac{{\sum }_{k=1}^m(x_{ki}-\overline{x_i})(x_{kj}-\overline{x_j})}{[{\sum }_{k=1}^m{(x_{ki}-\overline{x_i}}^{}{)}^2{\sum }_{k=1}^m(x_{kj}-\overline{x_j}{)}^2]}$$

相关系数越接近于1，相关性越大，越接近于0，相关性越小

4.夹角余弦

样本$x_i$与$x_j$之间的夹角余弦为:
$$s_{ij}=\frac{{\sum }_{k=1}^m{x}_{ki}{x}_{kj}}{[{\sum }_{k=1}^m{x}_{ki}^2{\sum }_{k=1}^m{x}_{kj}^2{]}^{\frac{1}{2}}}$$
夹角余弦越接近于1，相关性越大，越接近于0，相关性越小