机器学习中的距离计算方法

机器学习中的距离计算方法?

参考博文

在做很多研究问题时常常需要估算不同样本之间的相似性度量(Similarity Measurement)，这时通常采用的方法就是计算样本间的“距离”(Distance)。采用什么样的方法计算距离是很讲究，甚至关系到分类的正确与否。

1. 欧式距离

欧氏距离是一个通常采用的距离定义，指两个点之间的真实距离

二维：

三维：

n维：

2. 曼哈顿距离
我们可以定义曼哈顿距离的正式意义为L1-距离或城市区块距离，也就是：

• 在欧几里德空间的固定直角坐标系上两点所形成的线段对轴产生的投影的距离总和。

在平面上，坐标点（x1,y1）与坐标点（x2,y2）的曼哈顿距离为：
$$d(i,j)=|x_1-x_2|+|y_1-y_2|$$

3.余弦距离

• 一个向量空间中两个向量夹角间的余弦值作为衡量两个个体之间差异的大小
• 余弦值接近1，夹角趋于O，表明两个向量越相似
• 余弦值接近于0，夹角趋于90度，表明两个向量越不相似。
  $$cos=\frac{x_1\ast x_2+y_1\ast y_2}{\sqrt{x_1^2+y_1^2}\ast \sqrt{x_2^2+y_2\ast 2}}$$

4.切比雪夫距离

切比雪夫距离是向量空间中的一种度量，二个点之间的距离定义是其各坐标数值差绝对值的最大值.

二维平面两点：
$$max\{|x_1-x_2|,|y_1-y_2|\}$$
两个n维向量：

或者是