欧氏距离和余弦距离

  • 欧氏距离和余弦距离
    参考:https://blog.csdn.net/mr_evanchen/article/details/77511312

一、欧几里得距离(Euclidean Distance)
   欧氏距离是最常见的距离度量,衡量的是多维空间中各个点之间的绝对距离。公式如下:
在这里插入图片描述
因为计算是基于各维度特征的绝对数值,所以欧氏度量需要保证各维度指标在相同的刻度级别
eg:在深度学习中,提取CNNs倒数的第二层fc作为最后的特征向量,来进行人脸比对(1:1,1:N)。

Python实现如下:

import numpy as np

x = np.random.random(10)
y = np.random.random(10)

# solution1
dist1 = np.linalg.norm(x-y)

# solution2
dist2 = np.sqrt(np.sum(np.square(x-y)))

print('x',x)
print('y',y)
print('dist1',dist1)
print('dist2',dist2)

二、余弦距离
余弦相似度用向量空间中两个向量夹角的余弦值作为衡量两个个体间差异的大小。相比距离度量,余弦相似度更加注重两个向量在方向上的差异,而非距离或长度上。公式如下:
在这里插入图片描述
Python实现如下:

import numpy as np
from scipy.spatial.distance import pdist
 
x=np.random.random(10)
y=np.random.random(10)
 
# solution1
dist1 = 1 - np.dot(x,y)/(np.linalg.norm(x)*np.linalg.norm(y))
 
# solution2
dist2 = pdist(np.vstack([x,y]),'cosine')
 
print('x',x)
print('y',y)
print('dist1',dist1)
print('dist2',dist2)

三、欧氏距离和余弦距离的区别
余弦距离使用两个向量夹角的余弦值作为衡量两个个体间差异的大小。相比欧氏距离,余弦距离更加注重两个向量在方向上的差异。
借助三维坐标系来看下欧氏距离和余弦距离的区别:
欧氏距离和余弦距离_第1张图片
从上图可以看出,欧氏距离衡量的是空间各点的绝对距离,跟各个点所在的位置坐标直接相关;而余弦距离衡量的是空间向量的夹角,更加体现在方向上的差异,而不是位置。如果保持A点位置不变,B点朝原方向远离坐标轴原点,那么这个时候余弦距离cosθ是保持不变的(因为夹角没有发生变化),而A、B两点的距离显然在发生改变,这就是欧氏距离和余弦距离之间的不同之处。

欧氏距离和余弦距离各自有不同的计算方式和衡量特征,因此它们适用于不同的数据分析模型:
欧氏距离能够体现个体数值特征的绝对差异,所以更多的用于需要从维度的数值大小中体现差异的分析,如使用用户行为指标分析用户价值的相似度或差异。

余弦距离更多的是从方向上区分差异,而对绝对的数值不敏感,更多的用于使用用户对内容评分来区分兴趣的相似度和差异,同时修正了用户间可能存在的度量标准不统一的问题(因为余弦距离对绝对数值不敏感)。

注:在CNNs中,对特征向量进行L2范数归一化后,欧式距离和余弦距离可以等价。
参考《stack-exchange, is-cosine-similarity-identical-to-l2-normalized-euclidean-distance》
cosine similarity is identical to l2-normalized euclidean distance someway.
欧氏距离和余弦距离_第2张图片
从上式中可以看出, 夹角越大, 欧氏距离的平方就越大。


注:博众家之所长,集群英之荟萃。

你可能感兴趣的:(损失函数)