Milvus 中常见相似度度量方法
在 Milvus 中，相似度度量方法用于衡量向量之间的相似程度，不同的度量方法有不同的特点、优缺点和适用场景。以下是对 Milvus 中常见相似度度量方法的详细介绍以及对应的 search 参数示例。
1. 欧氏距离（L2 Distance，L2）
特点
欧氏距离是最常用的距离度量方法之一，它计算的是两个向量在欧几里得空间中的直线距离。对于两个 n n n 维向量 x ⃗ = ( x 1 , x 2 , ⋯ , x n ) \vec{x}=(x_1,x_2,\cdots,x_n) x=(x1,x2,⋯,xn) 和 y ⃗ = ( y 1 , y 2 , ⋯ , y n ) \vec{y}=(y_1,y_2,\cdots,y_n) y=(y1,y2,⋯,yn)，欧氏距离的计算公式为：
[d(\vec{x},\vec{y})=\sqrt{\sum_{i = 1}^{n}(x_i - y_i)^2}]
优点
- 直观易懂：欧氏距离的几何意义明确，容易理解和解释。
- 广泛应用：在许多领域都有广泛的应用，例如图像处理、计算机视觉等。
缺点
- 对向量的尺度敏感：如果向量的各个维度的尺度差异较大，可能会导致距离计算结果受到较大影响。
- 计算复杂度较高：在高维空间中，欧氏距离的计算量相对较大。
适用场景
- 向量空间分布较为均匀的场景：当向量在空间中的分布比较均匀时，欧氏距离能够较好地反映向量之间的相似性。
- 对向量的绝对值差异比较敏感的场景：例如在一些需要考虑向量具体数值差异的应用中，欧氏距离比较适用。
search 参数示例
search_params = {
"metric_type": "L2",
"params": {
# 对于 IVF 索引，nprobe 表示搜索时要访问的聚类中心数量
"nprobe": 10
}
}
2. 内积（Inner Product，IP）
特点
内积是两个向量对应元素乘积之和。对于两个 n n n 维向量 x ⃗ = ( x 1 , x 2 , ⋯ , x n ) \vec{x}=(x_1,x_2,\cdots,x_n) x=(x1,x2,⋯,xn) 和 y ⃗ = ( y 1 , y 2 , ⋯ , y n ) \vec{y}=(y_1,y_2,\cdots,y_n) y=(y1,y2,⋯,yn)，内积的计算公式为：
[\vec{x}\cdot\vec{y}=\sum_{i = 1}^{n}x_iy_i]
优点
- 计算效率高：内积的计算相对简单，在大规模向量搜索中可以提高计算效率。
- 适用于向量的方向比较重要的场景：内积可以反映向量之间的方向相似性。
缺点
- 对向量的长度敏感：如果向量的长度差异较大，内积的结果可能会受到较大影响。
适用场景
- 文本挖掘和信息检索领域：在这些领域中，向量通常表示文本的特征，内积可以用来衡量文本之间的相关性。
- 基于向量方向的相似性比较场景：例如在推荐系统中，通过比较用户向量和物品向量的内积来推荐相关物品。
search 参数示例
search_params = {
"metric_type": "IP",
"params": {
# 对于 HNSW 索引，ef 表示搜索时的动态访问列表大小
"ef": 20
}
}
3. 余弦相似度（Cosine Similarity，COSINE）
特点
余弦相似度通过计算两个向量的夹角余弦值来衡量它们的相似性。它将向量的长度归一化，只考虑向量的方向。对于两个非零向量 x ⃗ \vec{x} x 和 y ⃗ \vec{y} y，余弦相似度的计算公式为：
[cos(\theta)=\frac{\vec{x}\cdot\vec{y}}{|\vec{x}||\vec{y}|}]
其中， ∥ x ⃗ ∥ \|\vec{x}\| ∥x∥ 和 ∥ y ⃗ ∥ \|\vec{y}\| ∥y∥ 分别是向量 x ⃗ \vec{x} x 和 y ⃗ \vec{y} y 的模。
优点
- 不受向量长度影响：余弦相似度只关注向量的方向，不考虑向量的长度，因此在比较不同长度的向量时具有优势。
- 适用于高维空间：在高维空间中，余弦相似度能够较好地反映向量之间的相似性。
缺点
- 不考虑向量的具体数值差异：余弦相似度只关注向量的方向，对于向量的具体数值差异不敏感。
适用场景
- 文本相似度计算：在自然语言处理中，常用于计算文档之间的相似度。
- 图像特征匹配：在计算机视觉中，用于比较图像的特征向量。
search 参数示例
search_params = {
"metric_type": "COSINE",
"params": {
# 对于 ANNOY 索引，search_k 表示搜索时访问的节点数量
"search_k": 100
}
}
4. Hamming 距离（Hamming Distance，HAMMING）
特点
Hamming 距离主要用于二进制向量，它计算的是两个二进制向量中对应位不同的位数。例如，对于二进制向量 x ⃗ = ( 0 , 1 , 0 , 1 ) \vec{x}=(0,1,0,1) x=(0,1,0,1) 和 y ⃗ = ( 1 , 1 , 0 , 0 ) \vec{y}=(1,1,0,0) y=(1,1,0,0)，它们的 Hamming 距离为 2。
优点
- 计算简单：Hamming 距离的计算只需要比较二进制位，计算复杂度较低。
- 适用于二进制数据：在处理二进制编码的向量时，Hamming 距离是一种非常合适的度量方法。
缺点
- 只适用于二进制向量：对于非二进制向量，Hamming 距离无法使用。
适用场景
- 哈希算法和二进制编码数据：例如在图像检索中，使用哈希算法将图像特征编码为二进制向量，然后使用 Hamming 距离进行快速匹配。
search 参数示例
search_params = {
"metric_type": "HAMMING",
"params": {}
}
5. Jaccard 距离（Jaccard Distance，JACCARD）
特点
Jaccard 距离用于衡量两个集合之间的不相似性，它是 Jaccard 相似度的补集。对于两个集合 A A A 和 B B B，Jaccard 相似度的计算公式为：
[J(A,B)=\frac{|A\cap B|}{|A\cup B|}]
Jaccard 距离的计算公式为：
[d_J(A,B)=1 - J(A,B)]
优点
- 适用于集合数据：Jaccard 距离能够很好地处理集合数据，反映集合之间的重叠程度。
缺点
- 对集合的大小和元素分布敏感：Jaccard 距离的结果可能会受到集合大小和元素分布的影响。
适用场景
- 文本分类和聚类：在文本处理中，可以将文本表示为词的集合，然后使用 Jaccard 距离进行文本的分类和聚类。
- 社交网络分析：用于分析用户之间的兴趣相似度，例如比较用户关注的话题集合。
search 参数示例
search_params = {
"metric_type": "JACCARD",
"params": {}
}
综上所述，在选择相似度度量方法时，需要根据数据的特点和具体的应用场景来进行综合考虑。不同的度量方法在不同的场景下可能会有不同的表现，合理选择度量方法可以提高向量搜索的准确性和效率。