minHash最小哈希原理

前言

       在数据挖掘中，一个最基本的问题就是比较两个集合的相似度。通常通过遍历这两个集合中的所有元素，统计这两个集合中相同元素的个数，来表示集合的相似度；这一步也可以看成特征向量间相似度的计算（欧氏距离，余弦相似度）。当这两个集合里的元素数量异常大（特征空间维数很大），同时又有很多个集合需要判断两两间的相似度时，传统方法会变得十分耗时，最小哈希（minHash）可以用来解决该问题。

Jaccard相似度

       在本例中，我们仅探讨集合的相似度，先来看Jaccard相似度。假设有两个集合A，B，则

       Jaccard(A, B)= |A ∩ B| / |A ∪ B|，我们举一个例子：

       在上述例子中，sim(A,B)=2/7。

minHash最小哈希

       假设现在有4个集合，分别为S1，S2，S3，S4；其中，S1={a,d}, S2={c}, S3={b,d,e}, S4={a,c,d}，所以全集U={a,b,c,d,e}。我们可以构造如下0-1矩阵：

       为了得到各集合的最小哈希值，首先对矩阵进行随机行打乱，则某集合（某一列）的最小哈希值就等于打乱后的这一列第一个值为1的行所在的行号。举一个例子：

       定义一个最小哈希函数h，用于模拟对矩阵进行随机行打乱，打乱后的0-1矩阵为

       如图所示，h(S1)=2, h(S2)=4, h(S3)=0, h(S4)=2。

       在经过随机行打乱后，两个集合的最小哈希值相等的概率等于这两个集合的Jaccard相似度，证明如下：

       现仅考虑集合S1和S2，那么这两列所在的行有下面3种类型：
       1、S1和S2的值都为1，记为X
       2、只有一个值为1，另一个值为0，记为Y
       3、S1和S2的值都为0，记为Z

       S1和S2交集的元素个数为x，并集的元素个数为x+y，所以sim(S1,S2) = Jaccard(S1,S2) = x/(x+y)。接下来计算h(S1)=h(S2)的概率，经过随机行打乱后，从上往下扫描，在碰到Y行之前碰到X行的概率为x/(x+y)，即h(S1)=h(S2)的概率为x/(x+y)。

最小哈希签名

       有了上一章节的证明，我们就可以通过多次进行最小哈希运算，来构造新的特征向量，也就是完成了降维，得到的新矩阵称为最小哈希签名矩阵。举一个例子，假设进行2次最小哈希运算，h1(x)=(x+1) mod 5，h2(x) = (3*x+1) mod 5，可以得到签名矩阵SIG：

       计算得到sim(S1,S4)=1，sim(S1,S3)=0.5。当然本例数据量太小，签名矩阵的估计值跟真实Jaccard误差较大。

       这里提供一种仅扫描一次就可以得到最小签名矩阵的算法：

       令SIG(i,c)表示签名矩阵中第i个哈希函数在第c列上的元素。开始时，将所有的SIG(i,c)初始化为Inf(无穷大)，然后对第r行进行如下处理：
1. 计算h1(r), h2(r)…hn(r)；
2. 对于每一列c：
       a) 如果c所在的第r行为0，则什么都不做；
       b) 如果c所在的第r行为1，则对于每个i=1,2…n，将SIG(i,c)=min（SIG(i,c)，hi(r)）。

       再看不懂的可以参考minHash(最小哈希)和LSH(局部敏感哈希)。

MinHash的应用

       MinHash可以应用在推荐系统中，将上述0-1矩阵的横轴看成商品，竖轴看成用户，有成千上万的用户对有限的商品作出购买记录，具体可以参考基于协同过滤，NMF和Baseline的推荐算法一文。MinHash也可以应用在自然语言处理的文本聚类中，将上述0-1矩阵的横轴看成文档，竖轴看成词汇或n-gram。这里我提出一种基于依赖树的同义词聚类算法：

       假设现有没有语法错误的文本集，我们使用依赖树工具得到上图的边，先用TF-IDF逆文档频率过滤得到我们想要聚类的词汇，然后用倒排索引建立类似ESA的词汇-概念向量，例如：

       发展：nsubj(~，交通)，advmod(~，比较)，relcl(地方，~)，mark(~，的)

       发达：nsubj(~，交通)，advmod(~，比较)，relcl(地方，~)，mark(~，的)

       这样，就有待聚类的词汇有限，概念数量庞大的情形，应用minHash完成降维，再来聚类，具体可以参考从n-gram中文文本纠错，到依存树中文语法纠错以及同义词查找一文。

LSH局部敏感哈希

       我们得到签名矩阵后，对集合还是需要进行两两比较，假如集合数量也极度庞大的话，我们希望仅比较那些相似度可能很高的集合，而直接忽略那些相似度很低的集合，LSH就可以用来解决该问题。

       LSH用到“桶”的概念，直接举一个例子，现有一个12行的签名矩阵，我们设置桶大小为3，则可分为4个桶，如下图：

       对于S2，我们仅需要寻找那些桶相同的集合来计算相似度，例如：

       我们仅需要计算sim(S2, S3)，sim(S2, S4)，sim(S2, S5)，因为这些集合出现过与S2桶相同的情况。再不懂可以看minHash(最小哈希)和LSH(局部敏感哈希)一文。

Reference

minHash(最小哈希)和LSH(局部敏感哈希)

MinHash (最小哈希)