Algorithms 算法学习笔记20180416

今天主要学习的是MIT课程算法导论中的"哈希表"，“全域哈希和完全哈希”这两课。老师的讲解是层层深入，循循善诱的。

首先了解一下什么是哈希表，为了便于对存放的数据进行增删改查，而不使用遍历查找这么费时的方法（对应是直接映射表），我们需要创建一张映射表格，这张表格就是哈希表（Hashing Table）。它实现了根据key去查找数值值的数据映射。类似于用字典查单词，根据拼音首字母，或是偏旁部首等，这些就是key.

具体来说，key是通过Hashing Function（哈希函数）来计算的，主要有2种，

第一种是取余的哈希函数，比如将数据值取余来计算key，表达式是key=value%d，但d一般不取偶数，特别是2，10，因为假定数据全部是偶数，则生成的Key有很大可能会重复，用10的话，相当于取十进制数的最低的几位，对于一些数据来说，往往也会出现key重复。我们一般选择一个奇数作为d。

以下举例说明：

原数据为19，01，23，14，55，68，11，82，36， Hash(k)=key MOD 11

哈希表-开放寻址

数据值对11取余后，结果放在Hash(k)中，下面按数据的顺序和哈希值来存放，我们已经发现有的哈希值是相同的，这称之为碰撞，解决碰撞的方法有许多种，其中一种是开放寻址，即若发生碰撞，则向后查找，直至找到空槽为止。

本例中，先放19，在8号位，然后 是1，放在1号位，23，放在1号位，有碰撞，于是找2号位，空，放入。然后放14，在3号位，放55，在0号位，放68，在2号位，有碰撞，找到4号位，空，放入。放11，在0号位，有碰撞，找到5号位，空，放入。放82，在5号位，碰撞，于是放在6号位，放36，在3号位，碰撞，于是找到7号位，空，放入。

这时我们需要设计的存储表大小m与要存放的数据量n相同即可。

还有一种方法是链接法，若发生碰撞，则在碰撞位置增加链表，以存放多个数据。

补充一点，除了取余作为哈希函数，我们也可以采用乘法，如hash(k)=(A*k mod 2^w) rsh(w-r)

其中A的值介于2^(w-1)和2^w之间，且为奇数， 存放的表的大小为m=2^r，要存放的数据大小w位， rsh指向右移动。举例说明：

m=8=2^3, w=7, r=3, w-r=4。 2^(w-1)和2^w之间即为2^6和2^7之间，64和128之间。

取A=1011001=89，假设某一个数据k=1101011,则A与K相乘，得10010100110011,对2^w取余，即取乘积的后w位，这里为0110011，向右移动4位，得到hask(k)=011=3.

每次取A的k倍的尾部，得到相应的槽并放行。

我们研究一下，要放存n个数据在m个槽中，平均探查（碰撞次数+1）的期望有多少？

一次探查的碰撞概率为n/m，二次碰撞的概率为(n-1)/(m-1)，同理，三次碰撞的概率为（n-2)/(m-2)，因为每次碰撞后，下一次碰撞就不会重复上一个槽的位置了，所以是递减的。平均碰撞的期望是

E(avg)是一个累计相乘的算式，1+n/m(1+二次碰撞（1+三次碰撞（1+...))))，这里把(n-i)/(m-i)全部放大为n/m=α，（加载因子），E(avg)<=1+α+α^2+α^3+...=1/(1-α） 等比级数。

那么，一般的，当α=0.5时，平均探查2次，α=0.9时，平均探查10次。

可以看到，α反映的是Hash表中元素的填充程序，α越大，则空间利用率越高，但冲突机会增大，反之，冲突机会减少，但空间有浪费。默认α在0.75比较适当。

接下来说明第二部分，全域哈希，课堂上老师给出一个案例，两个公司的同一个客户要求双方编写哈希算法，且代码共享，并提供测试数据给对方评价算法效果，问，如何才能战胜对手？

如果能看到你的哈希算法，对手总能找到一个数据其算出的hash(k)是完全一样的，这样就只能放在一个链表中了，速度会大大减慢。唯一的办法是，每次采用的哈希算法是随机的，这样对手也完全不知道，代码在运行时，用的是哪种算法。

下面给出全域哈希的定义：

设U是key的全局域， 设H是哈希函数的有限集合，每一个都是将U映射到 {0,1,..,m-1},即table的槽内。 如果对于任意的不相等key的x和y, 从哈希函数集中选择一个哈希函数，则这两个key 发生冲突的概率是1/m ，把x和y想象成2个飞镖，它们均落在红色区域，则发生冲突。

全域哈希

使用全域哈希，它的相关定理的证明如下：

冲突概率

当我们把m变得足够大时，我们就减少了冲突的发生。有没有完美的哈希算法呢？

但要存储的数据是静态数据时，而不是随时在变的。我们可以通过二次哈希算法来实现。第一次哈希将数据存放至大小为m的表中，第二次哈希表的大小为第一张哈希表中存放数据的个数的平方。这样，第一次哈希表的数据再次哈希（两次使用的哈希函数是不同的），发生碰撞的概率会控制在1/2以下。

证明方式是， 第一次哈希时发生碰撞的概率为1/m，设计二次哈希表m=n^2,则在第二张哈希表2个数据发生碰撞，所有可能的碰撞对为C(n,2)=n(n-1)/2，与碰撞概率相乘，其期望E(avg)=n(n-1)/2*(1/n^2)=(n-1)/2n<1/2。

附上补充的说明文章链接。

明天会针对算法和Java的已学知识进行梳理。