N元语法模型的数据稀疏问题解决方法之一：Good-Turing平滑

可以这样说我们把你n1/N的概率剩量分配给未见事件。为了更好地理解古德-图灵（Good-Turing）估计法，以一个例子来讲解。

  训练集合：T={what is it what is small?}|T|=8

  验证集合：V={what is it small ? flying birds are a bird.}, |V|=12

  在训练集合上，我们得到：p()=p(it)=p(small)=p(?)=0.125, p(what)=p(is)=0.25，其他为0

 如果不经过平滑处理，则验证集上两句子的概率分别为：p(what is it?)=（0.25*2）*（0.125*2）≈0.001  p(it is flying.)=0.125*0.25*（0*2）=0

  现在用古德-图灵算法进行平滑处理，如下：

 首先计算，各发生r次N元组类别的数目，依次为N(0)=6,N(1)=4,N(2)=2,N(i)=0 ,i>2:

 其次，重新估计各概率值。

  对于发生0次的事件概率：Pr(.)=p(flying)=p(birds)=p(are)=p(bird)=p(a)=(0+1)*N(0+1)/(8*N(0))=1*4/(8*6)≈0.083

  对于发生1次的时间概率：Pr(it)=p()=p(small)=p(?)=(1+1)*N(1+1)/(8*N(1))=2*2/(8*4)=0.125

  对于发生两次的时间概率：Pr(what)=Pr(is)=(2+1)*N(2+1)/(8*N(2))=3*0/(8*2)=0: 保持原值0.25

  归一化处理，6*P0+4*P1+2*P2=1.5。.

 所以，归一化处理后，p’(it)=p’()=p’(small)=p’(?)= 0.125/1.5 ≈0.08,  p’(what)=p’(is)= 0.25/1.5 ≈0.17, 

p’(.)=p’(birds)=p’(are)=p’(bird)=p’(a) = 0.083/1.5  ≈0.06

 因此：p’(what is it?)=（0175*2）*（0.08*2）≈0.0002   p’(it is flying.) ≈ 0.08*0.17*（0.06*2）≈0.00004