N元语法模型的数据稀疏问题解决方法之一:Good-Turing平滑

可以这样说我们把你n1/N的概率剩量分配给未见事件。为了更好地理解古德-图灵(Good-Turing)估计法,以一个例子来讲解。

  训练集合:T={what is it what is small?}|T|=8

  验证集合:V={what is it small ? flying birds are a bird.}, |V|=12

  在训练集合上,我们得到:p()=p(it)=p(small)=p(?)=0.125, p(what)=p(is)=0.25,其他为0

 如果不经过平滑处理,则验证集上两句子的概率分别为:p(what is it?)=(0.25*2)*(0.125*2)≈0.001  p(it is flying.)=0.125*0.25*(0*2)=0

  现在用古德-图灵算法进行平滑处理,如下:

 首先计算,各发生r次N元组类别的数目,依次为N(0)=6,N(1)=4,N(2)=2,N(i)=0 ,i>2:

 其次,重新估计各概率值。

  对于发生0次的事件概率:Pr(.)=p(flying)=p(birds)=p(are)=p(bird)=p(a)=(0+1)*N(0+1)/(8*N(0))=1*4/(8*6)≈0.083

  对于发生1次的时间概率:Pr(it)=p()=p(small)=p(?)=(1+1)*N(1+1)/(8*N(1))=2*2/(8*4)=0.125

  对于发生两次的时间概率:Pr(what)=Pr(is)=(2+1)*N(2+1)/(8*N(2))=3*0/(8*2)=0: 保持原值0.25

  归一化处理,6*P0+4*P1+2*P2=1.5。.

 所以,归一化处理后,p’(it)=p’()=p’(small)=p’(?)= 0.125/1.5 ≈0.08,  p’(what)=p’(is)= 0.25/1.5 ≈0.17, 

p’(.)=p’(birds)=p’(are)=p’(bird)=p’(a) = 0.083/1.5  ≈0.06

 因此:p’(what is it?)=(0175*2)*(0.08*2)≈0.0002   p’(it is flying.) ≈ 0.08*0.17*(0.06*2)≈0.00004

你可能感兴趣的:(nlp,算法)