今天在我爱机器学习上正好看到这篇文章,和我们现在做的中文拼写检查关系密切,就转过来了,需要细细地看一遍。
一、课程介绍
斯坦福大学于2012年3月在Coursera启动了在线自然语言处理课程,由NLP领域大牛Dan Jurafsky 和 Chirs Manning教授授课:
https://class.coursera.org/nlp/
以下是本课程的学习笔记,以课程PPT/PDF为主,其他参考资料为辅,融入个人拓展、注解,抛砖引玉,欢迎大家在“我爱公开课”上一起探讨学习。
课件汇总下载地址:斯坦福大学自然语言处理公开课课件汇总
二、拼写纠错(Spelling Correction)
1)任务定义
拼写纠错(Spelling Correction),又称拼写检查(Spelling Checker),往往被用于字处理软件、输入法和搜索引擎中,如下所示:
拼写纠错一般可以拆分成两个子任务:
2)Non-word拼写错误
3)Real-word拼写错误
4)基于Noisy Channel Model的拼写纠错
Noisy Channel Model即噪声信道模型,或称信源信道模型,这是一个普适性的模型,被用于语音识别、拼写纠错、机器翻译、中文分词、词性标注、音字转换等众多应用领域。其形式很简单,如下图所示:
噪声信道试图通过带噪声的输出信号恢复输入信号,形式化定义为:
应用于拼写纠错任务的流程如下:
noisy word(即splling error)被看作original word通过noisy channel转换得到,现在已知noisy word(用x表示)如何求得最大可能的original word(用w表示),公式如下:
P(w)为先验概率,P(x|w)为转移概率,二者可以基于训练语料库建立语言模型和转移矩阵(又称error model,channel model)得到。
下面通过一个Non-word spelling error correction的例子加以解释:
给定拼写错误“acress”,首先通过词典匹配容易确定为“Non-word spelling error”;然后通过计算最小编辑距离获取最相似的candidate correction,需要特别说明的是,这里的最小编辑距离涉及四种操作:
据统计,80%的拼写错误编辑距离为1,几乎所有的拼写错误编辑距离小于等于2,基于此,可以减少大量不必要的计算。
通过计算最小编辑距离获取拼写建议候选集(candidate w),此时,我们希望选择概率最大的w作为最终的拼写建议,基于噪声信道模型思想,需要进一步计算P(w)和P(x|w)。
通过对语料库计数、平滑等处理可以很容易建立语言模型,即可得到P(w),如下表所示,计算Unigram Prior Probability(word总数:404,253,213)
接下来,可以基于大量
计算P("acress"|w)如下:
计算P(w)P(“acress”|w)如下:
“across”相比其他candidate可能性更大。
上面建立语言模型时采用了unigram,也可以推广到bigram,甚至更高阶,以较好的融入上下文信息。
如句子“a stellar and versatile acress whose combination of sass and glamour…”,计算bigram为:
P(actress|versatile)=.000021 P(whose|actress) = .0010
P(across|versatile) =.000021 P(whose|across) = .000006
则联合概率为:
P(“versatile actress whose”) = .000021*.0010 = 210 x10-10
P(“versatile across whose”) = .000021*.000006 = 1 x10-10
“actress”相比“across”可能性更大。
5)Real-word拼写纠错
Kukich(1992)指出有25%~40%的拼写错误都属于Real-word类型,与Non-word类型相比,纠错难度更大,因为句子中的每个word都被当作待纠错对象。通常,解决方法分两步:
例如,给定句子S=w1,w2,w3,…,wn,为每个wi生成candidate set,如下:
最后,选择概率最大的序列W为自动纠错后的句子,与中文分词、音字转换等应用相同,可以表示成词网格形式,转化为HMM的解码过程:
为了简化起见,一般规定一个句子中最多有一个word存在splling error(事实上,所出现的情况也的确如此)。
6)应用
实际的拼写纠错系统一般会遵守如下HCI(Human Computer Interface)准则:
根据应用场景不同(Domain Sensitivity),需要对语言模型进行特别的处理,如:
除了字面上的拼写错误,还有可能同音导致,所以,有些系统将“error model”转化为“Phonetic error model”解决拼写纠错问题。
另外,键盘上临近的按键更容易引入spelling error pair,据此可以对转移矩阵进行加权。
我们还可以将拼写纠错问题转化为分类问题,通过构建训练语料库,抽取features,训练分类模型,预测新实例等一系列过程解决,如下:
三、参考资料
本文转载自:我爱机器学习(52ml.net) » 《斯坦福大学自然语言处理第五课“拼写纠错(Spelling Correction)”》