命名实体识别(Named Entity Recognition)

命名实体识别(Named Entity Recognition,简称NER),又称作“专名识别”,是指识别文本中具有特定意义的实体,主要包括人名、地名、机构名、专有名词等。

NER能够应用在很多领域,是信息提取、问答系统、句法分析、机器翻译、面向Semantic Web的元数据标注等应用领域的重要基础工具,在自然语言处理技术走向实用化的过程中占有重要地位。

一般来说,命名实体识别的任务就是识别出待处理文本中三大类(实体类、时间类和数字类)、七小类(人名、机构名、地名、时间、日期、货币和百分比)命名实体。


NER的主要研究内容分为两个部分:(1)实体边界识别;(2) 确定实体类别(人名、地名、机构名或其他)。

英语中的命名实体具有比较明显的形式标志(即实体中的每个词的第一个字母要大写),所以实体边界识别相对容易,任务的重点是确定实体的类别。和英语相比,汉语命名实体识别任务更加复杂,而且相对于实体类别标注子任务,实体边界的识别更加困难。(所以发现中国ITer真心不容易,学习所有编程都要附加再学一套“编码问题如何解决”的技能;在NLP中又要为分词、实体边界识别花费大部分精力;有时候还得考虑简体、繁体的字符集成与规约。这些老外都不用劳心的。。)


总结NER的难点:

(1)汉语文本没有类似英文文本中空格之类的显式标示词的边界标示符,命名实体识别的第一步就是确定词的边界,即分词;

(2)汉语分词和命名实体识别互相影响;(

3)除了英语中定义的实体,外国人名译名和地名译名是存在于汉语中的两类特殊实体类型;

(4)现代汉语文本,尤其是网络汉语文本,常出现中英文交替使用,这时汉语命名实体识别的任务还包括识别其中的英文命名实体;

(5)不同的命名实体具有不同的内部特征,不可能用一个统一的模型来刻画所有的实体内部特征。



目前在中文词性标注(Part-of-speech Tagging)方面做的比较好的有:

哈工大的LTP:

http://ir.hit.edu.cn/demo/ltp/Sharing_Plan.htm

中科院的ICTCLAS:

http://www.nlp.org.cn/project/project.php?proj_id=6

Stanford的"Stanford POS Tagger":

http://nlp.stanford.edu/software/tagger.shtml

其中Stanford可以支持中文和英文的词性标注,它也有一个基于“条件随机场”算法的中文分词模块:

http://nlp.stanford.edu/software/segmenter.shtml

而哈工大在命名实体识别上据说是做得最好的,中科院的ICTCLAS有详细的文档并且有开源版本。


中科院有一篇基于HMM的NER的论文,可以参考一下:

http://cpfd.cnki.com.cn/Article/CPFDTOTAL-ZGTH200508007027.htm


你可能感兴趣的:(NLP,NER)