Jieba库基本用法

Jieba库对中文分词的支持下较好，将文本分成粒度更细的词。

一、 特点
（一）支持三种分词模式：
1、 精确模式，试图将句子最精确地切开，适合文本分析；
2、 全模式，把句子中所有的可以成词的词语都扫描出来，速度非常快，但是不能解决歧义；
3、 搜索引擎模式，在精确模式的基础上，对长词再次切分，提高召回率。适合用于搜索引擎分词。
（二）支持繁体分词
（三）支持自定义分词
（四）MIT授权协议

二、 主要功能
1、 分词

• jieba.cut方法接受三个输入参数：需要分词的字符串；cut_all参数用来控制是否采用全模式；HMM参数用来控制是否使用HMM模型。
• jieba_cut_for_search方法接受两个参数：需要分词的字符串；是否使用HMM模型。该方法适合用于搜索引擎构建倒排索引的分词，粒度比较细。
• 待分词的字符串可以是unicode或UTF-8字符串、GBK字符串。注意：不建议直接输入GBK字符串，可能无法预料地错误解码成UTF-8
• Jieba.cut以及jieba.cut_for_search返回的结构都是一个可迭代的generator，可以使用for循环来获得分词后得到的每一个词语（unicode），或者用jieba.lcut以及jieba.lcut_for_search直接返回list
• Jieba.Tokenizer(dictionary=DEFAULT_DICT)新建自定义分词器，可用于同时使用不同词典。Jieba.dt为默认分词器，所有全局分词相关函数都是该分词器的映射。
• Pseg.cut(str1)：词性标注，标注句子分词后每个词的词性
• Jieba.analysee.extract_tags(str1,2)：关键词提取，参数setence对应str1为待提取的文本，topk对应2为返回几个TF/IDF权重最大的关键词，默认为20
• Jieba.tokenize(test_sent)：Tokenize返回词语在原本的起始位置

代码示例

2、 添加自定义词典
载入词典
1、开发者可以指定自己自定义的词典，以便包含jieba词库里没有的词。虽然jieba有新词识别能力，但是自行添加新词可以保证更高的效率。
2、 用法：jieba.load_userdict(file_name) file_name为文件类对象或自定义词典的路径
3、 词典格式和dict.txt一样，一个词占一行；每一行分三部分：词语、词频（可省略）、词性（可省略），用空格隔开，顺序不可颠倒。File_name若为路径或二进制方式打开额文件，则文件必须为UTF-8编码
4、 词频省略时使用自动计算的能保证分出该词的词频。

例如

更改分词器（默认为jieba.dt）的tmp_dir和cache_file属性，可分别指定缓存文件夹及其文件名，用于受限的文件系统。
范例：

• 自定义词典：https://github.com/fxsjy/jieba/blob/master/test/userdict.txt
• 用法示例：https://github.com/fxsjy/jieba/blob/master/test/test_userdict.py
  之前：李小福/是/创新/办/主任/也/是/云/计算/方面/的/专家/
  加载自定义词库后：李小福/是/创新办/主任/也/是/云计算/方面/的/专家/
  调整词典
• 使用add_word(word,freq=None, tag=None)和del_word(word)可在程序中动态修改词典。
• 使用suggest_freq(segment, tune=True)可调节单个词语的词频，使其能（或不能）被分出来。
• 注意：自动计算的词频在使用HMM新词发现功能时可能无效。

代码示例：

• 通过用户自定义词典来增强歧义纠错能力——https://github.com/fxsjy/jieba/issues/14

3、 关键词提取
基于TF-IDF算法的关键词提取
Import jieba.analyse

• Jieba.analyse.extract_tags(sentence, topK=20, withWeight=False, allowPOS=())
  (1) Sentence为带提取的样本
  (2) topK为返回几个TF/IDF权重最大的关键词，默认值为20
  (3) withWeight为是否一并返回关键词权重值，默认值为False
  (4) allowPOS仅包括指定词性的词，默认值为空，既不筛选
   jieba.analyse.TFIDF(idf_path=None)新建TFIDF实例，idf_path为IDF频率文件

代码示例（关键词提取）
https://github.com/fxsjy/jieba/blob/master/test/extract_tags.py
关键词提取所使用逆向文件频率(IDF)文本语料库可以切换成自定义语料库的路径
（1）用法：jieba.analyse.set_idf_path(file_name) file_name为自定义语料库的路径
（2）自定义语料库示例：
https://github.com/fxsjy/jieba/blob/master/extra_dict/idf.txt.big
（3）用法示例：
https://github.com/fxsjy/jieba/blob/master/test/extract_tags_idfpath.py
关键词提取所使用停止词（Stop Words）文本语料库可以切换成自定语料库的路径
（1） 用法：jieba.analyse.set_stop_words(file_name) # file_name为自定义语料库的路径
（2） 自定义语料库示例：https://github.com/fxsjy/jieba/blob/master/extra_dict/stop_words.txt
（3） 用法示例：https://github.com/fxsjy/jieba/blob/master/test/extract_tags_stop_words.py
关键词一并返回关键词权重值示例
用法示例：https://github.com/fxsjy/jieba/blob/master/test/extract_tags_with_weight.py

基于TextRank算法的关键词抽取

• Jieba.analyse.textrank(sentence, topK=20, withWeight=False, allowPOS=(‘ns’, ‘n’, ‘v’))直接使用，接口相同，注意默认过滤词性。
• Jieba.analyse.TextRank()新建自定义TextRank实例
  算法论文：TextRank: Bringing Order into Texts

基本思想：
1、 将待抽取关键词的文本进行分词
2、以固定窗口大小（默认为5，通过span属性调整），词之间的共现关系，构建图
3、 计算图中节点的pageRank，注意是无向带权图

4、 词性标注
 Jieba.posseg.POSTokenizer(tokenizer=None)新建自定义分词器，tokenizer参数可指定内部使用的jieba.Tokenizer分词器。Jieba.posseg.dt为默认词性标注分词器。

• 标注句子分词后每个词的词性，采用和ictclas兼容的标记法
• 用法示例：
  

5、 并行分词

• 原理：将目标文本按行分隔后，把各行文本分配到多个python进程并行分词，然后归并结果，从而获得分词速度的客观提升

• 基于python自带的multiprocessing模块，目前暂不支持Windows

• 用法：
  ① Jieba.enable_parallel(4) 开启并行分词模式，参数为并行进程数
  ② Jieba.disable_parallel() 关闭并行分词模式

• 例子：https://github.com/fxsjy/jieba/blob/master/test/parallel/test_file.py

• 实验结果：在4核3.4GHz Linux机器上，对金庸全集进行精确分词，获得了1MB/s的速度，单是进程版的3.3倍。

• 注意：并行分词仅支持默认分词器jieba.dt和jieba.posseg.dt。

****6、 Tokenize：返回词语在原文的起止位置

• 注意：输入参数只接受unicode

• 默认模式
  

7、 ChineseAnalyzer for Whoosh 搜索引擎

• 引用：form jieba.analyse import ChineseAnalyzer

• 用法示例：https://github.com/fxsjy/jieba/blob/master/test/test_whoosh.py

8、 延迟加载机制
Jieba采用延迟加载，import jieba和jieba.Tokenizer()不会立即触发词典的加载，一旦有必才开始加载词典构建前缀字典。如果你想手工初始jieba,也可以手动初始化。