Windows10下CRF++ 分词实践

步骤如下: 
1. 下载 CRF++-0.58.tar.gz, 解压
2. 我们只需要如下三个文件 

Windows10下CRF++ 分词实践_第1张图片
之后

将这三个文件与所需文件压缩包内东西解压放在同一目录下

下载链接:

 

3. 创建 模板文件 tmpl.txt 如下:

# Unigram
U00:%x[-2,0]
U01:%x[-1,0]
U02:%x[0,0]
U03:%x[1,0]
U04:%x[2,0]


# Bigram
B

4.进入Windows shell界面 cd 切换到刚才解压好的目录  然后执行如下操作

  将训练语料转换成crf++需要的格式

python make_crf_train_data.py pku_train.utf8 pku_training_out.utf8 

5. 使用训练,得到model 文件   

.\crf_learn tmpl.txt pku_training_out.utf8 pku.model


6. 将测试语料转换成crf++需要的格式

python make_crf_test_data.py pku_test.utf8 pku_test_out.utf8


7. 得到标注文件,还要用脚本进行转换,略繁琐(可以跳过直接进入下一步 )  

.\crf_test -m pku.model pku_test_out.utf8 > pku_test_result.utf8 


8. 执行得到分词输出结果

 python crf_segmenter.py pku.model pku_test.utf8 pku_test_word.utf8 

9.对分词结果进行评测 

python crf_tag_score.py pku_test_gold.utf8  pku_test_word.utf8


所需文件链接:https://download.csdn.net/download/qq_27500493/11223964

你可能感兴趣的:(笔记以及其他)