python下的中文分词工具 finalseg库。
pypi仓库中又finalseg库,用户可以通过以下命令安装:
easy_install finalseg
项目地址:https://github.com/fxsjy/finalseg
程序示例:
# -*- encoding: utf-8 -*-
import finalseg
text = '对他们来说,只要日本不是逼太紧,也许拖是最好的办法,拖个天长地久,根据地壳板块移动的趋势,钓鱼岛迟早要镶上福建,这事自然就算成了。'
print '原文:'
print text
seg_list = finalseg.cut(text)
print "=="*10
print '分词后:'
print ','.join(seg_list)
输出结果:
原文:
对他们来说,只要日本不是逼太紧,也许拖是最好的办法,拖个天长地久,根据地壳板块移动的趋势,钓鱼岛迟早要镶上福建,这事自然就算成了。
====================
分词后:
对,他们,来,说,只要,日本,不,是,逼,太紧,也,许,拖,是,最好,的,办法,拖,个,天长,地久,根据,地壳,板块,移动,的,趋势,钓鱼,岛,迟早,要,镶,上,福建,这事,自然,就算,成,了