IK分词中文分词使用-java

前言

最近写的一个功能是筛选句子的词汇,并统计出现最多的词汇,所以用到了IK分词下面简单介绍一下.

内容

第一点: 简单介绍一下

第二点: 引入jar包


    com.janeluo
    ikanalyzer
    2012_u6


    org.apache.lucene
    lucene-core
    4.7.2

第三点: 扩展配置取消停用词

需要建立一个进行扩展的xml
文件名: IKAnalyzer.cfg.xml
内容:

IK Analyzer 扩展配置

ext.dic; 

stopword.dic; 

`
IK分词中文分词使用-java_第1张图片
取消停用词部分,只需要在加入一个与配置名字相同的文本文档即可里面写好需要停用的词汇
IK分词中文分词使用-java_第2张图片
写停用词的格式
IK分词中文分词使用-java_第3张图片

第四点:进行分词

IK分词中文分词使用-java_第4张图片

package com.haha.test;
 
import java.io.IOException;
import java.io.StringReader;
 
import org.wltea.analyzer.core.IKSegmenter;
import org.wltea.analyzer.core.Lexeme;
 
public class Test3 {
	
	public static void main(String[] args) throws IOException {
		String text="基于java语言开发的轻量级的中文分词工具包";
		StringReader sr=new StringReader(text);
		IKSegmenter ik=new IKSegmenter(sr, true);
		Lexeme lex=null;
		while((lex=ik.next())!=null){
			System.out.print(lex.getLexemeText()+"|");
		}
	}
 
}

其他

如果觉得不能理解或者需要例子可以直接下载资源之后上传…

小结
感谢您的阅读~~

你可能感兴趣的:(java)