在文章中获取关键字
首先需要的jar包
下载apache的lucene-core-3.6.2.jar，lucene-highlighter-3.6.2.jar，lucene-memory-3.6.2.jar，lucene-analyzers-3.6.2.jar和一个开源的工具包IKAnalyzer2012.jar。
版本一样要对应好IKAnalyzer2012之前的版本只支持到lucene3.3之前版本，版本最是坑爹啊。
如果需要使用xml配置，匹配单词和拦截单词时，必须使用相应的字符格式。
/**
* 相关的jar包
* lucene-core-3.6.2.jar,lucene-memory-3.6.2.jar,
* lucene-highlighter-3.6.2.jar,lucene-analyzers-3.6.2.jar
* IKAnalyzer2012.jar
*
* 截取一片文章中频繁出现的关键字，并给予分组排序（倒叙），以数组格式返回n个关键字
*
* 并该类内部含有一个List2Map方法，可将重复<String>集合转换为Map<String, Integer>格式
* 并算出该<String>重复次数，放入相应的value中
*/
package com.gjz.get;
import java.io.IOException;
import java.io.StringReader;
import java.util.ArrayList;
import java.util.Collections;
import java.util.Comparator;
import java.util.HashMap;
import java.util.List;
import java.util.Map;
import java.util.Map.Entry;
import org.apache.lucene.analysis.TokenStream;
import org.apache.lucene.analysis.tokenattributes.CharTermAttribute;
import org.wltea.analyzer.lucene.IKAnalyzer;
/**
* 获得关键字方法类
* @创建人 PengBo
* @创建时间 2013-6-8 下午4:25:23
*/
public class WordUitl {
/** 测试文章 */
static String keyWord = "冗长的代码常常是复杂性的标志，会导致代码难以测试和维护." +
"这是一道逻辑计算题，先不说1+2=？的问题，你肯定要知道1+1=2，否则你无法知道2是怎么来的。" +
"冗长的代码常常是复杂性的标志，会导致代码难以测试和维护." +
"这是一道逻辑计算题，先不说1+2=？的问题，你肯定要知道1+1=2，否则你无法知道2是怎么来的。" +
"冗长的代码常常是复杂性的标志，会导致代码难以测试和维护.";
/** 获取关键字个数 */
private final static Integer NUM=5;
/** 截取关键字在几个单词以上的数量 */
private final static Integer QUANTITY=1;
/**
* 传入String类型的文章，智能提取单词放入list中（可以设置xml中的条件）
* @param article
* @return
* @throws IOException
* @创建人 PengBo
* @创建时间 2013-6-7 上午11:56:53
*/
@SuppressWarnings("resource")
private static List<String> extract(String article,Integer a) throws IOException {
List<String> list =new ArrayList<String>(); //定义一个list来接收将要截取出来单词
IKAnalyzer analyzer = new IKAnalyzer(); //初始化IKAnalyzer
analyzer.setUseSmart(true); //将IKAnalyzer设置成智能截取
TokenStream tokenStream= //调用tokenStream方法(读取文章的字符流)
analyzer.tokenStream("", new StringReader(article));
while (tokenStream.incrementToken()) { //循环获得截取出来的单词
CharTermAttribute charTermAttribute = //转换为char类型
tokenStream.getAttribute(CharTermAttribute.class);
String keWord= charTermAttribute.toString(); //转换为String类型
if (keWord.length()>a) { //判断截取关键字在几个单词以上的数量(默认为2个单词以上)
list.add(keWord); //将最终获得的单词放入list集合中
}
}
return list;
}
/**
* 将list中的集合转换成Map中的key，value为数量默认为1
* @param list 可重复的集合
* @return 返回一个key不可重复的map
* @创建人 PengBo
* @创建时间 2013-6-7 上午11:52:44
*/
private static Map<String, Integer> list2Map(List<String> list){
Map<String, Integer> map=new HashMap<String, Integer>();
for(String key:list){ //循环获得的List集合
if (list.contains(key)) { //判断这个集合中是否存在该字符串
map.put(key, map.get(key)==null?1:map.get(key)+1);
} //将集中获得的字符串放在map的key键上
} //并计算其value是否有值，如有则+1操作
return map;
}
/**
* 可选提取关键字方法
* 调用extract方法获得关键字列表 并转为Map<Stting,Integer>
* 将map按照value进行排序，并返回想要钱几位的一个数组
* @param <String>article 需要获得关键字的文章
* @param <Integer>a 截取关键字在几个单词以上的数量
* @param <Integer>n 需要获得几位关键字的条件
* @return 前<n>位关键字
* @throws IOException
* @创建人 PengBo
* @创建时间 2013-6-7 下午12:57:48
*/
public static String[] getKeyWords(String article,Integer a,Integer n) throws IOException {
List<String> keyWordsList= extract(article,a); //调用提取单词方法
Map<String, Integer> map=list2Map(keyWordsList); //list转map并计次数
//使用Collections的比较方法进行对map中value的排序
ArrayList<Entry<String, Integer>> list = new ArrayList<Entry<String,Integer>>(map.entrySet());
Collections.sort(list, new Comparator<Map.Entry<String, Integer>>() {
public int compare(Map.Entry<String, Integer> o1, Map.Entry<String, Integer> o2) {
return (o2.getValue() - o1.getValue());
}
});
if (list.size()<n) n=list.size(); //排序后的长度，以免获得到null的字符
String[] keyWords=new String[n]; //设置将要输出的关键字数组空间
for(int i=0; i< list.size(); i++) { //循环排序后的数组
if (i<n) { //判断个数
keyWords[i]=list.get(i).getKey(); //设置关键字进入数组
}
}
return keyWords;
}
/**
* 默认获得关键字方法
* @param <String>article 文章
* @return 返回5个关键字，关键字为2个字以上的词语
* @throws IOException
* @创建人 PengBo
* @创建时间 2013-6-8 下午4:20:47
*/
public static String[] getKeyWords(String article) throws IOException{
return getKeyWords(article,QUANTITY,NUM);
}
}
OK 返回n个词语。
哦忘了 有可控制的xml配置 发过来IKAnalyzer.cfg.xml
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
<comment>IK Analyzer 扩展配置</comment>
<!--用户可以在这里配置自己的扩展字典
<entry key="ext_dict">ext.dic;</entry>
-->
<!--用户可以在这里配置自己的扩展停止词字典-->
<entry key="ext_stopwords">stopword.dic;</entry>
</properties>
此为文件包自带的xml文件 没有修改，也懒的去改，测试了个停词的文档stopword.dic
1 2 3 4 5 6 常
测试了清楚1-6数字和汉字功能完全可以，只要将xml文件配置到src下即可，上课例子的图片记录下
齐活。