ElasticSearch(25)- 改IK分词器源码来基于mysql热更新词库

代码地址

已经修改过的支持定期从数据库中提取新词库,来实现热更新。代码:

https://github.com/csy512889371/learndemo/tree/master/elasticsearch-analysis-ik-5.2.0

概述

es不停机,直接我们在外部某个地方添加新的词语,es中立即热加载到这些新词语

热更新的方案

1、修改ik分词器源码,然后手动支持从mysql中每隔一定时间,自动加载新的词库
2、基于ik分词器原生支持的热更新方案,部署一个web服务器,提供一个http接口,通过modified和tag两个http响应头,来提供词语的热更新
用第一种方案,第二种,ik git社区官方都不建议采用,觉得不太稳定

下载源码

https://github.com/medcl/elasticsearch-analysis-ik/tree/v5.2.0

ik分词器,是个标准的java maven工程,直接导入eclipse就可以看到源码

修改源码

 

  • Dictionary类,169行:Dictionary单例类的初始化方法,在这里需要创建一个我们自定义的线程,并且启动它
  • HotDictReloadThread类:就是死循环,不断调用Dictionary.getSingleton().reLoadMainDict(),去重新加载词典
  • Dictionary类,389行:this.loadMySQLExtDict();
  • Dictionary类,683行:this.loadMySQLStopwordDict();

mvn package打包代码

target\releases\elasticsearch-analysis-ik-5.2.0.zip

解压缩ik压缩包

将mysql驱动jar,放入ik的目录下

修改jdbc相关配置

重启es

观察日志,日志中就会显示我们打印的那些东西,比如加载了什么配置,加载了什么词语,什么停用词

你可能感兴趣的:(es)