solr dataImportHandler mysql增量索引

阅读更多

文章地址：http://quentinxxz.iteye.com/blog/2100621

 

前一篇中全量索引的data-config.xml 的配置为

 

对应的增量索引的data-config.xml 的配置为

 

在conf/dataimport.properties中会自动存储最近一次索引的时间，solr正是以此为依据实现增量。但是前提确保你的数据库表中有类似modify_time这样的字段，好与可以做对比。

 

${dih.last_index_time}为dataimport.properties中的last_index_time信息

${dih.delta.id}为deltaQuery所查询出来的主键id 

 

conf/dataimport.properties中自动存储的信息

 

 

#Wed Jul 30 10:58:44 GMT+08:00 2014
last_index_time=2014-07-30 10\:58\:37
product.last_index_time=2014-07-30 10\:58\:37

 

query是获取全部数据的SQL
deltaImportQuery是获取增量数据时使用的SQL
deltaQuery是获取pk的SQL
parentDeltaQuery是获取父Entity的pk的SQL

 

注：从配置文件来看，增量的效率似乎很低，"select id, price,modify_time from tts_product where ID='${dih.delta.id}"给我们的感觉是每有一条纪录，就根据id去查一定数据库。其实不然，仔细查看dataImportHanlder的源码，会发现实际执行的sql语句已经做过处理了，DIH会将多个id进行组合，修改sql语句，再执行一次查询。