solr增量导入导数据优化

这例子是我查询增量导入数据的例子,增量导入语句deltaQuery:select id from article where cdate>'${dataimporter.last_index_time} ,此语句是先查询所有增量id然后在拼接到deltaImportQuery="select id,title,catid from article where id='${dataimporter.delta.id}'  查询增量的数据,按照官方这种写法没错,但是我查到多少id就会发起多少请求去拼接,影响相率,何不一次性查询全部增量数据呢于是对查询语句进行了改造


   
   
       
           
           
           
           
               
           

       

   

增量

可以改造成deltaQuery 查询时只查询一次 sql语句改成select -1 id from dual,改造成这样增量时获取id结果只有一条数据,然后按照全量方式去一次性获取增量的数据,deltaImportQuery改造为select id,title,catid from article where cdate > '${dataimporter.last_index_time}'

 

改造后的完整语句


   
   
       
           
           
           
           
               
           

       

   

改造语句前增量Request:42个请求solr增量导入导数据优化_第1张图片

改造语句后增量Request:3个请求solr增量导入导数据优化_第2张图片

你可能感兴趣的:(增量,solr)