JAVAWEB开发之Solr的入门——Solr的简介以及简单配置和使用、solrJ的使用、Solr数据同步插件

Solr简介

Solr是采用Java开发，基于Lucene的全文检索服务器，同时对其进行了扩展，提供了比Lucene更为丰富的查询语言，同时实现了可配置、可扩展并对查询性能进行了优化，并且提供了一个完善的功能管理界面，是一款非常优秀的全文搜索引擎。

Solr是一个独立的企业级搜索应用服务器，它对外提供类似于Web-Service的API接口，用户可以通过http请求，向搜索引擎服务器提交一定格式的XML文件，生成索引，也可以通过Http G Solret操作提出查找请求，并得到XML格式的返回结果。

Solr与Lucene的关系

Lucene是一套信息检索工具包，但是并不包含搜索引擎系统，它包含了索引结构、读写索引工具、相关性工具、排序等功能，因此在使用Lucene时仍需要关注搜索引擎系统，例如数据获取、解析、分词方面的东西。

solr是基于Lucene开发的，Solr主要是为了打造一款企业级的搜索引擎系统，因此它更接近于常用的搜索引擎系统（百度、搜狗），它是一个搜索引擎服务，通过各种API可以让我们的应用使用搜索服务，而不需要将搜索逻辑耦合在应用中。而且solr可以根据配置文件定义数据解析的方式，更像是一个搜索框架，它也支持主从、热换库操作，还添加了高亮、facet等搜索引擎常见的功能支持。

Nutch是一款开源的Java实现的搜索引擎，它提供了我们运行自己的搜索引擎所需的全部工具。包括全文检索和web爬虫。常用来使用Nutch做爬虫。

Solr的简单搭建运行

Solr 下载地址：http://archive.apache.org/dist/lucene/solr/

下载解压后的目录：

配置步骤：

1.解压solr-4.7.0.zip到你想到存放的路径，比如当前用户根目录/Users/liuxun/solr-4.7.0
2.cmd打开命令行窗口，进入/Users/liuxun/solr-4.7.0/example目录
3.执行命令：java -jar start.jar
4.通过第三步以后，系统会启动solr自带的jetty服务器，通过    http://localhost:8983/solr/便可访问solr。
此时，solr已成功启动

操作界面说明：

等等还有查询 界面使用并不麻烦

命令测试管理索引

(一) 创建索引

此时solr已安装并启动，但是还没有索引，只有创建好索引，搜索才能有结果
1、命令进入/solr-4.6.0/example/exampledocs目录
2、执行命令：java -jar post.jar solr.xml monitor.xml，此时你已成功提交了2个solr文档
3、执行完第二步后，我们可以通过浏览器访问：http://localhost:8983/solr/collection1/select?q=solr&wt=xml
如果你想导入更多的文档，执行命令：java -jar post.jar *.xml

(二)更新索引

当重复执行命令：java -jar post.jar *.xml后，发现搜索的结果没有出现重复的数据，原因：example目录下的schema.xml中指定了列id为uniqueKey（即：唯一），所以重复提交数据到索引库时，id相同的数据会替换原来document中的数据。
如果想要得到重复的数据，可以通过修改exampledocs目录下*.xml中id值的方式实现

(三)删除索引

1、执行命 令：
java -Ddata=args -Dcommit=false -jar post.jar “SP2514N”，可以删除id为 SP2514N的document
2、执行第一步后，再去搜索发现搜索结果中还有id为SP2514N的数据，其实不是第一步没有删除成功，因为第一步的命令中-Dcommit=false，所以第一步的删除操作没有提交到索引（index）中。
3、在没有打开新的searcher之前，第一步删除数据会一直存在于搜索结果中，所以我们可以强制打开一个新的searcher，执行命令：java -jar post.jar -

(四)查询索引

solr通过http以get的方式进行搜索数据，如：http://localhost:8983/solr/collection1/select?q=solr&wt=xml
q：查询的关键词(此时查询的字段是solrconfig.xml中指定的默认查询字段text)
fl：搜索结果返回的字段
sort：排序
wt：搜索结果返回格式
q=video&fl=name,id (return only name and id fields) 
q=video&fl=name,id,score (return relevancy score as well) 
q=video&fl=*,score (return all stored fields, as well as relevancy score) 
q=video&sort=price desc&fl=name,id,price (add sort specification: sort by price descending) 
q=video&wt=json (return response in JSON format) 

使用SolrJ与Solr服务器交互

我们要使用Solr服务，可以直接使用urlconnecion按照规则去调用Solr服务的接口，如果是web应用除了可以使用URLConnection在后台调用外还可以使用AJAX技术(XmlHttpRequest)调用，但是需要自己封装数据，解析数据，非常麻烦。

SolrJ提供了针对各种客户端的API，可以省去这些繁琐的步骤，面向API编程 直接与Solr服务器进行交互。

SolrJ的简介和使用：

solrj是solr的java客户端，用于访问solr索引库。
它提供了添加、删除、查询、优化等功能。 
Jar 包位置
解压目录:
它是集成到solr压缩包里的，解压文件后，有个目录/dist/，里面就存放了solrj所用到的jar( /dist/solrj-lib/*.jar和 /dist/*.jar)，把这些所有的jar都添加到项目中的classpath就可以直接开发了。

Demo示例如下(以上传GitHub https://github.com/LX1993728/SolrJ_java_Test)

Product.java

public class Product {
    //Field中的value要遵循核心中schema中的规则
	@Field(value="id")
	
	private String id;
	
	@Field(value="name")
	private String name;
	
	@Field(value="description")
	private String desc;
	
	@Field(value="price")
	private float price;
       // setter  getter
       // ......
}

@Field 表示 当前属性与索引库中哪个已经声明的字段名相对应  （具体规则由schema指定）

SolrDao.java （索引的增删改查）

package liuxun.solrj.dao;

import java.io.IOException;
import java.util.List;
import java.util.Map;

import org.apache.solr.client.solrj.SolrQuery;
import org.apache.solr.client.solrj.SolrServer;
import org.apache.solr.client.solrj.SolrServerException;
import org.apache.solr.client.solrj.impl.HttpSolrServer;
import org.apache.solr.client.solrj.response.QueryResponse;
import org.apache.solr.common.SolrDocument;
import org.apache.solr.common.SolrDocumentList;
import org.apache.solr.common.SolrInputDocument;

import liuxun.solrj.bean.Product;

/**
 * 使用solrJ 向solr 提交请求，增删改查， solrJ 底层页是发送http 协议...
 * 
 * @author liuxun
 */
public class SolrDao {
	// 在solr 当中有一些默认的字段和动态字段规则，配置在文件/example/solr/collection1/conf/schema.xml

	// 添加默认索引属性
	public void addDefaultField() throws SolrServerException, IOException {
		// 声明要连接solr服务器的地址
		String url = "http://localhost:8983/solr";
		SolrServer solr = new HttpSolrServer(url);
		SolrInputDocument doc = new SolrInputDocument();
		doc.addField("id", "默认情况下必须添加的字段，用来区分文档的唯一标识");
		doc.addField("name", "默认的名称属性字段");
		doc.addField("description", "默认的表示描述信息的字段");
		solr.add(doc);

		solr.commit();
	}

	// 添加动态索引属性
	public void addDynamicField() throws SolrServerException, IOException {
		// 声明要连接solr服务器的地址
		String url = "http://localhost:8983/solr";
		SolrServer solr = new HttpSolrServer(url);

		SolrInputDocument doc = new SolrInputDocument();
		doc.addField("id", "adwweqwewe");
		doc.addField("nam_s", "动态字段的StringField类型格式为*_s");
		doc.addField("desc_s", "动态字段的TextField类型格式为*_t");
		solr.add(doc);
		solr.commit();
	}

	// 添加索引
	public void addIndex(Product product) throws SolrServerException, IOException {
		// 声明要连接solr服务器的地址
		String url = "http://localhost:8983/solr";
		SolrServer solr = new HttpSolrServer(url);
		solr.addBean(product);
		solr.commit();
	}

	// 更新索引
	public void updateIndex(Product product) throws IOException, SolrServerException {
		// 声明要连接solr服务器的地址
		String url = "http://localhost:8983/solr";
		SolrServer solr = new HttpSolrServer(url);
		solr.addBean(product);
		solr.commit();
	}

	// 删除索引
	public void delIndex(String id) throws SolrServerException, IOException {
		// 声明要连接solr服务器的地址
		String url = "http://localhost:8983/solr";
		SolrServer solr = new HttpSolrServer(url);
		solr.deleteById(id);
		// solr.deleteByQuery("id:*");
		solr.commit();
	}

	// 查找索引
	public void findIndex() throws SolrServerException {
		// 声明要连接solr服务器的地址
		String url = "http://localhost:8983/solr";
		SolrServer solr = new HttpSolrServer(url);

		// 查询条件
		SolrQuery solrParams = new SolrQuery();
		solrParams.setStart(0);
		solrParams.setRows(10);
		solrParams.setQuery("name:苹果 +description:全新4G");
		// 开启高亮
		solrParams.setHighlight(true);
		solrParams.setHighlightSimplePre("");
		solrParams.setHighlightSimplePost("");

		// 设置高亮的字段
		solrParams.setParam("hl.fl", "name,description");
		// SolrParams是SolrQuery的子类
		QueryResponse queryResponse = solr.query(solrParams);

		// (一)获取查询的结果集合
		SolrDocumentList solrDocumentList = queryResponse.getResults();

		// (二)获取高亮的结果集
		// 第一个Map的键是文档的ID，第二个Map的键是高亮显示的字段名
		Map>> highlighting = queryResponse.getHighlighting();

		for (SolrDocument solrDocument : solrDocumentList) {
			System.out.println("=====" + solrDocument.toString());
			Map> fieldsMap = highlighting.get(solrDocument.get("id"));
			List highname = fieldsMap.get("name");
			List highdesc = fieldsMap.get("description");
			System.out.println("highname======" + highname);
			System.out.println("highdesc=====" + highdesc);
		}

		// (三) 将响应结果封装到Bean
		List products = queryResponse.getBeans(Product.class);

		System.out.println(products + "+++++++++++");
		for (Product product : products) {
			System.out.println(product);
		}
	}
}

测试：

SolrDaoTest

package liuxun.solrj.junit;

import static org.junit.Assert.*;

import java.io.IOException;

import org.apache.solr.client.solrj.SolrServerException;
import org.junit.Before;
import org.junit.Test;

import liuxun.solrj.bean.Product;
import liuxun.solrj.dao.SolrDao;

public class SolrDaoTest {

    private SolrDao solrDao = new SolrDao();
    
	@Test
	public void testAddDefaultField() throws SolrServerException, IOException {
		solrDao.addDefaultField();
	}

	@Test
	public void testAddDynamicField() throws SolrServerException, IOException {
		solrDao.addDynamicField();
	}

	@Test
	public void testAddIndex() throws SolrServerException, IOException {
		for(int i=1;i<=2;i++){
			Product product=new Product();
			product.setId(String.valueOf(i));
			product.setName("苹果（Apple）iPhone 5c 16G版 3G手机（白色）电信版");
			product.setDesc("选择“购机送费版”北京用户享全新4G合约套餐资费全网最低！");
			product.setPrice(9f);
			solrDao.addIndex(product);
		}
	}

	@Test
	public void testUpdateIndex() throws IOException, SolrServerException {
		Product product=new Product();
		product.setId(String.valueOf(2));
		product.setName("毛衣的毛衣黑色毛衣");
		product.setDesc("女士专用 三点不漏..");
		product.setPrice(9f);
		solrDao.updateIndex(product);
	}

	@Test
	public void testDelIndex() throws SolrServerException, IOException {
		solrDao.delIndex("2");
	}

	@Test
	public void testFindIndex() throws SolrServerException {
		solrDao.findIndex();
	}

}

控制台打印：

在solr图形界面搜索：

Solr安装插件与数据库表进行同步

修改solrconfig.xml,添加下面这段代码： 

    
      data-config.xml
    
  

然后再solrconfig.xml文件统计的目录下新增上面声明的data-config.xml。内容如下：

因为需要连接数据库所以需要连接数据库的jar 包，以及操作索引库的jar 包，在collection 下面创建lib 目录将jar 包拷贝到lib 目录下 ( solr-dataimporthandler-4.7.0， solr-dataimporthandler-extras-4.7.0以及连接 mysql 的jar 包)

配置的目录如下

测试导入：

查询是否导入成功