1.缓存逻辑实现
1.1.需求
我们知道使用缓存,可以提高查询效率,那什么情况下需要使用缓存呢?通常而言,使用缓存需满足以下两个条件:
(1)查询频率较高的数据。
(2)修改频率较低的数据。
对于第一点,在我们开发过程中,如果查询业务比较多,需要频繁的连接数据库,这会对数据库的性能带来极大的损耗;这个时候可以考虑对这部分数据添加缓存。
对于第二点,如果我们业务中,需要频繁的修改某个数据,这个时候是不适合给它添加缓存的,因为每次修改了数据,都需要去更新缓存。
综合上面两点,我们需要给导航菜单、广告位投放的内容添加缓存。
1.2.缓存逻辑实现
1.2.1.第一部分:添加缓存
需求:在REST接口中,给导航菜单、首页大广告位内容添加缓存。缓存逻辑在ego-rest工程中实现。
1.2.1.1.第一步:添加redis的jar依赖
redis.clients
jedis
1.2.1.2.第二步:Spring整合Redis集群
在src路径下,添加spring-jedis.xml配置文件,整合redis。
1.2.1.3.第三步:修改ContentServiceImpl类
@Service
public class ContentServiceImpl implements ContentService{
private String EGO_CONTENT = "EGO_CONTENT";
@Autowired
private JedisCluster jedisCluster;
@Autowired
private ContentMapper mapper;
/*
* 缓存逻辑
* (1)首先查找缓存。
* (2)如果缓存有数据,则直接返回数据,不需要查询数据库
* (3)如果缓存中没有数据,则查询数据库。并且将数据放入缓存中。
*
* (4)缓存不能影响正常的业务执行,即当前缓存无法使用,则直接查询数据库
*
* 确定选用哪一个数据结构类型(string,list,set,hash)
* 选用数据结构类型的时候,有一个原则:能用hash尽量使用hash。原因:减少key的数量,??????????????????????
*
* {key:{field:value}}
* 我们这里使用hash数据结构类型,key定义成一个常量EGO_CONTENT field就使用类型分类的id,value使用内容列表的json格式。
*
* 注意:hash结构只能存储string格式的数据
*
*/
@Override
public EgoResult getContentByCatId(Long catId) {
List list = null;
try {
//1、查找缓存
String jsonData = jedisCluster.hget(EGO_CONTENT, catId+"");
if(null!=jsonData && !"".equals(jsonData)){
//缓存里面有数据,则直接返回数据即可
list = JsonUtils.jsonToList(jsonData, Content.class);
}else{
//如果缓存中查不到数据,则查询数据库
Map columnMap = new HashMap<>();
columnMap.put("category_id", catId);
list = mapper.selectByMap(columnMap);
//再将数据放入缓存中
jedisCluster.hset(EGO_CONTENT, catId+"", JsonUtils.objectToJson(list));
}
} catch (Exception e) {
e.printStackTrace();
//如果缓存中查不到数据,则查询数据库
Map columnMap = new HashMap<>();
columnMap.put("category_id", catId);
list = mapper.selectByMap(columnMap);
}
return EgoResult.ok(list);
}
}
1.2.1.4.第四步:测试
(1)重启rest工程
(2)访问portal工程首页。将缓存添加到redis中。
(3)再次访问portal工程首页。查看缓存是否生效。
1.2.2.第二部分:缓存同步
修改、更新导航菜单、网站内容后,要同步修改缓存,或者清空对应的缓存。
2.搜索系统实现
2.1.系统架构
在本项目中,我们将搜索业务独立出来,创建搜索子系统。这样做,既能提高系统的拓展能力,也能灵活的对系统进行分布式部署。
2.2.实现思路
(1)搭建搜索服务器。
(2)创建搜索系统。
(3)发布搜索服务的公共接口。
(4)在门户系统调用该接口,实现搜索。
3.搭建搜索服务器
3.1.第一部分:配置Solr服务器
说明:Solr可以独立运行,需要servlet容器加载它。本文使用tomcat。
3.1.1.第一步:解压一个Tomcat
解压一个新的Tomcat,专门用来加载Solr。
3.1.2.第二步:部署Solr服务到Tomcat中
在Solr的下载包中,提供了Solr的war包程序。(空的war包程序)
拷贝solr.war到Tomcat的webapp目录下。并解压
3.1.3.第三步:添加Solr运行依赖的jar包
在Solr的下载包中,提供Solr服务器运行所依赖的jar包。
(1)拷贝/example/lib/ext下的所有包,到solr应用的lib目录中
(2)拷贝/example/resource/log4j.properties,到solr应用的classes目录下。
3.2.第二部分:配置SolrHome
说明:Solr的下载包中,提供了标准的SolrHome配置。
3.2.1.第一步:创建SolrHome
说明:拷贝该solr文件夹在本地,修改名称为SolrHome。
3.2.1.1.SolrHome说明
(1)SolrHome是Solr配置搜索服务的主目录。
(2)collection1称为Solr服务的一个实例(solrCore)。
(3)一个solr实例对应一个索引库。
(4)Solr可以同时配置多个实例。以便为不同的java程序提供搜索服务。
配置solr服务,就是在配置solr实例。
3.2.2.第二步:配置SolrCore
3.2.2.1.Step1:配置SolrCore实例的名称
说明:每一个实例都有自己的名称。在core.properties文件中配置
在这里,我们将其修改为:soreCore0719
3.2.2.2.Step2:配置SolrCore所需的jar依赖
说明:Solr下载包中,提供SolrCore所需要的所有jar依赖。
(1)在SolrHome同级目录下,创建depJar文件夹。(目的:方便管理jar依赖)
(2)拷贝contrib、dist两个目录到depJar目录下。
(3)修改/collection1/conf目录下的solrconfig.xml,加载jar包
说明:solr是通过
(4)配置索引库目录
说明:solr是通过
默认路径是在SolrCore目录下,跟conf目录同级。首次加载时,将自动创建/data目录。
3.3.第三部分:在Solr服务器中加载SolrHome
3.3.1.第一步:修改web.xml加载SolrHome
在solr的应用中,是通过web.xml来加载SolrHome的。
说明:在这里是通过修改
3.3.2.第二步:启动Tomcat测试
访问地址 http://localhost:8080/solr
3.4.特别说明
我们之前在solr的课程中,已经配置好了solr服务器,并且已经配置好了一个solrCore0719搜索实例。
我们现在只需要在这个solr服务器的基本上,复制solrCore0719,修改其部分配置即可。
3.4.1.快速配置易购商品搜索实例步骤
3.4.1.1.第一步:复制solrCore0719实例
说明:复制collection1文件夹,改名为ego
3.4.1.2.第二步:修改实例名称为ego
说明:实例名称在core.properties文件中配置
3.4.1.3.第三步:删除原实例的索引库
说明:当前ego实例是从其它实例复制过来的。因此要删除之前的索引库。
删除data文件夹即可。
3.4.2.测试
启动solr服务器所在的Tomcat,访问solr管理控制台。
访问地址:http://localhost:8888/solr
Solr服务器配置成功!!!
4.搭建搜索系统ego-search
4.1.系统说明
定义搜索服务的接口,供其它系统调用。
4.2.技术选择
核心框架:Spring+SpringMVC+Mybatis-plus
数 据 库:MySQL
搜索框架:Solr
4.3.配置步骤
思路:
(1)创建项目
(2)整合框架
4.3.1.第一步:创建Maven项目(war模型)
注意:使用maven mudule创建,继承ego-project工程
4.3.2.第二步:导入jar依赖
导包说明:
(1)ego-base子工程
(2)Spring核心包
(3)SpringMVC相关
(4)AOP相关包
(5)JSON依赖包
(6)Solr核心包
(7)mysql驱动+druid连接池
(8)Spring-jdbc
(9)Mybatis+Spring整合包
导入插件:Tomcat插件
4.0.0
cn.gzsxt.ego
ego-project
1.0
cn.gzsxt.ego
ego-search
1.0
war
cn.gzsxt.ego
ego-base
1.0
org.mybatis
mybatis
org.springframework
spring-context
org.springframework
spring-webmvc
org.mybatis
mybatis-spring
org.springframework
spring-jdbc
mysql
mysql-connector-java
com.alibaba
druid
com.fasterxml.jackson.core
jackson-databind
org.apache.solr
solr-solrj
org.apache.tomcat.maven
tomcat7-maven-plugin
8083
/
UTF-8
4.3.3.第三步:配置SpringMVC核心控制器
说明:可以从ego-rest工程拷贝web.xml文件,修改
characterEncodingFilter
org.springframework.web.filter.CharacterEncodingFilter
encoding
utf-8
characterEncodingFilter
/*
dispatcherServlet
org.springframework.web.servlet.DispatcherServlet
contextConfigLocation
classpath:spring-*.xml
1
dispatcherServlet
/search/*
4.3.4.第四步:Spring整合SpringMVC
说明:可以从rest工程拷贝spring-mvc.xml文件,修改注解包结构。
4.3.5.第五步:Spring整合Mybatis-plus
(1)创建resourse.properties文件
#配置数据源,即jdbc驱动信息
driver.driverClassName=com.mysql.jdbc.Driver
driver.url=jdbc:mysql://localhost:3306/ego
driver.username=root
driver.password=gzsxt
#配置solr服务器地址
solr.address=http://localhost:8888/solr/ego
(2)从rest工程拷贝spring-data.xml文件,去掉事物代理配置。
4.3.6.第六步:Spring整合Solr
修改spring-mvc.xml文件,使用Spring创建HttpSolrServer客户端
4.3.7.第七步:测试
(1)更新项目,安装到本地仓库。(update、clean、install)
(2)启动项目
4.4.创建索引库
步骤说明。(复习回顾)
(1)采集数据。
(2)将数据转换成Solr文档。
(3)连接solr服务器,将文档写入索引库。
4.4.1.第一步:采集数据
说明:需求采集的字段
(1)参与搜索的字段:商品名称、商品卖点、商品价格、商品类别、
(2)参与结果展示的字段:商品id、商品图片
4.4.1.1.Step1:创建SearchItem类
在ego-base工程中创建。
package cn.gzsxt.base.pojo;
/**
* 自定义商品搜索类
* @author ccnulyq
*
*/
public class SearchItem {
private Long id;
private String title;
private String sellPoint;
private Long price;
private String image;
private String categoryName;
public SearchItem() {
super();
}
// 补全get、set方法
}
4.4.1.2.Step2:修改ItemMapper接口
定义采集数据方法。
package cn.gzsxt.base.mapper;
import java.util.List;
import org.apache.ibatis.annotations.Select;
import com.baomidou.mybatisplus.mapper.BaseMapper;
import cn.gzsxt.base.pojo.Item;
import cn.gzsxt.base.vo.SearchItem;
public interface ItemMapper extends BaseMapper- {
/**solr服务采集数据
*
* @return
*/
@Select(value="select i.id,i.sell_point as sellPoint,i.title,i.price,i.image,c.name as categoryName "
+ "from tb_item i left join tb_item_cat c on i.cid = c.id where i.status=1")
List
gathData();
}
4.4.1.3.Step5:创建SearchService接口及其实现类
package cn.gzsxt.search.service.impl;
import java.util.ArrayList;
import java.util.List;
import org.apache.solr.client.solrj.impl.HttpSolrServer;
import org.apache.solr.common.SolrInputDocument;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;
import cn.gzsxt.base.mapper.ItemMapper;
import cn.gzsxt.base.vo.EgoResult;
import cn.gzsxt.base.vo.SearchItem;
import cn.gzsxt.search.service.SearchService;
@Service
public class SearchServiceImpl implements SearchService{
@Autowired
private HttpSolrServer solrServer;
@Autowired
private ItemMapper itemMapper;
@Override
public List gataData() {
List items = itemMapper.gathData();
return items;
}
}
4.4.2.第二步:创建文档
注意事项:Solr在创建文档的时候,需要指定域。
因此,必须先配置业务域!!!
4.4.2.1.Step1:配置业务域
业务域属性说明:
修改ego实例中的schema.xml文件,添加业务域配置
4.4.2.2.Step2:修改SearchService及其实现类
新增创建文档方法。
@Override
public List gathDocument(List items) {
List docs = new ArrayList<>();
//solr的域,必须先定义后使用
SolrInputDocument doc = null;
for (SearchItem item : items) {
doc = new SolrInputDocument();
doc.addField("id", item.getId());
doc.addField("item_title", item.getTitle());
doc.addField("item_category_name", item.getCategoryName());
doc.addField("item_price", item.getPrice());
doc.addField("item_sell_point", item.getPrice());
doc.addField("item_image", item.getImage());
docs.add(doc);
}
return docs;
}
4.4.3.第三步:将文档写入索引库
4.4.3.1.Step1:修改SearchService接口及其实现类
注意:现在实现类中注入HttpSolrServer对象。
@Override
public EgoResult addDocuments(List docs) {
try {
solrServer.add(docs);
solrServer.commit();
return EgoResult.ok();
} catch (Exception e) {
e.printStackTrace();
return EgoResult.build(400, "连接solr服务器异常");
}
}
4.4.3.2.Step2:创建SearchController类
定义创建索引库的入口。
package cn.gzsxt.search.controller;
import java.util.List;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Controller;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.ResponseBody;
import cn.gzsxt.base.vo.EgoResult;
import cn.gzsxt.search.service.SearchService;
@Controller
public class SearchController {
@Autowired
private SearchService searchService;
@RequestMapping("/import/all")
@ResponseBody
public EgoResult createIndex(){
EgoResult result = searchService.addDocuments(searchService.gathDocument(searchService.gataData()));
return result;
}
}
4.4.3.3.Step3:测试
(1)重新启动solr服务器。
(2)更新项目。(update、clean、install)
(3)启动项目
(4)创建索引库
使用postman,访问地址 http://localhost:8083/search/import/all
(5)访问solr管理控制台。
地址:http://lcoalhost:8888/solr
创建索引库成功!!!
4.5.创建索引库特别说明
我们之前已经配置了dataimport插件,我们也可以通过插件来创建索引库。
(1)修改schema.xml文件,配置业务域
(2)修改data-config.xml文件,配置映射关系
(3)重新启动solr服务器。
(4)访问Solr管理控制台。
Dataimport插件配置成功!!!
4.6.将solr服务器部署到Linux
说明:我们项目开发完成之后,都是要部署到linux环境上。
所以:solr服务器和search工程都要部署到linux上。
4.6.1.准备工作
(1)在Linux上创建/usr/local/solr目录
(2)解压一个tomcat到/usr/local/solr目录下。
4.6.2.部署步骤
(1)将本地tomcat中的solr程序拷贝到Linux上的tomcat中。
(2)将本地的solrHome和depJar拷贝到Linux的/usr/local/solr目录下
(3)修改solr程序的web.xml文件,修改solrHome的地址: /usr/local/solr/solrHome
(4)修改solr实例的solrconfig.xml文件,修改depJar的路径
(5)如果要使用dataimport插件,要修改solr实例的data-config.xml文件,修改数据源地址。
5.实现搜索功能
5.1.需求
根据关键词查询索引库。
5.2.业务流程
(1)在ego-search工程中发布搜索接口。
(2)在ego-portal中远程调用接口。
5.3.第一部分:在ego-search中发布搜索接口
思路:
(1)定义接口规则
(2)业务代码实现
(3)对外发布搜索接口
5.3.1.第一步:定义接口规则
说明:接口规则通常由接口开发者根据需求制定,并提供接口文档。
请求方法 GET
URL [http://search.ego.com/search/doSearch](http://search.ego.com/search/doSearch)
参数说明 keyword:关键词
price:价格区间,格式"20-50"
page:请求的页码
sort:价格排序,0升序,1降序,null不排序
categoryName:商品类别过滤
示例 http://search.ego.com/search/doSearch?keyword=手机
&price=1000-1999&page=2&sort=1&categoryName=智能手机
返回值 {
"curPage": 2,
"totalPages": 20,
"recordCount": 600,
"itemList": [{
"id":100544,
"price": 5288,
"image":"[http://image.ego.com/images/1.jgp](http://image.ego.com/images/1.jgp)",
"cateGoryName":"智能手机",
"sell_point":"功能强大,经济适用",
"title":"华为k20"
},{
"id":1005455,
"price": 3999,
"image":"[http://image.ego.com/images/3.jgp](http://image.ego.com/images/3.jgp)",
"cateGoryName":"智能手机",
"sell_point":"功能强大,经济适用",
"title":"华为k18",
}]
}
根据接口规则,创建SearchResult返回值类型,在ego-base工程中创建。
public class SearchResult {
private Long recordCount;
private List itemList;
private Integer totalPages;
private Integer curPage;
//补充get、set方法
}
5.3.2.第二步:业务代码实现
(1)修改resource.properties配置文件
#配置solr服务器地址
solr.address=http://192.168.4.253:8888/solr/ego
solr.pageSize=60
(2)修改SearchService接口及其实现类,定义搜索方法
@Value("${solr.pageSize}")
private Integer pageSize;
@Override
public SearchResult doSearch(String keyword, String categoryName, String price, int page, Integer sort) {
SearchResult result = new SearchResult();
//1、创建查询对象
SolrQuery query = getSolrQuery(keyword,categoryName,price,page,sort);
try {
//2、执行搜索
QueryResponse response = solrServer.query(query);
//3、解析查询结果
if(0==response.getStatus()){
SolrDocumentList documentList = response.getResults();
//获取商品总数量
long numFound = documentList.getNumFound();
result.setRecordCount(numFound);
//获取高亮设置之后的的高亮域的值
Map>> highlighting = response.getHighlighting();
//获取商品列表
List items = new ArrayList<>();
SearchItem item = null;
for (SolrDocument doc : documentList) {
item = new SearchItem();
item.setId(Long.valueOf((String) doc.get("id")));
boolean flag = true;
if(null!=highlighting && highlighting.size()>0){
Map> map = highlighting.get(doc.get("id"));
if(null!=map && map.size()>0){
List list = map.get("item_title");
if(null!=list && list.size()>0){
item.setTitle(list.get(0));
flag = false;
}
}
}
if(flag){
item.setTitle((String) doc.get("item_title"));
}
item.setImage((String) doc.get("item_image"));
item.setSellPoint((String) doc.get("item_sell_point"));
item.setCategoryName((String) doc.get("item_category_name"));
item.setPrice((long) doc.get("item_price"));
items.add(item);
}
result.setItemList(items);
result.setCurPage(page);
//获取总页数
int pageCount = (int) Math.ceil(result.getRecordCount()*1.0/pageSize);
result.setTotalPages(pageCount);
}
} catch (Exception e) {
e.printStackTrace();
}
return result;
}
private SolrQuery getSolrQuery(String keyword, String categoryName, String price, int page, Integer sort) {
SolrQuery query = new SolrQuery();
//设置查询的关键词
if(null!=keyword && !"".equals(keyword)){
query.set("q", "item_title:"+keyword);
//有关键词时,才需要做高亮设置
query.setHighlight(true);
query.setHighlightSimplePre("");
query.setHighlightSimplePost("");
query.addHighlightField("item_title");
}else{
query.set("q", "item_title:*");
}
//判断是否有商品类别过滤
if(null!=categoryName && !"".equals(categoryName)){
query.addFilterQuery("item_category_name:"+categoryName);
}
//判断是否有价格过滤 0-9 [min TO MAX]
if(null!=price && !"".equals(price)){
String[] split = price.split("-");
if(split.length>1){
query.addFilterQuery("item_price:["+split[0]+" TO "+split[1]+"]");
}else{
query.addFilterQuery("item_price:["+split[0]+" TO *]");
}
}
//分页设置
query.set("start", (page-1)*pageSize);
query.set("rows", pageSize);
//判断是否按价格排序 0升序 1降序
if(null!=sort){
if(0==sort){
query.set("sort", "item_price asc");
}else{
query.set("sort", "item_price desc");
}
}
return query;
}
5.3.3.第三步:发布接口
修改SearchController类,发布搜索接口
@RequestMapping(value="/doSearch",method=RequestMethod.GET)
@ResponseBody
public SearchResult doSearch(String keyword,String categoryName,String price,
@RequestParam(defaultValue="1")Integer page,Integer sort){
SearchResult result = searchService.doSearch(keyword, categoryName, price, page, sort);
return result;
}
5.3.4.第四步:测试接口
(1)重新编译ego-base、ego-search工程
(2)重启ego-search工程
(3)使用postman工具,访问接口
接口发布成功!!!
5.4.第二部分:在ego-portal调用搜索服务接口
思路:
(1)确定请求路径和请求参数
(2)业务代码实现
5.4.1.第一步:确定请求路径和参数
(1)确定请求参数
请求参数是在portal系统中定义的。
结论:请求参数名为q,值为搜索文本框输入的关键词。(默认分页)
(2)确定返回值类型
搜索结果是在protal工程中渲染的。
5.4.2.第二步:创建SearchService接口及其实现类
(1)修改resourse.properties配置文件
#搜索服务
SEARCH_BASE_URL=http://localhost:8083/search
SEARCH_ITEM_URL=/doSearch
(2)创建SearchService接口及其实现类,定义搜索方法
@Service
public class SearchServiceImpl implements SearchService{
@Value("${SEARCH_BASE_URL}")
private String SEARCH_BASE_URL;
@Value("${SEARCH_ITEM_URL}")
private String SEARCH_ITEM_URL;
@Override
public SearchResult query(String q, Integer page) {
SearchResult result = null;
Map params = new HashMap<>();
params.put("keyword", q);
params.put("page", page+"");
String jsonData = HttpClientUtils.doGet(SEARCH_BASE_URL+ SEARCH_ITEM_URL, params);
if(null!=jsonData){
result = JsonUtils.jsonToPojo(jsonData, SearchResult.class);
}
return result;
}
}
5.4.3.第二步:创建SearchController类
@Controller
public class SearchController {
@Autowired
private SearchService searchService;
@RequestMapping("/search")
public String query(String q,@RequestParam(defaultValue="1")Integer page,ModelMap map){
SearchResult result = searchService.query(q, page);
map.put("query", q);
map.put("totalPages", result.getTotalPages());
map.put("itemList", result.getItemList());
map.put("page", page);
return "search";
}
}
5.4.4.第三步:解决多张图片显示问题
说明:商品是可以有多张图片的。搜索结果中默认展示第一张图片。
修改SearchItem类,新增String[] images属性。只需要get方法。
private String[] images;
public String[] getImages() {
if(null!=this.image){
images = image.split(",");
}
return images;
}