- 【Lucene&Solr】Solr实现全文检索
景谦Nice
Lucene&Solr
一、Solr是什么Solr是Apache下的一个顶级开源项目,采用Java开发,可以独立运行在Jetty、Tomcat等这些Servlet容器中,它是基于Lucene的全文搜索服务器。Lucene与Solr的区别如下:Lucene是一个开放源代码的全文检索引擎工具包,它不是一个完整的全文检索引擎,但提供了完整的查询引擎和索引引擎,目的是为软件开发人员提供一个简单易用的工具包,以方便的在目标系统中实
- 【Lucene&Solr】Lucene实现全文检索
景谦Nice
Lucene&Solr
一、全文检索对于结构化数据如MySQL表中的数据可以用SQL语句来查询,而对于非结构化数据如磁盘上的文件、网站的资源等就需要用到顺序扫描法或全文检索法。但是顺序扫描法效率非常低,此时就需要全文检索法。全文检索法是将非结构化数据中的一部分信息提取出来进行组织使其变得有结构,提取的这部分信息称其为索引,根据索引快速定位到要查找的信息。字典的拼音表和部首检字表就相当于字典的索引。实现全文检索可以使用Lu
- Lucene&solr 笔记
张今天
——Lucene
文章目录1.数据分类2.如何实现全文检索3.索引和搜索流程4.配置开发环境4.索引库的维护5.索引库的查询6solr的介绍7.solr7.7.2的安装与tomcat的配置8.solr中的schema.xml9.solr中的中文分词器ik-analyzer的配置10.solr的后台管理页面的操作11.solr的后台数据导入12.solrJ的增、删、改、查FAQ1.数据分类结构化数据指具体固定格式或有
- lucene&solr从入门到精通-----创建索引,写到索引库
发疯的man
lucenemaven
maven配置org.apache.lucenelucene-core4.2.0org.apache.lucenelucene-analyzers-common4.2.0commons-iocommons-io2.4创建索引大体思路:第一,需要创建一个流,这个流需要指定索引仓库(Directory),然后还需要一个配置对象(IndexWriterConfig),这个配置对象需要一个语法解析器(An
- Lucene&Solr学习笔记之二
聽見下雨的_聲音
2.配置开发环境2.1Lucene下载http://lucene.apache.org版本:7.7.1IDE:eclipse2.2创建工程新建名为lucene的项目导入jar包:必须jar包:commons-io-2.6.jarlucene-analyzers-common-7.7.1.jarlucene-core-7.7.1.jarlucene-memory-7.7.1.jar可选jar包:IK
- lucene&solr全文检索_8schema.xml文档的分析
printf();
在collection1的配置文件下如图:其中有两个配置文件需要关注,、schema.xml:在solrcore的conf目录下,是solr数据表配置文件,它定义了加入索引的数据的数据类型,主要包括fieldtypes、fields和其他的一些缺省设置.打开shema文件发现,在里面你可以设置域,分别为域名类型是否索引是否存储相当于lucene的代码用了个一个标签代替,非常的简便。多值相当于年龄只
- lucene&solr全文检索_7solr后台界面的介绍
printf();
接着上个博客,用浏览器打开solr之后的界面:Dashboard:仪表盘,显示了该solr实例开始运行的时间、版本、系统资源,jvm等信息Logging:solr的运行日志,如果出现问题会告诉你什么问题。CoreAdmin:solrcore的管理界面。solrcore是solr的一个独立运行实例单位,他可以对外提供索引和搜索服务,一个solr工程可以运行多个solrcore,一个core对应一个索
- lucene&solr全文检索_6solr引入、简介及服务器搭建
printf();
学习了lucene发现用lucene实现电商网站的搜索如京东等,代码量还是太多,尤其是对索引的维护方面,因此需要引入solr。Solr是Apache下的一个顶级开源项目,采用Java开发,它是基于Lucene的全文搜索服务器。Solr提供了比Lucene更为丰富的查询语言,同时实现了可配置、可扩展,并对索引、搜索性能进行了优化。Solr可以独立运行,运行在Jetty、Tomcat等这些Servle
- lucene&solr全文检索_5索引的维护
printf();
增加新内容的时候,或者删除的时候我们需要对索引进行增删改查来进行索引的维护。先上代码:packagecome.me.lucene;//索引维护importjava.io.File;importorg.apache.lucene.analysis.Analyzer;importorg.apache.lucene.analysis.standard.StandardAnalyzer;importorg
- lucene&solr全文检索_4改进
printf();
在之前的程序中我们发现分词不太准确,因此我们可以使用支持中文分词。分析器的执行过程:从一个reader字符流开始,创建一个基于reader的tokenizer分词器,经过三个tokenfilter(第一个大写变小写,第二个用回车替换空格,去掉不需要的a,the,and,逗号等)生成tokens。要看分析器的分析效果只需要看tokenstream中的内容就可以了,每个分析器都有一个方法tokenst
- lucene&solr全文检索_3查询索引
printf();
创建完索引之后,我们需要查询。百度的查询接口及结果如图所示:具体步骤已经在上个博客中写到,直接上代码:(由于是一个完整的程序,我把创建索引的代码也post上)packagecome.me.lucene;importstaticorg.junit.jupiter.api.Assertions.*;importjava.io.File;importorg.apache.commons.io.FileU
- lucene&solr全文检索_2介绍及索引的创建
printf();
可以去官网去查看lucene和solr:http://lucene.apache.org/Lucene是基础,solr是封装Lucene的框架。可以发现Lucene的变更速度非常的快,从而可以看出使用的人非常的多,使用率非常高。索引和搜索的流程:绿色为索引创建过程:对要搜索的原始内容进行索引创建一个索引库,过程包括:确定原始内容采集文档创建文档分析文档索引文档红色为搜索过程:从索引库中搜索内容,过
- lucene&solr全文检索_1引入
printf();
在用百度或者其他浏览器的时候我们经常会输入一个字段,然后会显示包含该字段的内容例如:然后再点击搜索,你所所搜的字段会按出现次数递减排序出来并且以红字标识:这时候就需要用lucene了,我们可以用数据库进行搜索,很容易实现,通常都是用sql语句进行搜索,而且能很快的搜索到结果,但是为什么很快呢,那是因为数据库中的数据储存是有规律的,有行有列且数据格式数据长度都是固定的。数据分类:数据分为两类,结构化
- Lucene&Solr框架之第三篇
小小一
1、SolrCore的配置a)schma.xml文件b)配置中文分析器2、配置业务域和批量索引导入a)配置业务域b)批量索引导入c)Solrj复杂查询(用Query页面复杂查询、用程序实现)3、京东案例(简单的站内搜索实现)2.SolrCore的配置(重点)SolrCore的运行由两个重要的配置文件做指导,一个是solrconfig.xml,一个是schema.xml。1)solrconfig.x
- Lucene&Solr框架之第二篇
小小一
2.1.开发环境准备2.1.1.数据库jar包我们这里可以尝试着从数据库中采集数据,因此需要连接数据库,我们一直用MySQL,所以这里需要MySQL的jar包2.1.2.MyBatis的jar包(可选)从数据库采集数据就需要查询数据库,我们可以用jdbc原生的写DAO,还可以使用我们之前学习过的MyBatis动态代理DAO,因此可能需要MyBatis的jar包2.1.3.数据库环境数据库脚本:【资
- Lucene&Solr框架之第一篇
小小一
2.信息检索信息检索是计算机世界中非常重要的一种功能。信息检索不仅仅是指从数据库检索数据,还包括从文件、网页、邮件、用户手输入的内容中检索数据。通过怎样的高效方式将用户想要的信息快速提取出来,是计算机技术人员研究的重点方向之一。2.1.数据分类我们生活中的数据总体分为两种:结构化数据和非结构化数据。结构化数据:指具有固定格式或有限长度的数据,如数据库,元数据等。非结构化数据:指不定长或无固定格式的
- LockObtainFailedException: Lock obtain timed out:
CodingUp
学习lucene测试索引全删除时报异常org.apache.lucene.store.LockObtainFailedException:Lockobtaintimedout:NativeFSLock@F:\Lucene&solr\index\write.lockatorg.apache.lucene.store.Lock.obtain(Lock.java:89)atorg.apache.luce
- LockObtainFailedException: Lock obtain timed out:
CodingUp
学习lucene测试索引全删除时报异常org.apache.lucene.store.LockObtainFailedException:Lockobtaintimedout:NativeFSLock@F:\Lucene&solr\index\write.lockatorg.apache.lucene.store.Lock.obtain(Lock.java:89)atorg.apache.luce
- lucene&solr cache在sort、facet等方面的应用解析
yangbutao
cacheLuceneSolr
对于cache,Lucene中提两种cache,filtercache和Fieldcache,lucene的cache在使用的过程中注意评估内存的使用量,避免导致内存溢出。 Filtercache的实现类为CachingWrapperFilter,用来缓存其他luceneFilter的查询结果。 Fieldcache应用的最为广泛,广泛应用于排序sort、分组统计facet中。
- lucene&solr 2011年盘点
gdp5211314
原文:http://java.dzone.com/articles/lucene-solr-year-2011-review2011年已经过去,在这里针对本年lucene和solr领域发生的点点滴滴进行一下回顾,也算是对lucene和solr的一个盘点.lucene成为apache基金会项目已逾十年(实际上lucene存在的历史已超过10年),solr作为apache基金项目也差不多度过了六个春秋
- [译]lucene&solr 2011年盘点
macrochen
apacheSolrLucene
原文:
http://java.dzone.com/articles/lucene-solr-year-2011-review
2011年已经过去, 在这里针对本年lucene和solr领域发生的点点滴滴进行一下回顾, 也算是对lucene和solr的一个盘点.
lucene成为apache基金会项目已逾十年(实际上lucene存在的历史已超过10年), solr 作为apache基
- [译]lucene&solr 2011年盘点
macrochen
apacheSolrLucene
原文:
http://java.dzone.com/articles/lucene-solr-year-2011-review
2011年已经过去, 在这里针对本年lucene和solr领域发生的点点滴滴进行一下回顾, 也算是对lucene和solr的一个盘点.
lucene成为apache基金会项目已逾十年(实际上lucene存在的历史已超过10年), solr 作为apache基
- [译]lucene&solr 2011年盘点
macrochen
solrluceneapache
阅读更多原文:http://java.dzone.com/articles/lucene-solr-year-2011-review2011年已经过去,在这里针对本年lucene和solr领域发生的点点滴滴进行一下回顾,也算是对lucene和solr的一个盘点.lucene成为apache基金会项目已逾十年(实际上lucene存在的历史已超过10年),solr作为apache基金项目也差不多度过了
- [译]lucene&solr 2011年盘点
macrochen
apacheSolrLucene
原文:
http://java.dzone.com/articles/lucene-solr-year-2011-review
2011年已经过去, 在这里针对本年lucene和solr领域发生的点点滴滴进行一下回顾, 也算是对lucene和solr的一个盘点.
lucene成为apache基金会项目已逾十年(实际上lucene存在的历史已超过10年), solr 作为apache基
- [译]lucene&solr 2011年盘点
macrochen
apacheSolrLucene
原文:
http://java.dzone.com/articles/lucene-solr-year-2011-review
2011年已经过去, 在这里针对本年lucene和solr领域发生的点点滴滴进行一下回顾, 也算是对lucene和solr的一个盘点.
lucene成为apache基金会项目已逾十年(实际上lucene存在的历史已超过10年), solr 作为apache基
- 算法 单链的创建与删除
换个号韩国红果果
c算法
先创建结构体
struct student {
int data;
//int tag;//标记这是第几个
struct student *next;
};
// addone 用于将一个数插入已从小到大排好序的链中
struct student *addone(struct student *h,int x){
if(h==NULL) //??????
- 《大型网站系统与Java中间件实践》第2章读后感
白糖_
java中间件
断断续续花了两天时间试读了《大型网站系统与Java中间件实践》的第2章,这章总述了从一个小型单机构建的网站发展到大型网站的演化过程---整个过程会遇到很多困难,但每一个屏障都会有解决方案,最终就是依靠这些个解决方案汇聚到一起组成了一个健壮稳定高效的大型系统。
看完整章内容,
- zeus持久层spring事务单元测试
deng520159
javaDAOspringjdbc
今天把zeus事务单元测试放出来,让大家指出他的毛病,
1.ZeusTransactionTest.java 单元测试
package com.dengliang.zeus.webdemo.test;
import java.util.ArrayList;
import java.util.List;
import org.junit.Test;
import
- Rss 订阅 开发
周凡杨
htmlxml订阅rss规范
RSS是 Really Simple Syndication的缩写(对rss2.0而言,是这三个词的缩写,对rss1.0而言则是RDF Site Summary的缩写,1.0与2.0走的是两个体系)。
RSS
- 分页查询实现
g21121
分页查询
在查询列表时我们常常会用到分页,分页的好处就是减少数据交换,每次查询一定数量减少数据库压力等等。
按实现形式分前台分页和服务器分页:
前台分页就是一次查询出所有记录,在页面中用js进行虚拟分页,这种形式在数据量较小时优势比较明显,一次加载就不必再访问服务器了,但当数据量较大时会对页面造成压力,传输速度也会大幅下降。
服务器分页就是每次请求相同数量记录,按一定规则排序,每次取一定序号直接的数据
- spring jms异步消息处理
510888780
jms
spring JMS对于异步消息处理基本上只需配置下就能进行高效的处理。其核心就是消息侦听器容器,常用的类就是DefaultMessageListenerContainer。该容器可配置侦听器的并发数量,以及配合MessageListenerAdapter使用消息驱动POJO进行消息处理。且消息驱动POJO是放入TaskExecutor中进行处理,进一步提高性能,减少侦听器的阻塞。具体配置如下:
- highCharts柱状图
布衣凌宇
hightCharts柱图
第一步:导入 exporting.js,grid.js,highcharts.js;第二步:写controller
@Controller@RequestMapping(value="${adminPath}/statistick")public class StatistickController { private UserServi
- 我的spring学习笔记2-IoC(反向控制 依赖注入)
aijuans
springmvcSpring 教程spring3 教程Spring 入门
IoC(反向控制 依赖注入)这是Spring提出来了,这也是Spring一大特色。这里我不用多说,我们看Spring教程就可以了解。当然我们不用Spring也可以用IoC,下面我将介绍不用Spring的IoC。
IoC不是框架,她是java的技术,如今大多数轻量级的容器都会用到IoC技术。这里我就用一个例子来说明:
如:程序中有 Mysql.calss 、Oracle.class 、SqlSe
- TLS java简单实现
antlove
javasslkeystoretlssecure
1. SSLServer.java
package ssl;
import java.io.FileInputStream;
import java.io.InputStream;
import java.net.ServerSocket;
import java.net.Socket;
import java.security.KeyStore;
import
- Zip解压压缩文件
百合不是茶
Zip格式解压Zip流的使用文件解压
ZIP文件的解压缩实质上就是从输入流中读取数据。Java.util.zip包提供了类ZipInputStream来读取ZIP文件,下面的代码段创建了一个输入流来读取ZIP格式的文件;
ZipInputStream in = new ZipInputStream(new FileInputStream(zipFileName));
&n
- underscore.js 学习(一)
bijian1013
JavaScriptunderscore
工作中需要用到underscore.js,发现这是一个包括了很多基本功能函数的js库,里面有很多实用的函数。而且它没有扩展 javascript的原生对象。主要涉及对Collection、Object、Array、Function的操作。 学
- java jvm常用命令工具——jstatd命令(Java Statistics Monitoring Daemon)
bijian1013
javajvmjstatd
1.介绍
jstatd是一个基于RMI(Remove Method Invocation)的服务程序,它用于监控基于HotSpot的JVM中资源的创建及销毁,并且提供了一个远程接口允许远程的监控工具连接到本地的JVM执行命令。
jstatd是基于RMI的,所以在运行jstatd的服务
- 【Spring框架三】Spring常用注解之Transactional
bit1129
transactional
Spring可以通过注解@Transactional来为业务逻辑层的方法(调用DAO完成持久化动作)添加事务能力,如下是@Transactional注解的定义:
/*
* Copyright 2002-2010 the original author or authors.
*
* Licensed under the Apache License, Version
- 我(程序员)的前进方向
bitray
程序员
作为一个普通的程序员,我一直游走在java语言中,java也确实让我有了很多的体会.不过随着学习的深入,java语言的新技术产生的越来越多,从最初期的javase,我逐渐开始转变到ssh,ssi,这种主流的码农,.过了几天为了解决新问题,webservice的大旗也被我祭出来了,又过了些日子jms架构的activemq也开始必须学习了.再后来开始了一系列技术学习,osgi,restful.....
- nginx lua开发经验总结
ronin47
使用nginx lua已经两三个月了,项目接开发完毕了,这几天准备上线并且跟高德地图对接。回顾下来lua在项目中占得必中还是比较大的,跟PHP的占比差不多持平了,因此在开发中遇到一些问题备忘一下 1:content_by_lua中代码容量有限制,一般不要写太多代码,正常编写代码一般在100行左右(具体容量没有细心测哈哈,在4kb左右),如果超出了则重启nginx的时候会报 too long pa
- java-66-用递归颠倒一个栈。例如输入栈{1,2,3,4,5},1在栈顶。颠倒之后的栈为{5,4,3,2,1},5处在栈顶
bylijinnan
java
import java.util.Stack;
public class ReverseStackRecursive {
/**
* Q 66.颠倒栈。
* 题目:用递归颠倒一个栈。例如输入栈{1,2,3,4,5},1在栈顶。
* 颠倒之后的栈为{5,4,3,2,1},5处在栈顶。
*1. Pop the top element
*2. Revers
- 正确理解Linux内存占用过高的问题
cfyme
linux
Linux开机后,使用top命令查看,4G物理内存发现已使用的多大3.2G,占用率高达80%以上:
Mem: 3889836k total, 3341868k used, 547968k free, 286044k buffers
Swap: 6127608k total,&nb
- [JWFD开源工作流]当前流程引擎设计的一个急需解决的问题
comsci
工作流
当我们的流程引擎进入IRC阶段的时候,当循环反馈模型出现之后,每次循环都会导致一大堆节点内存数据残留在系统内存中,循环的次数越多,这些残留数据将导致系统内存溢出,并使得引擎崩溃。。。。。。
而解决办法就是利用汇编语言或者其它系统编程语言,在引擎运行时,把这些残留数据清除掉。
- 自定义类的equals函数
dai_lm
equals
仅作笔记使用
public class VectorQueue {
private final Vector<VectorItem> queue;
private class VectorItem {
private final Object item;
private final int quantity;
public VectorI
- Linux下安装R语言
datageek
R语言 linux
命令如下:sudo gedit /etc/apt/sources.list1、deb http://mirrors.ustc.edu.cn/CRAN/bin/linux/ubuntu/ precise/ 2、deb http://dk.archive.ubuntu.com/ubuntu hardy universesudo apt-key adv --keyserver ke
- 如何修改mysql 并发数(连接数)最大值
dcj3sjt126com
mysql
MySQL的连接数最大值跟MySQL没关系,主要看系统和业务逻辑了
方法一:进入MYSQL安装目录 打开MYSQL配置文件 my.ini 或 my.cnf查找 max_connections=100 修改为 max_connections=1000 服务里重起MYSQL即可
方法二:MySQL的最大连接数默认是100客户端登录:mysql -uusername -ppass
- 单一功能原则
dcj3sjt126com
面向对象的程序设计软件设计编程原则
单一功能原则[
编辑]
SOLID 原则
单一功能原则
开闭原则
Liskov代换原则
接口隔离原则
依赖反转原则
查
论
编
在面向对象编程领域中,单一功能原则(Single responsibility principle)规定每个类都应该有
- POJO、VO和JavaBean区别和联系
fanmingxing
VOPOJOjavabean
POJO和JavaBean是我们常见的两个关键字,一般容易混淆,POJO全称是Plain Ordinary Java Object / Plain Old Java Object,中文可以翻译成:普通Java类,具有一部分getter/setter方法的那种类就可以称作POJO,但是JavaBean则比POJO复杂很多,JavaBean是一种组件技术,就好像你做了一个扳子,而这个扳子会在很多地方被
- SpringSecurity3.X--LDAP:AD配置
hanqunfeng
SpringSecurity
前面介绍过基于本地数据库验证的方式,参考http://hanqunfeng.iteye.com/blog/1155226,这里说一下如何修改为使用AD进行身份验证【只对用户名和密码进行验证,权限依旧存储在本地数据库中】。
将配置文件中的如下部分删除:
<!-- 认证管理器,使用自定义的UserDetailsService,并对密码采用md5加密-->
- mac mysql 修改密码
IXHONG
mysql
$ sudo /usr/local/mysql/bin/mysqld_safe –user=root & //启动MySQL(也可以通过偏好设置面板来启动)$ sudo /usr/local/mysql/bin/mysqladmin -uroot password yourpassword //设置MySQL密码(注意,这是第一次MySQL密码为空的时候的设置命令,如果是修改密码,还需在-
- 设计模式--抽象工厂模式
kerryg
设计模式
抽象工厂模式:
工厂模式有一个问题就是,类的创建依赖于工厂类,也就是说,如果想要拓展程序,必须对工厂类进行修改,这违背了闭包原则。我们采用抽象工厂模式,创建多个工厂类,这样一旦需要增加新的功能,直接增加新的工厂类就可以了,不需要修改之前的代码。
总结:这个模式的好处就是,如果想增加一个功能,就需要做一个实现类,
- 评"高中女生军训期跳楼”
nannan408
首先,先抛出我的观点,各位看官少点砖头。那就是,中国的差异化教育必须做起来。
孔圣人有云:有教无类。不同类型的人,都应该有对应的教育方法。目前中国的一体化教育,不知道已经扼杀了多少创造性人才。我们出不了爱迪生,出不了爱因斯坦,很大原因,是我们的培养思路错了,我们是第一要“顺从”。如果不顺从,我们的学校,就会用各种方法,罚站,罚写作业,各种罚。军
- scala如何读取和写入文件内容?
qindongliang1922
javajvmscala
直接看如下代码:
package file
import java.io.RandomAccessFile
import java.nio.charset.Charset
import scala.io.Source
import scala.reflect.io.{File, Path}
/**
* Created by qindongliang on 2015/
- C语言算法之百元买百鸡
qiufeihu
c算法
中国古代数学家张丘建在他的《算经》中提出了一个著名的“百钱买百鸡问题”,鸡翁一,值钱五,鸡母一,值钱三,鸡雏三,值钱一,百钱买百鸡,问翁,母,雏各几何?
代码如下:
#include <stdio.h>
int main()
{
int cock,hen,chick; /*定义变量为基本整型*/
for(coc
- Hadoop集群安全性:Hadoop中Namenode单点故障的解决方案及详细介绍AvatarNode
wyz2009107220
NameNode
正如大家所知,NameNode在Hadoop系统中存在单点故障问题,这个对于标榜高可用性的Hadoop来说一直是个软肋。本文讨论一下为了解决这个问题而存在的几个solution。
1. Secondary NameNode
原理:Secondary NN会定期的从NN中读取editlog,与自己存储的Image进行合并形成新的metadata image
优点:Hadoop较早的版本都自带,