ElasticSearch入门到上手学习笔记
本文记录Elasticsearch8.x版本的学习笔记，从ELK三件套下载安装到ES的索引和文档操作。
以及后续集成到SpringBoot：SpringBoot集成Elasticsearch8.10.4版本
ElasticSearch分栏中包含一些学习过程中出现的错误以及解决办法，仅供参考。
目录
- 一、概述
-
- 谁在使用
- 二、ES和solr的差别
-
- Elasticsearch简介
- Solr简介
- Lucene简介
- Elasticsearch和Solr比较
- ElasticSearch vs Solr 总结
- 三、ElasticSearch 8安装
- 四、了解ELK、安装kibana
-
- 安装kibana
- 五、ES核心概念
-
- 物理设计
- 逻辑设计
- 物理设计：节点和分片
- 六、IK分词器插件
-
- Rest风格说明
- 七、关于索引的基本操作
- 八、关于文档的基本操作
-
- 基本操作
- 复杂操作 select（排序，分页，高亮，模糊查询，精准查询）
一、概述
Elaticsearch，简称为es，es是一个开源的高扩展的分布式全文检索引擎，它可以近乎实时的存储、检索数据，本身扩展性很好可以扩展到上百台服务器，处理PB级别的数据。es也使用Java开发并使用Lucene作为其核心来实现所有索引和搜索的功能，但是它的目的是通过简单的RESTful API来隐藏Lucene的复杂性，从而让全文搜索变得简单。
据国际权威的数据库产品评测机构DB Engines的统计，在2016年1月，ElasticSearch已超过Solr等，成为排名第一的搜索引擎类应用。
谁在使用
1、维基百科，类似百度百科，全文检索，高亮，搜索推荐/2 ( 权重，百度!)
2、The Guardian ( 国外新闻网站)，类似搜狐新闻，用户行为日志( 点击，浏览，收藏，评论 +社交网络数据( 对某某新闻的相关看法)，数据分析，给到每篇新闻文章的作者，让他知道他的文章的公众反馈(好，坏，热门，垃圾，鄙视，崇拜)
3、Stack Overflow(国外的程序异常讨论论坛 )，IT问题，程序的报错，提交上去，有人会跟你讨论和回答，全文检索，搜索相关问题和答案，程序报错了，就会将报错信息粘贴到里面去，搜索有没有对应的答案
4、GitHub( 开源代码管理 )，搜索上千亿行代码
5、电商网站，检索商品
6、日志数据分析，logstash采集日志，ES进行复杂的数据分析，ELK技术（elasticsearch+logstash+kibana）
7、商品价格监控网站，用户设定某商品的价格域值，当低于该闽值的时候，发送通知消息给用户，比如说订阅牙膏的监控，如果高露洁牙膏的家庭套装低于50块钱，就通知我，我就去买
8、BI系统，商业智能，Business lnteligence。比如说有个大型商场集团，B1，分析一下某某区域最近3年的用户消费金额的趋势以及用户群体的组成构成，产出相关的数张报表，**区，最近3年，每年消费金额呈现100%的增长，而且用户群体85%是高级白领，开一个新商场。ES执行数据分析和挖掘，Kibana进行数据可视化
9，国内:站内搜索(电商，招聘，门户，等等) IT系统搜索(OA，CRM,ERP，等等)，数据分析(ES热门的一个使用场景）
二、ES和solr的差别
Elasticsearch简介
Elasticsearch是一个实时分布式搜索和分析引擎。它让你以前所未有的速度处理大数据成为可能。
它用于全文搜索、结构化搜索、分析以及将这三者混合使用:
维基百科使用Elasticsearh提供全文搜索并高亮关键字，以及输入实时搜索(search-asyou-type)和搜索纠错(did-you-mean)等搜索建议功能。
英国卫报使用Elasticsearch结合用户日志和社交网络数据提供给他们的编辑以实时的反馈，以便及时了解公众对新发表的文章的回应。
StackOverflow结合全文搜索与地理位置查询，以及more-like-this功能来找到相关的问题和答案Github使用Elasticsearch检索1300亿行的代码。
但是Elasticsearch不仅用于大型企业，它还让像DataDog以及Klout这样的创业公司将最初的想法变成可扩展的解决方案.Elasticsearch可以在你的笔记本上运行，也可以在数以百计的服务器上处理PB级别的数据
Elasticsearch是一个基于Apache Lucene™的开源搜索引擎。无论在开源还是专有领域，Luene可以被认为是迄今为止最先进性能最好的、功能最全的搜索引擎库。
但是，Lucene只是一个库。想要使用它，你必须使用lava来作为开发语言并将其直接集成到你的应用中，更糟糕的是，Lucene非常复杂，你需要深入了解检索的相关知识来理解它是如何工作的。Eastisearcn也使用lava开发并使用Lucene作为其心来实现有索到和博索的功能，但是它的目的是通时简单的 RESTulAPI来隐藏Lucene的复杂性，从而让全文搜索变得简单。
Solr简介
Solr 是Apache下的一个顶级开源项目采用java开发。它是基于Lucene的全文搜索服务器。Solr提供了比Lucene更为丰富的查询语言，同时实现了可配置、可扩展，并对索引、搜索性能进行了优化
Solr可以独立运行，运行在jetty、Tomcat等这些Servlet容器中，Solr索引的实现方法很简单，用 POST 方法向 Solr 服务器发送一个描述 Field 及其内容的 XML 文档，Solr根据xml文档添加、删除、更新索引 。Solr 搜索只需要发送 HTTP GET 请求，然后对Solr返回Xml、json等格式的查询结果进行解析，组织页面布局。Solr不提供构建UI的功能，Solr提供了一个管理界面，通过管理界面可以查询Solr的配置和运行情况。
solr是基于lucene开发企业级搜索服务器，实际上就是封装了lucene。
Solr是一个独立的企业级搜索应用服务器，它对外提供类似于Web-service的API接口。用户可以通过http请求，向搜索引警服务器提交一定格式的文件，生成索引;也可以通过提出查找请求，并得到返回结果。
Lucene简介
Lucene是apache软件基金会4 jakarta项目组的一个子项目，是一个开放源代码的全文检索引擎工具包，但它不是一个完整的全文检索引擎，而是一个全文检索引擎的架构，提供了完整的查询引擎和索引引擎，部分文本分析引擎(英文与德文两种西方语言)。Lucene的目的是为软件开发人员提供一个简单易用的工具包，以方便的在目标系统中实现全文检索的功能，或者是以此为基础建立起完整的全文检索引擎。Lucene是一套用于全文检索和搜寻的开源程式库，由Apache软件基金会支持和提供。Lucene提供了一个简单却强大的应用程式接口，能够做全文索引和搜寻，**在Java开发环境里Lucene是一个成熟的免费开源工具。就其本身而言Lucene是当前以及最近几年最受欢迎的免费/ava信息检索程序库。**人们经常提到信息检索程序库，虽然与搜索引擎有关，但不应该将信息检索程序库与搜索引擎相混淆。
Lucene是一个全文检索引擎的架构。那什么是全文搜索引擎 ?
全文搜索引擎是名副其实的搜索引擎，国外具代表性的有Google、 Fast/AlITheWeb、 Altaista、 Inktomi Teoma、 WiseNut等国内著名的有百度( Baidu。它们都是通过从互联网上提取的各个网站的信息( 以网页文字为主)而建立的数据库中，检索与用户查询条件匹配的相关记录，然后按一定的排列顺序将结果返回给用户，因此他们是真正的搜索引擎。
从搜索结果来源的角度，全文搜索引擎又可细分为两种，一种是拥有自己的检索程序(lndexer )，俗称”蜘蛛”( Spider )程序或“机器人”( Robot)程序，并自建网页数据库，搜索结果直接从自身的数据库中调用，如上面提到的7家引擎，另一种则是租用其他引擎的数据库，并按自定的格式排列搜索结果，如Lvcos引擎。
Elasticsearch和Solr比较
ElasticSearch vs Solr 总结
1、es基本是开箱即用，非常简单。Solr安装略微复杂一丢丢!
2、Solr 利用 Zookeeper 进行分布式管理，而 Elasticsearch 自身带有分布式协调管理功能.
3、Solr 支持更多格式的数据，比如JSON、XML、CSV，而 Elasticsearch 仅支持json文件格式.
4、Solr 官方提供的功能更多，而Elasticsearch本身更注重于核心功能，高级功能多有第三方插件提供，例如图形化界面需要kibana友好支撑
5、Solr 查询快，但更新索引时慢( 即插入删除慢 )，用于电商等查询多的应用；
- ES建立索引快( 即查询慢 )，即实时性查询快，用于facebook新浪等搜索。
- Solr 是传统搜索应用的有力解决方案，但 Elasticsearch 更适用于新兴的实时搜索应用。
6、Solr比较成熟，有一个更大，更成熟的用户、开发和贡献者社区，而 Elasticsearch相对开发维护者较少，更新太快，学习使用成本较高。
三、ElasticSearch 8安装
声明：JDK17以上，也兼容JDK8的版本。
我安装的是8.10.4版本，并且在后续学习中集成到了SpringBoot+Elasticsearch中
下载官网：https://www.elastic.co/cn/downloads/elasticsearch
1、解压就可以使用
2、熟悉目录
bin 启动文件
config 配置文件
log4j2 日志配置文件
jvm.options java 虚拟机相关的配置
elasticsearch.yml elasticsearch的配置文件！ 默认9200端口
lib 相关jar包
logs 日志
modules 功能模块
plugins 插件 ik分词器
3、启动，访问9200，注意ES8.x版本默认开启了安全认证，在elasticsearch.yml文件中修改安全认证为false即可，实现免密登录。
安装可视化界面
ElasticSearch-head或者ES-client（先装好Nodejs）
1、下载地址：elasticsearch-head，ES-client
2、解压es-head，并添加淘宝镜像npm
npm install -g cnpm --registry=https://registry.npm.taobao.org
3、利用淘宝的npm添加依赖
cnpm install
4、启动并访问
npm run start
5、发现启动不了，因为9200和9300端口跨域问题，所以需要在ES的yml文件中添加跨域许可配置：
http.cors.enabled: true
http.cors.allow-origin: "*"
重启测试并连接
把ES当做一个数据库，创建索引（索引相当于库，文档相当于数据）
这个head就是数据展示工具，而后续的查询通过kibana做
四、了解ELK、安装kibana
ELK是Elasticsearch、Logstash、Kibana三大开源框架首字母大写简称市面上也被成为Elastic Stack。
Elasticsearch是一个基于Lucene、分布式、通过Restful方式进行交与的近实时搜索平台框架。像类似百度、谷歌这种大数据全文搜索引警的场景都可以使用Elasticsearch作为底层支持框架，可见Elasticsearch提供的搜索能力确实强大,市面上很多时候我们简称Elasticsearch为es。
Logstash是ELK的中央数据流引擎，用于从不同目标( 文件/数据存/MQ)收集的不同格式数据，经过过滤后支持输出到不同目的地(文件/MQ/redis/elasticsearch/kafka等 )。
Kibana可以将elasticsearch的数据通过友好的页面展示出来，提供实时分析的功能。
收集清洗数据–>分析(搜索，分析)–>kibana
市面上很多开发只要提到ELK能够一致说出它是一个日志分析架构技术栈总称，但实际上ELK不仅仅适用于日志分析，它还可以支持其它任何数据分析和收集的场景，日志分析和收集只是更具有代表性。并非唯一性。
安装kibana
注意：kibana版本要和ES版本一致
Kibana是一个针对Elasticsearch的开源分析及可视化平台，用来搜索、查看交互存储在Elasticsearch索中的数据。使用Kibana，可以通过各种图表进行高级数据分析及展示。Kibana让海量数据更容易理解。它操作简单，基于浏览器的用户界面可以快速创建仪表板( dashboard) 实时显示Elastisearch查询动态。设置Kibana非常简单。无需编码或者额外的基础架构，几分钟内就可以完成Kibana安装并启动Elasticsearch索引监测。
下载地址：https://www.elastic.co/cn/downloads/kibana
1、解压并启动bin/bat
2、访问测试：http://localhost:5601
3、开发工具
4、汉化，在config文件夹->kibana.yaml文件中添加，重启并访问
i18n.locale: "zh-CN"
五、ES核心概念
elasticsearch是面向文档的，关系行数据库和elasticsearch客观的对比
| Relational DB | Elasticsearch |
|---|---|
| 数据库(database) | 索引(indices) |
| 表(tables) | types(8.x版本被彻底弃用) |
| 行(rows) | documents |
| 字段(columns) | fileds |
elasticsearch(集群)中有包含多个索引(数据库)，每个索引中可以包含多个类型(表)，每个类型下又包含多个文档(行)，每个文档中又包含多个字段(列)
物理设计
elasticsearch在后台把每个索引划分成多个分片，每个分片可以在集群中的不同服务器间迁移
一个人就是一个集群！默认的集群名称就是elasticsearch
逻辑设计
一个索引类型中，包含多个文档，比如说文档1，文档2。当我们索引一篇文档时，可以通过这样的一各顺序找到 它：索引->类型->文档ID，通过这个组合我们就能索引到某个具体的文档。注意：ID不必是整数，实际上它是个字 符串。
文档
就是我们通常说的一行一行记录
user表
1 zhangsan 18 #文档1
2 xiaoli 3 #文档2
之前说elasticsearch是面向文档的，那么就意味着索引和搜索数据的最小单位是文档，elasticsearch中，文档有几个 重要属性:
- 自我包含，一篇文档同时包含字段和对应的值，也就是同时包含key:value
- 可以是层次型的，一个文档中包含自文档，复杂的逻辑实体就是这么来的(其实就是json对象)
- 灵活的结构，文档不依赖预先定义的模式，我们知道关系型数据库中，要提前定义字段才能使用，在elasticsearch中，对于字段是非常灵活的，有时候，我们可以忽略该字段，或者动态的添加一个新的字段。
尽管我们可以随意的新增或者忽略某个字段，但是，每个字段的类型非常重要，比如一个年龄字段类型，可以是字符串也可以是整形。因为elasticsearch会保存字段和类型之间的映射及其他的设置。这种映射具体到每个映射的每种类型，这也是为什么在elasticsearch中，类型有时候也称为映射类型。
类型
类型是文档的逻辑容器，就像关系型数据库一样，表格是行的容器。类型中对于字段的定义称为映射，比如name 映射为字符串类型。我们说文档是无模式的，它们不需要拥有映射中所定义的所有字段，比如新增一个字段，那么elasticsearch是怎么做的呢：elasticsearch会自动的将新字段加入映射，但是这个字段的不确定它是什么类型，elasticsearch就开始猜，如果这个值是18，那elasticsearch会认为它是整形。但是elasticsearch也可能猜不对，所以最安全的方式就是提前定义好所需要的映射，这点跟关系型数据库殊途同归了，先定义好字段，然后再使用，别 整什么么蛾子。
索引
就是通常说的数据库
索引是映射类型的容器，elasticsearch中的索引是一个非常大的文档集合，索引存储了映射类型的字段和其他设置。然后它们被存储到了各个分片上。
物理设计：节点和分片
一个集群至少有一个节点，而一个节点就是一个elasticsearch进程，节点可以有多个索引默认的，如果你创建索引，那么索引将会有5个分片(primary shard，又称主分片)构成的，每一个主分片会有一个副本(replica shard，又称复制分片)
上图是一个有3个节点的集群， 都不会在同一个节点内，这样有利于某个节点挂掉了，数据也不至于丢失。实际上，一个分片是一个Lucene索引，一个包含倒排索引的文件目录，倒排索引的结构使得elasticsearch在不扫描全部文档的情况下，就能告诉你哪些文档包含特定的关键字。
倒排索引
elasticsearch使用的是一种称为倒排索引的结构，采用Lucene倒排索引作为底层。这种结构适用于快速的全文搜索，一个索引由文档中所有不重复列表构成，对于每个词，都有一个包含它的文档列表。
例如：现在有两个文档，每个文档包含如下内容：
Study every day, good good up to forever # 文档1包含的内容
To forever, study every day, good good up # 文档2包含的内容
为了创建倒排索引，我们首先要将每个文档拆分成独立的词(或称为词条或者tokens)，然后创建一个包含所有不重 复的词条的排序列表，然后列出每个词条出现在哪个文档：
| term | doc_1 | doc_2 |
|---|---|---|
| Study | √ | × |
| To | × | × |
| every | √ | √ |
| forever | √ | √ |
| day | √ | √ |
| study | × | √ |
| good | √ | √ |
| every | √ | √ |
| to | √ | × |
| up | √ | √ |
现在，我们试图搜索to forever，只乣查看包含每个词条的文档
| term | doc_1 | doc_2 |
|---|---|---|
| to | √ | √ |
| forever | √ | × |
| total | 2 | 1 |
两个文档都匹配，但是第一个文档比第二个匹配程度更高。如果没有别的条件，现在，这两个包含关键字的文档都将返回。再来看一个示例，比如我们通过博客标签来搜索博客文章。那么倒排索引列表就是这样的一个结构:
如果要搜索含有 python 标签的文章，那相对于查找所有原始数据而言，查找倒排索引后的数据将会快的多。只需要 查看标签这一栏，然后获取相关的文章ID即可。完全过滤掉无关的所有数据，提高效率。
Elasticsearch的索引和Lucene的索引对比总结：
1、在Elasticsearch中，索引这个词被频繁使用，这就是术语的使用。在elastisearch中，索引被分为多个分片，每份分片是一个Lucene的索引。所以一个elasticsearch索引是由多个Lucene索引组成的。
2、接来下的一切操作都在kibana中Dev Tools下的Console里完成。
六、IK分词器插件
什么是IK分词器
分词：即把一段中文或者别的划分成一个个的关键字，我们在搜索时候会把自己的信息进行分词，会把数据库中或者索引库中的数据进行分词，然后进行一个匹配操作，默认的中文分词是将每个字看成一个词，比如“我想回家"会被分为"我"“想”“回”“家”，这显然是不符合要求的，所以我们需要安装中文分词器ik来解决这个问题。
如果要使用中文，建议使用IK分词器
IK提供了两个分词算法 : ik_smart和ik_max_word，其中ik_smart为最少切分，ik_max_word为最细粒度划分。
安装
1、下载地址：https://github.com/medcl/elasticsearch-analysis-ik/releases
2、下载完毕之后，放入到ES插件文件夹中即可
3、重启观察ES ，可以看到ik分词器被加载了
4、 在ES的bin文件夹的elasticsearch-plugin文件中可以查看加载进来的插件
5、使用kiabna进行测试
查看不同分词效果
ik_smart为最少切分
ik_max_word为最细粒度划分。
当输入的是名称这类词(例如龚剑波)的时候，分词器会自动拆开，并不能连接在一起，这样搜索不出来，而这种自己需要的词，需要自己加到我们的分词器的字典中。
ik分词器增加自己的配置：
重启ES，再次搜索就会发现名字也可以被连接起来了
Rest风格说明
一种软件架构风格，而不是标准，只是提供了一组设计原则和约束条件。它只要用于客户端和服务器交互类的软件。基于这个风格设计的软件可以更简洁，更有层次，更易于实现缓存等机制。
基本Rest命名说明：(8.x版本，类型被弃用了改成_doc)
| method | url地址 | 描述 |
|---|---|---|
| PUT | localhost:9200/索引名称/_doc/文档id | 创建文档(指定文档id) |
| POST | localhost:9200/索引名称/_doc | 创建文档(随机文档id) |
| POST | localhost:9200/索引名称/_update/文档id | 修改文档 |
| DELETE | localhost:9200/索引名称/_doc/文档id | 删除文档 |
| GET | localhost:9200/索引名称/_doc/文档id | 通过文档id查询文档 |
| POST | localhost:9200/索引名称/_doc/ _search | 查询所有数据 |
七、关于索引的基本操作
1、创建一个索引
PUT /索引名/_doc/文档id
{请求体}
然后通过elasticsearch-head可以查看数据的成功添加，这种操作类似于数据库中的增删改查
2、指定字段类型，有点类似于mysql创建表，定义每个字段的类型，还可以通过GET test2获得具体信息
3、如果自己的文档没有指定，ES会自动默认配置字段类型
扩展：通过命令elasticsearch索引情况
修改提交如果使用PUT那么这种方式是覆盖的，可以使用POST的update方法：
通过DELETE删除，根据你的请求来判断删除索引还是删除文档记录
DELETE test1
八、关于文档的基本操作
基本操作
1、添加数据
PUT /bobo/_doc/1
{
"name": "波波",
"age": 23,
"desc": "阿巴阿巴阿巴阿巴",
"tags": ["篮球","大方","暖男"]
}
2、获取数据
GET bobo/_doc/1
3、更新数据
POST bobo/_update/1
{
"doc":{
"name": "波波123"
}
}
4、简单查询
GET bobo/_doc/1
按照search查询
GET bobo/_search?q=name:波波
复杂操作 select（排序，分页，高亮，模糊查询，精准查询）
查询的参数体使用Json
GET bobo/_search
{
"query": {
"match": {
"name": "张" # 搜索hit
}
},
"_source":["name","desc"] #结果的过滤
}
排序
GET bobo/_search
{
"query": {
"match": {
"name": "张三"
}
},
"sort": [
{
"age": {
"order": "asc"
}
}
]
}
分页
GET bobo/_search
{
"query": {
"match": {
"name": "张三"
}
},
"from": 0, # 当前页
"size": 1 # 页面大小
}
布尔值查询
1、must(and)，有点类似于where id = 1 and name = xxx
GET bobo/_search
{
"query": {
"bool": {
"must": [
{
"match": {
"name": "刘文好"
}
},
{
"match": {
"age": 23
}
}
]
}
}
}
2、should(or)，有点类似于where id = 1 or name = xxx
GET bobo/_search
{
"query": {
"bool": {
"should": [
{
"match": {
"name": "刘文好"
}
},
{
"match": {
"age": 23
}
}
]
}
}
}
3、must_not(not)
GET bobo/_search
{
"query": {
"bool": {
"must_not": [
{
"match": {
"name": "刘文好"
}
},
{
"match": {
"age": 23
}
}
]
}
}
}
4、过滤器filter
GET bobo/_search
{
"query": {
"bool": {
"must": [
{
"match": {
"name": "张三"
}
}
],
"filter": [
{
"range": {
"age": {
"lt": 10
}
}
}
]
}
}
}
匹配多个条件（多个条件用空格隔开就可以了，只要满足其中一个结果就可以被查出，用score判断匹配度）
GET bobo/_search
{
"query": {
"match": {
"tags": "男 大方"
}
}
}
精确查询
term查询是直接通过倒排索引指定的词条进行精确的查找的
GET testdb/_search
{
"query": {
"term": {
"name": "张三"
}
}
}
关于分词：
- term，直接查询精确的文档信息
- match，会使用分词器解析！（先分析文档，然后再通过分析的文档进行查询）
text类型会被最小细粒度拆，keyword类型不会被分词器解析
多个值匹配的精确查询
GET testdb/_search
{
"query": {
"bool": {
"should": [
{
"term": {
"t1": "22"
}
},
{
"term": {
"t1": "33"
}
}
]
}
}
}
高亮查询（搜索相关的）
GET bobo/_search
{
"query": {
"match": {
"name": "张三"
}
},
"highlight": {
"fields": {
"name":{}
}
}
}
自定义搜索高亮条件
GET bobo/_search
{
"query": {
"match": {
"name": "张三"
}
},
"highlight": {
"pre_tags": ""
,
"post_tags": "",
"fields": {
"name":{}
}
}
}
GET testdb/_search
{
"query": {
"bool": {
"should": [
{
"term": {
"t1": "22"
}
},
{
"term": {
"t1": "33"
}
}
]
}
}
}
高亮查询（搜索相关的）
GET bobo/_search
{
"query": {
"match": {
"name": "张三"
}
},
"highlight": {
"fields": {
"name":{}
}
}
}
自定义搜索高亮条件
GET bobo/_search
{
"query": {
"match": {
"name": "张三"
}
},
"highlight": {
"pre_tags": ""
,
"post_tags": "",
"fields": {
"name":{}
}
}
}
如果你觉得这篇文章对您有帮助的话，麻烦帮我点个点个赞关注一下吧，创作不易，有你的支持才是我前进的动力~