一个索引就是一个拥有几分相似特征的文档的集合。比如说,可以有一个客户数据的索引,另一个产品目录的索引,还有一个订单数据的索引。一个索引由一个名字来标识(必须全部是小写字母的),并且当我们要对对应于这个索引中的文档进行索引、搜索、更新和删除的时候,都要使用到这个名字
ElasticSearch中的映射(Mapping)用来定义一个文档, mapping是处理数据的方式和规则方面做一些限制,如某个字段的数据类型、默认值、分词器、是否被索引等等,这些都是映射里面可以设置的
相当于是数据表的字段|列
每一个字段都应该有一个对应的类型,例如:Text、Keyword、Byte等
一个文档是一个可被索引的基础信息单元,类似一条记录。文档以JSON(Javascript Object Notation)格式来表示;
一个集群就是由一个或多个节点组织在一起,它们共同持有整个的数据,并一起提供索引和搜索功能
一个节点是集群中的一个服务器,作为集群的一部分,它存储数据,参与集群的索引和搜索功能
一个节点可以通过配置集群名称的方式来加入一个指定的集群。默认情况下,每个节点都会被安排加入到一个叫做“elasticsearch”的集群中
这意味着,如果在网络中启动了若干个节点,并假定它们能够相互发现彼此,它们将会自动地形成并加入到一个叫做“elasticsearch”的集群中.。在一个集群里,可以拥有任意多个节点。而且,如果当前网络中没有运行任何Elasticsearch节点,这时启动一个节点,会默认创建并加入一个叫做“elasticsearch”的集群。
一个索引可以存储超出单个结点硬件限制的大量数据。比如,一个具有10亿文档的索引占据1TB的磁盘空间,而任一节点都没有这样大的磁盘空间;或者单个节点处理搜索请求,响应太慢
为了解决这个问题,Elasticsearch提供了将索引划分成多份的能力,这些份就叫做分片。当创建一个索引的时候,可以指定你想要的分片的数量;每个分片本身也是一个功能完善并且独立的“索引”,这个“索引”可以被放置到集群中的任何节点上。
分片很重要,主要有两方面的原因
允许水平分割/扩展你的内容容量
允许在分片之上进行分布式的、并行的操作,进而提高性能/吞吐量
至于一个分片怎样分布,它的文档怎样聚合回搜索请求,是完全由Elasticsearch管理的,对于作为用户来说,这些都是透明的
在一个网络/云的环境里,失败随时都可能发生,在某个分片/节点不知怎么的就处于离线状态,或者由于任何原因消失了,这种情况下,有一个故障转移机制是非常有用并且是强烈推荐的。为此目的,Elasticsearch允许你创建分片的一份或多份拷贝,这些拷贝叫做副本分片,或者直接叫副本
副本之所以重要,有两个主要原因
1) 在分片/节点失败的情况下,提供了高可用性,注意到复制分片从不与原/主要(original/primary)分片置于同一节点上是非常重要的
2) 扩展搜索量/吞吐量,因为搜索可以在所有的副本上并行运行每个索引可以被分成多个分片。一个索引有0个或者多个副本;一旦设置了副本,每个索引就有了主分片和副本分片,分片和副本的数量可以在索引 创建的时候指定 ;在索引创建之后,可以在任何时候动态地改变副本的数量,但是不能改变分片的数量
传统的检索是通过文章,逐个遍历找到对应关键词的位置。
而倒排索引,是通过分词策略,形成了词和文章的映射关系表,这种词典+映射表即为倒排索引,倒排索引会将文档内容进行分词拆分,然后再索引的时候会根据搜索内容和这个分词进行匹配,查看匹配对应的文档id,然后根据文档id查询文档内容。
索引就类似于目录,平时我们使用的都是索引,都是通过主键定位到某条数据,那么倒排索引呢,刚好相反,数据对应到主键.这里以一个博客文章的内容为例:
文档Id | 文章标题 | 文章内容 |
---|---|---|
1 | 浅析JAVA设计模式 | JAVA设计模式是每一个JAVA程序员都应该掌握的进阶知识 |
2 | JAVA多线程设计模式 | JAVA多线程与设计模式结合 |
倒排索引
假如,我们有一个站内搜索的功能,通过某个关键词来搜索相关的文章,那么这个关键词可能出现在标题中,也可能出现在文章内容中,那我们将会在创建或修改文章的时候,建立一个关键词与文章的对应关系表,这种,我们可以称之为倒排索引,因此倒排索引,也可称之为反向索引.如:
关键词 | 文章ID |
---|---|
JAVA | 1 |
设计模式 | 1,2 |
多线程 | 2 |
在倒排索引中,有三个名词:词条、词典、倒排表
词条:索引里面最小的存储和查询单元。一般来说,在英文语境中词条是一个单词,在中文语境中词条指的是分词后的一个词组。
词典:又称字典,是词条的集合。单词词典一般是由网页或文章集合中出现过的所有词构成的字符串集合。单词词典有两种数据结构实现:B+树和Hash表。下面是Hash表的结构:
倒排表:记录的是词出现在哪些文档里、出现的位置和频率等。在倒排表中,每条记录被称为一个倒排项。
1:比数据库模糊查询的效率高(数据库是正排索引,加入搜索一个单词,需要将全文扫描一遍,效率很低)搜索结果存在相关度的排序,搜索时关键词不区分大小写
2、分词:
在创建索引之前会对文档的字符串进行分词,Elasticsearch中字符串类型包括keyword和text两种:
keyword:keyword类型的字符串不会被分词,搜索时全匹配查询
text:会被分词查询,不同的分词器对相同字符串分词的结果大有不同,选择不同的分词器对索引的创建有很大的影响
ik_max_word分词器: 最细粒度拆分
ik_smart分词器: 最粗粒度的拆分
3、单词文档矩阵:
从横向看,每行代表文档包含了哪些单词,比如文档1包含了单词1和单词3,而不包含其它单词。
从纵向看,每列代表了某个单词存在于哪些文档。比如单词1在文档1和文档4中出现过。
简单来说,索引就是实现“单词-文档矩阵”的具体数据结构,而倒排索引则是实现了这种数据结构的具体方式。
在根据关键词进行搜索时,首先会根据关键词的分词结果,如北京长城 会被分割为北京 长城,然后会在文档内容分词的单词词典里面查询那些文档包含北京 长城,并返回对于的文档id,然后根据文档id去获取文档的内容