elasticsearch 学习笔记01

背景

本文是学习 elasticsearch 时的学习笔记

关键概念

倒排索引

ES 对它的最小词源(Term) 维护了一个“倒排索引”,即 “从 最小词源 到文档ID 的映射”。
在文档入库时会先分词,完成后可查询。当查询时,比如 中国,人民 这样 的词,在查找时它所对应的 数据记录的ID有,1,14,1001 这样的数据ID。es 把这些ID的记录包含组成结果返回就是查询结果了。

数据对应关系

索引(Index) 对应数据库
类型(Type) 表
文档(document) 对应行的记录
字段(Field) 字段

映射(mapping)
是对处理数据的方式和规则方面做出的一些限制,如某个字段的数据类型、默认值、是否被索引等等,这些都是映射里面做出限制。在处理 Elasticsearch 里数据的一些使用规则的设置也叫做映射,建立出一个良好的映射,可以有效的提升我们在处理数据时的效率和性能。

分片和副本

Shards(分片):当索引存储大量数据时,可能会超出单个节点的硬件限制,为了解决这个问题,Elasticsearch提供了将索引细分为分片的概念。分片机制赋予了索引水平扩容的能力、并允许跨分片分发和并行化操作,从而提高性能和吞吐量。
Replicas(副本):在可能出现故障的网络环境中,需要有一个故障切换机制,Elasticsearch提供了将索引的分片复制为一个或多个副本的功能,副本在某些节点失效的情况下提供高可用性。

安装

使用 docker 安装

参考官网使用docker安装:
https://www.elastic.co/guide/en/elasticsearch/reference/master/docker.html

使用包安装

先下载包

elasticsearch 下载地址
https://www.elastic.co/cn/downloads/elasticsearch

kibana 下载地址
https://www.elastic.co/cn/downloads/kibana

启动 elasticsearch

(1)启动 elasticsearch
进入解压后的 elasticsearch 文件夹,执行 ./bin/elasticsearch
启动后,在控制台日志里看看到 :
    * elastic 账号的密码
    * 一个 enrollment token ,等下要用

(2)启动 kibana
进入解压后的 kibana 文件夹,执行 ./bin/kibana

(3)打开web 页面
打开web 页面 http://localhost:5601/?code=545569
  先:输入上面的 enrollment token
  再:输入 账号密码
(4) 在左侧菜单 找到 dev-tools,打开 console ,就可以和 elasticsearch 交互了

一些指令

查看状态的操作

查看集群健康状态;
  GET /_cat/health?v

查看节点状态;
  GET /_cat/nodes?v

查看所有索引信息;
  GET /_cat/indices?v

索引操作

查看有那些索引
  GET /_cat/indices?v

创建索引,比如创建一个 叫做 customer 的索引
  PUT /customer

删除索引
  DELETE /customer


类型的操作

就是看 这个类型有哪些字段(有哪些映射 mapping )

  查看文档的类型;
  GET /bank/account/_mapping

文档的操作

在索引中添加文档;
  PUT /customer/doc/1
  {
    "name": "John Doe"
  }

查看文档;
  GET /customer/doc/1

修改文档
  POST /customer/doc/1/_update
  {
    "doc": { "name": "Jane Doe" }
  }

删除文档;
  DELETE /customer/doc/1

批量操作
  POST /customer/doc/_bulk
  {"index":{"_id":"1"}}
  {"name": "John Doe" }
  {"index":{"_id":"2"}}
  {"name": "Jane Doe" }

搜索

数据搜索

查询表达式(Query DSL)是一种非常灵活又富有表现力的查询语言,Elasticsearch使用它可以以简单的JSON接口来实现丰富的搜索功能。

搜索全部;
  GET /bank/_search
  {
    "query": { "match_all": {} }
  }

分页搜索,from表示偏移量,从0开始,size表示每页显示的数量;
  GET /bank/_search
  {
    "query": { "match_all": {} },
    "from": 0,
    "size": 10
  }


搜索排序,使用sort表示,例如按balance字段降序排列;
  GET /bank/_search
  {
    "query": { "match_all": {} },
    "sort": { "balance": { "order": "desc" } }
  }


搜索并返回指定字段内容
字段使用_source表示,例如只返回account_number和balance两个字段内容:

  GET /bank/_search
  {
    "query": { "match_all": {} },
    "_source": ["account_number", "balance"]
  }

条件搜索

条件搜索.
对于数值类型match操作使用的是精确匹配,对于文本类型使用的是模糊匹配;

条件搜索,使用match表示匹配条件,例如搜索出account_number为20的文档:

GET /bank/_search
{
  "query": {
    "match": {
      "account_number": 20
    }
  }
}

短语匹配搜索,使用match_phrase表示,例如搜索address字段中同时包含mill和lane的文档:

GET /bank/_search
{
  "query": {
    "match_phrase": {
      "address": "mill lane"
    }
  }
}


组合搜索 bool
组合搜索,使用bool来进行组合,must表示同时满足,例如搜索address字段中同时包含mill和lane的文档;

GET /bank/_search
{
  "query": {
    "bool": {
      "must": [
        { "match": { "address": "mill" } },
        { "match": { "address": "lane" } }
      ]
    }
  }
}

组合搜索 must_not
must_not 表示同时不满足,例如搜索address字段中不包含mill且不包含lane的文档;

GET /bank/_search
{
  "query": {
    "bool": {
      "must_not": [
        { "match": { "address": "mill" } },
        { "match": { "address": "lane" } }
      ]
    }
  }
}


组合搜索,结合 must和 must_not,
例如搜索age字段等于40且state字段不包含ID的文档;

GET /bank/_search
{
  "query": {
    "bool": {
      "must": [
        { "match": { "age": "40" } }
      ],
      "must_not": [
        { "match": { "state": "ID" } }
      ]
    }
  }
}


过滤搜索 filter
搜索过滤,使用filter来表示,例如过滤出balance字段在20000~30000的文档;

GET /bank/_search
{
  "query": {
    "bool": {
      "must": { "match_all": {} },
      "filter": {
        "range": {
          "balance": {
            "gte": 20000,
            "lte": 30000
          }
        }
      }
    }
  }
}

聚合

搜索聚合 aggs

对搜索结果进行聚合,使用aggs来表示,类似于MySql中的group by,例如对state字段进行聚合,统计出相同state的文档数量;

GET /bank/_search
{
  "size": 0,
  "aggs": {
    "group_by_state": {
      "terms": {
        "field": "state.keyword"
      }
    }
  }
}


嵌套聚合,例如对state字段进行聚合,统计出相同state的文档数量,再统计出balance的平均值;
GET /bank/_search
{
  "size": 0,
  "aggs": {
    "group_by_state": {
      "terms": {
        "field": "state.keyword"
      },
      "aggs": {
        "average_balance": {
          "avg": {
            "field": "balance"
          }
        }
      }
    }
  }
}


聚合搜索,和排序
对聚合搜索的结果进行排序,例如按balance的平均值降序排列;

GET /bank/_search
{
  "size": 0,
  "aggs": {
    "group_by_state": {
      "terms": {
        "field": "state.keyword",
        "order": {
          "average_balance": "desc"
        }
      },
      "aggs": {
        "average_balance": {
          "avg": {
            "field": "balance"
          }
        }
      }
    }
  }
}

分段聚合
按字段值的范围进行分段聚合,例如分段范围为age字段的[20,30] [30,40] [40,50],之后按gender统计文档个数和balance的平均值;

GET /bank/_search
{
  "size": 0,
  "aggs": {
    "group_by_age": {
      "range": {
        "field": "age",
        "ranges": [
          {
            "from": 20,
            "to": 30
          },
          {
            "from": 30,
            "to": 40
          },
          {
            "from": 40,
            "to": 50
          }
        ]
      },
      "aggs": {
        "group_by_gender": {
          "terms": {
            "field": "gender.keyword"
          },
          "aggs": {
            "average_balance": {
              "avg": {
                "field": "balance"
              }
            }
          }
        }
      }
    }
  }
}

在 springboot 项目中集成使用

开始之前

主要是使用 spring-data-elasticsearch
参考:
https://spring.io/projects/spring-data-elasticsearch
https://docs.spring.io/spring-data/elasticsearch/docs/current/reference/html/

你可能感兴趣的:(elasticsearch 学习笔记01)