就是使用ES提供的aggs语法结果,使用DSL搜索的语法,实现聚合数据的统计,查询。
ES中,如果新增document数据的时候,对应的index和type不存在,则自动创建。
1 准备源数据
PUT /products_index/phone_type/1 { "name":"IPHONE 8", "remark":"64G", "price":548800, "producer":"APPLE", "tags" : [ "64G", "red color", "Nano SIM" ] } PUT /products_index/phone_type/2 { "name":"IPHONE 8", "remark":"64G", "price":548800, "producer":"APPLE", "tags" : [ "64G", "golden color", "Nano SIM" ] } PUT /products_index/phone_type/3 { "name":"IPHONE 8 PLUS", "remark":"128G", "price":748800, "producer":"APPLE", "tags" : [ "128G", "red color", "Nano SIM" ] } PUT /products_index/phone_type/4 { "name":"IPHONE 8 PLUS", "remark":"256G", "price":888800, "producer":"APPLE", "tags" : [ "256G", "golden color", "Nano SIM" ] }
将文本类型的field的fielddata设置为true。用于设置ES中对倒排索引的设置,将倒排索引内容重设一份正排索引,并提供内存存储计算能力。
正排索引,类似数据库中的普通索引。依赖倒排索引中的数据,不做二次解析,将倒排索引解析的数据信息,建立一个索引,索引用于内存计算,如:分析,分组,字符串排序等。
PUT /products_index/_mapping/phone_type { "properties" : { "tags" : { "type" : "text", "fielddata" : true } } }
2 聚合统计
计算每个tag中的Document数量
terms : 检索词组的,安装标准词组分组,统计数据document的数量。类似数据库中的count。
聚合搜索,语法的大体结构和DSL搜索语句类似。类似数据库中的count。 Select count(*) from table
GET /products_index/phone_type/_search { "size" : 0, # 查多少数据。 "aggs" : { # 开始聚合,类似query,是一个命令。或api "group_by_tags":{ # 给聚合数据,加一个命名。自定义。 "terms" : { # 是一个聚合api,类似数据库中的聚合函数。解析某字段中的词条。如:a字段的值是 test field.假设解析后词条为test和field。那么就是根据a字段的解析词条,test和field来统计每个数据在多少个document中存在。 "field" : "tags" } } } }
"size":0代表显示多少计算源数据Document
3 增加搜索匹配条件的聚合统计
搜索名称中包含PLUS的Document,并计算每个tag中的Document数量。统计是search中的一部分。一般在DSL query中使用。所以经常和条件搜索配合完成统计。
GET /products_index/phone_type/_search { "size" : 0, "query" : { "match" : { "name" : "PLUS" } }, "aggs" : { "group_by_tags":{ "terms" : { "field" : "tags" } } } }
4 聚合后实现计算
聚合嵌套
# 计算name中包含plus的document数据中的price字段平均值。 GET /products_index/phone_type/_search { "query": { "match": { "name": "plus" } }, "aggs": { "avg_by_price" : { "avg": { "field": "price" } } } } # 搜索包含plus的document,根据tags做词条统计,在统计结果中,计算price平均值。聚合是可以嵌套的,内层聚合是依托于外层聚合的结果之上,实现聚合计算的。 GET /products_index/phone_type/_search { "query": { "match": { "name": "plus" } }, "aggs": { "group_by_tags":{ "terms": { "field": "tags" }, "aggs": { "avg_by_price": { "avg": { "field": "price" } } } } } }
5 聚合的排序
类似SQL - select * from group by .. order by ..
聚合aggs中如果使用order排序的话,要求排序字段必须是一个aggs聚合相关的字段。聚合相关字段代表的含义是:当前聚合的子聚合命名。如:外部聚合是使用terms实现的聚合,命名为group_by_tags,其内层聚合是使用avg计算平均值,聚合名称为avg_by_price,那么avg_by_price称为聚合相关字段。
计算每个tag中的Document数据的price平均值,并根据price字段数据排序
GET /products_index/phone_type/_search { "size" : 0, "aggs" : { "group_by_tags" : { "terms" : { "field" : "tags", "order":{"avg_price" : "desc"} }, "aggs" : { "avg_price" : { "avg" : { "field" : "price" } } } } } }
6 范围分组并计算
使用price取值范围分组,再计算分组Document中price的平均值
GET /products_index/phone_type/_search { "query": { "match_all": {} }, "_source": "price", "aggs": { "range_by_price": { "range": { "field": "price", "ranges": [ { "from": 500000, "to": 600000 }, { "from": 600001, "to": 800000 }, { "from": 800001, "to": 1000000 } ] }, "aggs": { "avg_by_price": { "avg": { "field": "price" } } } } } }