python操作ES数据库
文章目录
-
- 1、ES数据库和关系型数据库对比
- 2、连接ES数据库
- 3、插入数据
- 4、查询数据
- 建立连接池ES
1、ES数据库和关系型数据库对比
一个ES集群可以包含多个索引（数据库），每个索引又包含了很多类型（表），类型中包含了很多文档（行），每个文档使用 JSON 格式存储数据，包含了很多字段（列）
| 关系型数据库 | 数据库 | 表 | 行 | 列 |
|---|---|---|---|---|
| ES | 索引 | 类型 | 文档 | 字段 |
2、连接ES数据库
需要安装elasticsearch包
pip install elasticsearch
from elasticsearch import Elasticsearch
es = Elasticsearch([{"host":"ip","port":9200}])
es.search(index='es_python') # index：选择数据库
3、插入数据
1、创建索引（数据库）
"""索引名 es_python,ignore=400，表示忽视400这个错误，如果存在es_python时，会返回400"""
es.indices.create(index='es_python',ignore=400)
2、插入单条数据
body = {'name':'刘婵',"age":6,
"sex":"male",'birthday':'1984-01-01',
"salary":-12000}
es.index(index='es_python',doc_type='_doc',body=body)
3、插入多条数据
doc = [
{'index':{'_index':'es_python','_type':'_doc','_id':1}},
{'name':'赵云','age':25,'sex':'male','birthday':'1995-01-01','salary':8000},
{'index':{'_index':'es_python','_type':'_doc','_id':2}},
{'name':'张飞','age':24,'sex':'male','birthday':'1996-01-01','salary':8000},
{'create':{'_index':'es_python','_type':'_doc','_id':3}},
{'name':'关羽','age':23,'sex':'male','birthday':'1996-01-01','salary':8000},
]
es.bulk(index='es_python',doc_type='_doc',body=doc)
4、查询数据
1、body指定查询条件
body = {
'from': 0, # 从0开始
'size': 2 # 取2个数据。类似mysql中的limit 0, 20。 注：size可以在es.search中指定，也可以在此指定，默认是10
}
# 定义过滤字段，最终只显示此此段信息
filter_path=['hits.hits._source.ziduan1', # 字段1
'hits.hits._source.ziduan2'] # 字段2
es.search(index='es_python', filter_path=filter_path, body=body)
2、模糊查询
body = {
'query': { # 查询命令
'match': { # 查询方法：模糊查询（会被分词）。比如此代码，会查到只包含：“我爱你”， “中国”的内容
'name': '刘'
}
},
'size': 20 # 不指定默认是10，最大值不超过10000（可以修改，但是同时会增加数据库压力）
}
# size的另一种指定方法
es.search(index='es_python', filter_path=filter_path, body=body, size=200)
3、term，精准单值查询
# 注：此方法只能查询一个字段，且只能指定一个值。类似于mysql中的where ziduan='a'
body ={
'query':{
'term':{
'ziduan1.keyword': '刘婵' # 查询内容等于“我爱你中国的”的数据。查询中文，在字段后面需要加上.keyword
# 'ziduan2': 'liuchan'
}
}
}
4、terms，精准多值查询
#此方法只能查询一个字段，但可以同时指定多个值。类似于mysql中的where ziduan in (a, b,c...)
body ={
"query":{
"terms":{
"ziduan1.keyword": ["刘婵", "赵云"] # 查询ziduan1="刘婵"或=赵云...的数据
}
}
}
5、multi_match，多字段查询
# 查询多个字段中都包含指定内容的数据
body = {
"query":{
"multi_match":{
"query":"我爱你中国", # 指定查询内容，注意：会被分词
"fields":["ziduan1", "ziduan2"] # 指定字段
}
}
}
6、prefix，前缀查询
body = {
'query': {
'prefix': {
'ziduan.keyword': '我爱你' # 查询前缀是指定字符串的数据
}
}
}
# 注：英文不需要加keyword
7、wildcard，通配符查询
body = {
'query': {
'wildcard': {
'ziduan1.keyword': '?刘婵*' # ?代表一个字符，*代表0个或多个字符
}
}
}
# 注：此方法只能查询单一格式的（都是英文字符串，或者都是汉语字符串）。两者混合不能查询出来。
8、regexp，正则匹配
body = {
'query': {
'regexp': {
'ziduan1': 'W[0-9].+' # 使用正则表达式查询
}
}
}
9、bool，多条件查询
# must：[] 各条件之间是and的关系
body = {
"query":{
"bool":{
'must': [{"term":{'ziduan1.keyword': '我爱你中国'}},
{'terms': {'ziduan2': ['I love', 'China']}}]
}
}
}
# should: [] 各条件之间是or的关系
body = {
"query":{
"bool":{
'should': [{"term":{'ziduan1.keyword': '我爱你中国'}},
{'terms': {'ziduan2': ['I love', 'China']}}]
}
}
}
# must_not：[]各条件都不满足
body = {
"query":{
"bool":{
'must_not': [{"term":{'ziduan1.keyword': '我爱你中国'}},
{'terms': {'ziduan2': ['I love', 'China']}}]
}
}
}
# bool嵌套bool
# ziduan1、ziduan2条件必须满足的前提下，ziduan3、ziduan4满足一个即可
body = {
"query":{
"bool":{
"must":[{"term":{"ziduan1":"China"}}, # 多个条件并列 ，注意：must后面是[{}, {}],[]里面的每个条件外面有个{}
{"term":{"ziduan2.keyword": '我爱你中国'}},
{'bool': {
'should': [
{'term': {'ziduan3': 'Love'}},
{'term': {'ziduan4': 'Like'}}
]
}}
]
}
}
}
建立连接池ES
import os
import json
from datetime import datetime
from elasticsearch import Elasticsearch, RequestsHttpConnection
from elasticsearch import Transport
from elasticsearch.exceptions import NotFoundError
class ES(object):
_index = ""
_type = ""
def __init__(self, hosts):
# 基于requests实例化es连接池
self.conn_pool = Transport(hosts=hosts, connection_class=RequestsHttpConnection).connection_pool
def get_conn(self):
"""
从连接池获取一个连接
"""
conn = self.conn_pool.get_connection()
return conn
def request(self, method, url, headers=None, params=None, body=None):
"""
想es服务器发送一个求情
@method 请求方式
@url 请求的绝对url 不包括域名
@headers 请求头信息
@params 请求的参数：dict
@body 请求体：json对象(headers默认Content-Type为application/json)
# return 返回体：python内置数据结构
"""
conn = self.get_conn()
try:
status, headers, body = conn.perform_request(method, url, headers=headers, params=params, body=body)
except NotFoundError as e:
return None
if method == "HEAD":
return status
return json.loads(body)
def search(self, query=None, method="GET"):
url = "/%s/%s/_search" % (self._index, self._type)
if method == "GET":
data = self.get(url, params=query)
elif method == "POST":
data = self.post(url, body=query)
else:
return None
return data
def get(self, url, params=None, method="GET"):
"""
使用get请求访问es服务器
"""
data = self.request(method, url, params=params)
return data
def put(self, url, body=None, method="PUT"):
"""
使用put请求访问es
"""
data = self.request(method, url, body=body)
return data
def post(self, url, body=None, method="POST"):
"""使用post请求访问服务器"""
data = self.request(method, url, body=body)
return data
def head(self, url, *args, **kwargs):
status = self.request("HEAD", url, *args, **kwargs)
return status
def delete(self, url, *args, **kwargs):
ret = self.request("DELETE", url, *args, **kwargs)
return ret