ES报错Elasticsearch exception [type=circuit_breaking_exception, reason=[parent] Data too large, data f

文章目录

  • 问题回顾
  • 原因概述
  • 临时解决方法
  • 原理解析

问题回顾

在测试环境中,项目使用的ES报错了,如下:

Elasticsearch exception [type=circuit_breaking_exception, reason=[parent] Data too large, data for [] would be [505648516/482.2mb], which is larger than the limit of [501746892/478.5mb], real usage: [505647744/482.2mb], new bytes reserved: [772/772b], usages [request=0/0b, fielddata=26178/25.5kb, in_flight_requests=772/772b, accounting=1855143/1.7mb]].

原因概述

默认,从ES拉取的数据会被ES限制大小,防止出现超出可用内存,导致整个服务不可用问题。

  • 增大内存即可临时解决。
  • 长久解决办法见本文的 “原理解析” 部分

临时解决方法

调整ES启动时的JVM内存大小,下列2个步骤都要看。

注意:如果是生产环境,请自行注意服务器的内存大小是否够用!!!否则强行改大内存可能导致其余服务崩溃。
注意:如果是生产环境,请自行注意服务器的内存大小是否够用!!!否则强行改大内存可能导致其余服务崩溃。
注意:如果是生产环境,请自行注意服务器的内存大小是否够用!!!否则强行改大内存可能导致其余服务崩溃。

  1. 如果你使用的是K8S,尝试调整K8S给ES分配的内存大小
    把这里的limits里的memory改大
    ES报错Elasticsearch exception [type=circuit_breaking_exception, reason=[parent] Data too large, data f_第1张图片

  2. 如果你设置了启动命令的JVM内存大小,修改大内存即可。【如果你没设置,忽视这一步】
    类似如下
    ES报错Elasticsearch exception [type=circuit_breaking_exception, reason=[parent] Data too large, data f_第2张图片
    调大即可。
    比如图里的是 -Xms8G -Xmx8G,调大到10G什么的。

原理解析

参考官网解释:
默认,从ES拉取的数据会被ES限制大小,防止出现超出可用内存,导致整个服务不可用问题。
所以:

  1. 临时方法:
    1. 你可以修改提供给ES的总内存大小
    2. 你可以修改下面的那个indices.breaker.total.limit大小。具体可以自行查看
  2. 长久办法:
    1. 找到到底是哪个接口拉取数据超量了,尽量别拉取没用的字段。

附带链接:https://www.elastic.co/guide/en/elasticsearch/reference/7.6/circuit-breaker.html
ES报错Elasticsearch exception [type=circuit_breaking_exception, reason=[parent] Data too large, data f_第3张图片

你可能感兴趣的:(工作踩坑,经验,学习,elasticsearch,大数据,搜索引擎)