impala内存超限

目录

一、背景

二、报错内容

三、解决办法

1.调参

2.简单粗暴


一、背景

impala shell执行SQL语句时报错

二、报错内容

Memory limit exceeded: Could not allocate memory while trying to increase reservation.

三、解决办法

1.调参

mem_limit参数:(内存限制)

由守护程序本身强制执行的 Impala Daemon 的内存限制(以字节为单位)。如果达到该限制,Impalad Daemon 上运行的查询可能会被停止。将其留空可以让 Impala 选择自己的限制。使用 -1 B 值将指定无任何限制。

default_pool_mem_limit参数:(单池内存限制)

配置使用单个池时用于 Admission Control 的运行查询的最大内存。-1 或 0 表示无限制。已启用“用于 Admission Control 的动态资源池”时忽略。

impala内存超限_第1张图片

总结:

一般调大 mem_limit参数或者将内存限制取消参数置为-1B即可。

去配置文件修改
Impala Daemon 内存限制
mem_limit=-1b

单池内存限制
default_pool_mem_limit=-1b

2.简单粗暴

将执行报错的SQL使用HIVE去执行,新建一张临时表存储结果数据,再将临时表数据写入最后的目标表中。

你可能感兴趣的:(踩坑记录,sql,数据库,大数据)