spark2-shell启动spark2报错

1、spark2-shell命令启动spark2后,抛出异常,关键错误信息如下图:

spark2-shell启动spark2报错_第1张图片

 仔细查看错误信息之后发现,原来是yarn配置的内存不够,spark启动需要1024+384 MB的内存,但是我的yarn配置仅有1024 MB,不够满足spark启动要求,所以抛出异常。

解决方法

      录Cloudera Manager,找到YARN (MR2 Included),点击进入,如图:

spark2-shell启动spark2报错_第2张图片

在导航栏找到 配置 选项,点击进入 配置 页面,如图:

 spark2-shell启动spark2报错_第3张图片

在搜索栏中输入yarn.scheduler.maximum-allocation-mb,可以看到,该配置参数的值正如spark启动时抛出的异常所示,为1GB,将其修改为2GB即可,点击保存更改。

spark2-shell启动spark2报错_第4张图片

按照上述的步骤,继续修改yarn.nodemanager.resource.memory-mb 参数的值为2GB,点击保存更改,重启yarn使设置生效。

 再次进入shell环境如下图:spark2-shell启动spark2报错_第5张图片

spark2-shellqidong启动正常!!! 

 

你可能感兴趣的:(大数据,spark)