【Hive】hive on spark 报错30041 分析解答

报错信息

[42000][30041] Error while processing statement: FAILED: Execution
Error, return code 30041 from
org.apache.hadoop.hive.ql.exec.spark.SparkTask. Failed to create Spark
client for Spark session 7b376fc2-2d9e-49ec-977f-fe3020a22a6a

使用DataGrip 能创建、查询,但是不能插入,导致的问题

可能导致的原因

1、spark没有启动
2、spark和hive的兼容性问题
3、配置项问题

检查原因

1、因为在数仓中,把spark所需的依赖已经导入到hdfs上,不需要启动spark

2、本次导致错误的原因,spark和hive不兼容导致的,
因为原先使用的是spark纯净版jar包,没有版本依赖问题。
出错原因是后来写了一个spark程序将生成的jar包导入到了hdfs上的spark-jars路径下,
导致的问题,这时候发现spark和hive依赖冲突

3、配置文件没有动

修正

将hdfs上的spark-jars删除,重新导入spark纯净版依赖

你可能感兴趣的:(spark,hive,big,data)