Spark 整合springboot问题整合

1.netty包冲突  common包跟spark自带的netty冲突 需要删掉 其他的包

java.lang.AbstractMethodError: org.apache.spark.network.protocol.MessageWithHeader.touch(Ljava/lang/Object;)Lio/netty/util/ReferenceCounted;
at io.netty.util.ReferenceCountUtil.touch(ReferenceCountUtil.java:77)
at io.netty.channel.DefaultChannelPipeline.touch(DefaultChannelPipeline.java:116)
at io.netty.channel.AbstractChannelHandlerContext.write(AbstractChannelHandlerContext.java:810)
at io.netty.channel.AbstractChannelHandlerContext.write(AbstractChannelHandlerContext.java:723)
at io.netty.handler.codec.MessageToMessageEncoder.write(MessageToMessageEncoder.java:111)
at io.netty.channel.AbstractChannelHandlerContext.invokeWrite0(AbstractChannelHandlerContext.java:738)

这个为spark 下netty包

2.springboot提交任务到spark 服务器时会报jar包找不到,此时的原因可能服务器上的包缺失需要添加缺失的jar到spark服务器上

 

 

你可能感兴趣的:(spark,springboot)