记一次jar冲突的问题

问题

业务中需要在spark中链接redis作为服务缓存,spark程序中引入redis的jar包后上传spark集群运行是报java.lang.NoSuchMethodError: com.xxx.common.pool.ConnectionPool.startAsync()Lcom/google/common/util/concurrent/Service;根据报错信息发现是jar包冲突造成

解决方式

  1. 根据报错信息判断是com/google/common/util这个包造成的冲突,在idea的external中找到该包的maven坐标应该是com.google.guava:guava:18.0
  2. 然后在idea的Dependency Analyzer中搜索guava发现生效的包和redis包中的版本相同,所以冲突应该不是本地项目造成的
  3. 然后有将jar上传tce运行,发现没有问题。因此定位问题应该是本地项目的com.google.guava依赖和spark集群中的依赖冲突造成
  4. 通过maven的shade插件将com.google.guava重命名后解决jar包冲突问题
<plugin>
	<groupId>org.apache.maven.pluginsgroupId>
    <artifactId>maven-shade-pluginartifactId>
    <version>3.2.1version>
    <executions>
    	<execution>
    		<phase>packagephase>
            <goals>
                <goal>shadegoal>
            goals>
            <configuration>
            	<minimizeJar>falseminimizeJar>
                <createDependencyReducedPom>falsecreateDependencyReducedPom>
                <relocations>
                   <relocation>
                       <pattern>com.google.commonpattern>
                       <shadedPattern>shade.com.google.commonshadedPattern>
                   relocation>
                relocations>
                <filters>
                	<filter>
                        <artifact>*:*artifact>
                        <excludes>
                            <exclude>META-INF/*.SFexclude>
                            <exclude>META-INF/*.DSAexclude>
                            <exclude>META-INF/*.RSAexclude>
                        excludes>
                    filter>
                filters>
            configuration>
    	execution>
    executions>
plugin>

你可能感兴趣的:(jar,java)