datart导入hive连接包

  datart读取hive数据时,需要先在datart的lib目录下导入hive jdbc相关的包,这里面有几个坑记录下:

1.和springboot中commons-lang3冲突

2.hive中带的jetty和springboot冲突

3.hive jdbc的包的版本号一定要小于登录hive服务端的版本,否则会报Required field ‘client_protocol’ is unset的错误,在引入hive jdbc包的时候,要先查看hive的版本,具体方法:可以找到hive的安装目录 whereis hive,查看hive lib目录下相关包的版本或者执行hive后,通过查看日志得到hive的版本。

最后在导入包的时候,一个个导比较麻烦,而且针对jar包冲突请求也不好处理,所以新建了个项目将所需的包引入,使用maven-shade-plugin插件进行打包并对冲突了的jar包进行重命名,消除冲突,最后的pom文件如下:



    4.0.0

    org.example
    hive-dependency
    1.0-SNAPSHOT


    
        8
        8
        1.1.0
    

    
        
        
            org.apache.hive
            hive-jdbc
            ${hive.version}
        
        
            org.apache.hadoop
            hadoop-common
            2.6.0
        
        
            org.apache.hadoop
            hadoop-client
            2.7.1
        
        
            org.apache.hive
            hive-exec
            ${hive.version}
            
                
                    commons-lang3
                    org.apache.commons
                
            
        
    

    
        
            
                maven-compiler-plugin
                
                    1.8
                    1.8
                    UTF-8
                
            

            
                org.apache.maven.plugins
                maven-shade-plugin
                2.4.3
                
                    
                        package
                        
                            shade
                        
                        
                            
                                
                                    *:*
                                    
                                        META-INF/*.SF
                                        META-INF/*.DSA
                                        META-INF/*.RSA
                                        org/eclipse/*
                                    
                                
                            
                            
                                
                                    org.apache.commons.lang3
                                    org.apache.commons.hive.lang3
                                
                                
                                    org.eclipse.jetty
                                    org.eclipse.hive.jetty
                                
                                
                                    org.mortbay
                                    org.mortbay.hive
                                
                            
                        
                    
                
            
        
    
    
        
            aliyun
            
            spring-plugin
            https://maven.aliyun.com/repository/spring-plugin
            
                true
            
            
                false
            
        
    

你可能感兴趣的:(可视化,hive,数据可视化)