大数据调试环境配置(4):IDEA使用java api调试hive环境配置

一、目的

在开发过程中,不可避免需要在集群外部调试程序,以便快速开发,测试。

二、环境

1.IDEA

2.CDH 5.7.0(Hive、HADOOP)

三、步骤

1.创建Maven项目

2.加载对应CDH需求依赖



    4.0.0
 
    BG
    Hadoop
    1.0-SNAPSHOT
 
 
    
        
            cloudera
            https://repository.cloudera.com/artifactory/cloudera-repos/
        
    
    
        2.6.0-cdh5.7.0
        1.2.0-cdh5.7.0
        1.1.0-cdh5.7.0
 
        1.8
        1.8
    
 
    
        
            org.apache.hadoop
            hadoop-client
            ${hadoop.version}
        
        
            org.apache.hadoop
            hadoop-common
            ${hadoop.version}
        
        
            org.apache.hadoop
            hadoop-hdfs
            ${hadoop.version}
        
 
        
            org.apache.hive
            hive-jdbc
            ${hive.version}
        
 
        
            org.apache.hive
            hive-metastore
            ${hive.version}
        
 
        
            org.apache.hive
            hive-exec
            ${hive.version}
        
 
 
        
            junit
            junit
            4.10
            test
        
 
 
    
 

3.加载hdfs-site.xml、core-site.xml和log4j.properties到resources目录下

大数据调试环境配置(4):IDEA使用java api调试hive环境配置_第1张图片

4.将hadoop-2.6.0-cdh5.7.0的tar包直接解压缩到本地,并且配置Hadoop环境变量

大数据调试环境配置(4):IDEA使用java api调试hive环境配置_第2张图片

5.添加winutils.exe到hadoop-2.6.0-cdh5.7.0\bin目录下,并且配置winutils.exe到系统Path中

大数据调试环境配置(4):IDEA使用java api调试hive环境配置_第3张图片

6.开启hdfs和hive metastore以及hive server2

bin/hive --service metastore &
bin/hive --service hiveserver2 &

四、链接Hive测试代码

1.参考

https://blog.csdn.net/u010886217/article/details/83926355

 

你可能感兴趣的:(大数据调试环境配置,大数据开发)