• 使用load 方式加载数据到Hive 表中,注意分区表加载数据的特殊性
  • 如何保存HiveQL 查询结果:保存到表中,保存到本地文件(注意指定列分隔符)
  • 常见查询练习,如group by、having、join、sort by、order by 等。

一:hive 表的操作

1.1.1 hive的库的创建与数据库的查看:

  hive(default)> create database yangyang;

hive 表的常用操作_第1张图片

 hive(default)> use yangyang;
 hive(yangyang)>desc database yangyang;

hive 表的常用操作_第2张图片

1.1.2 hive 表的创建查看与数据导入

创建emp 表:

hive(yangyang)> create table emp(
empno int,
ename string,
job string,
mgr int,
hiredate string,
sal double,
comm double,
deptno int
)
row format delimited fields terminated by '\t';

hive 表的常用操作_第3张图片

1.1.3 hive 创建表的三种方式:

1. 直接在数据库中创建:

hive(yangyang)>create table dept(
               deptno int,
               dname string,
               loc string
               )
row format delimited fields terminated by '\t';

hive 表的常用操作_第4张图片

2.使用已经存在的数据库进行数据抽取从新生成一张表:

   create table emp2 as select * from emp;
    1.此方法抽取的表数据与表结构都会存在
    2.创建表的时候会执行mapreduce 的后端程序

hive 表的常用操作_第5张图片

3.创建一张空表带数据结构

 create table emp3 like emp;
select * from emp3;

hive 表的常用操作_第6张图片
hive 表的常用操作_第7张图片

1.1.4 hive 数据的导入处理:

1. 正常空表导入:

load data local inpath "/home/hadoop/emp.txt" into table emp;  
load data local inpath "/home/hadoop/dept.txt" into table dept; 

hive 表的常用操作_第8张图片

2. 从hdfs 中导入数据

指定 hdfs 目录进行数据导入:
load data inpath "/user/hive/warehouse/yangyang.db/emp/emp.txt" into table emp3;

hive 表的常用操作_第9张图片

3. 加载数据进行数据覆盖:

hdfs dfs -put emp.txt /user
load data inpath "/user/emp.txt" overwrite into table emp;

hive 表的常用操作_第10张图片

注释:hive 在导入数据的时候不是空表的时候默认是追加导入append 
    一般在导入重复数据的时会增加overwrite 进行数据覆盖。

4.创建表的时候用select完成

create table emp5 as select * from emp;

hive 表的常用操作_第11张图片

5.创建数据用insert into 创建表

先创建一个空表:
create table emp4 like emp ;  
然后插入数据:
insert into table emp4 select * from emp; 

hive 表的常用操作_第12张图片

1.1.5hive库的导出:

1.导出到本地系统:

insert overwrite local directory '/home/hadoop/exp' 
row format delimited fields terminated by '\t' select * from emp ;

hive 表的常用操作_第13张图片

2. 导出到hdfs文件系统上面:

insert overwrite directory '/emp.txt' select * from emp ;

hive 表的常用操作_第14张图片

3. 导出文本文件:

  hive -e 'select * from yangyang.emp' >> 1.txt

hive 表的常用操作_第15张图片

4.采用sqoop 数据导入导出。

hive 表的查看方式:
select * from dept;
select * from emp;

hive 表的常用操作_第16张图片
hive 表的常用操作_第17张图片

desc formatted dept;
desc formatted emp;

hive 表的常用操作_第18张图片

查询前几个字段:
select emp.ename from emp limit 2;

hive 表的常用操作_第19张图片

去重复查询:
select distinct(deptno) from emp limit 2;

hive 表的常用操作_第20张图片

输出结果进行排序:
select * from emp order by empno;

hive 表的常用操作_第21张图片

统计行数:
select count(empno) from emp; 

hive 表的常用操作_第22张图片

除去重复统计:
select count(distinct deptno) from emp;

hive 表的常用操作_第23张图片

分组统计:
select deptno,count(ename) from emp group by deptno ;

hive 表的常用操作_第24张图片

分组统计求最大值:
select deptno,max(sal) from emp group by deptno ;

hive 表的常用操作_第25张图片

分组之后过了统计:
select deptno,count(ename) from emp group by deptno having count(ename)>3;

hive 表的常用操作_第26张图片

设置mapreduce的个数。
hive >set mapreduce.job.reduces=3; 
hive > insert overwrite local directory '/home/hadoop/exp1' 
row format delimited fields terminated by '\t' select * from emp sort by empno;

image_1aj416spl1q81vfhivs1l14mmc4d.png-3.6kB
hive 表的常用操作_第27张图片

1.1.6 关于hive 的排序功能:

 order by
        --全局排序   asc  desc
sort by
    --局部排序,每个reduce进行排序,全局不排序
distribute by
    --类似与分区partition,通常和sort by联合使用
    --通常sort by放在distribute by之后
cluster by
    --相当于distribute by和sort by的结合(分区和排序字段一样)
insert overwrite local directory '/home/hadoop/exp2' 
row format delimited fields terminated by '\t' select * from emp 
distribute by deptno sort by empno;

hive 表的常用操作_第28张图片

hive 的join 查询

右连接
select dept.dname,emp.ename from dept right join emp on emp.deptno=dept.deptno ;

hive 表的常用操作_第29张图片

左连接
select dept.dname,emp.ename from emp left join dept on emp.deptno=dept.deptno ; 

hive 表的常用操作_第30张图片

查询是否要走mapreduce 程序:

  hive.fetch.task.conversion
  more  
  
    Some select queries can be converted to single FETCH task minimizing latency.
    Currently the query should be single sourced not having any subquery and should not have
    any aggregations or distincts (which incurs RS), lateral views and joins.
    1. minimal : SELECT STAR, FILTER on partition columns, LIMIT only
    2. more    : SELECT, FILTER, LIMIT only (TABLESAMPLE, virtual columns)
  
select emp.empno,emp.ename from emp;

hive 表的常用操作_第31张图片

select count(empno) from emp;

hive 表的常用操作_第32张图片

explain 查看hive命令的更多的解析状态:
explain  select count(empno) from emp;

hive 表的常用操作_第33张图片
hive 表的常用操作_第34张图片
hive 表的常用操作_第35张图片

hive 查询中的四个查询
order by 分组查询 (全局数据的排序/只有一个reduce 输出)
select * from emp order by empno desc;

hive 表的常用操作_第36张图片
hive 表的常用操作_第37张图片

sort by  对每个reduce 的内部进行排序 对全局结果来说 是没有排序的
         设置hive中的mapreduce 的数目
         set mapreduce.job.reduces=3
         select * from emp sort by empno asc;

hive 表的常用操作_第38张图片
hive 表的常用操作_第39张图片

distribute by
    分区partition
    类似于MapReduce中分区partition,对数据进行分区,结合sort by进行使用
    insert overwrite local directory '/root/emp.txt' select * from emp distribute by deptno sort by empno asc ;
    注意事项:
    distribute by 必须要在sort by  前面。

hive 表的常用操作_第40张图片


>> cluster by
    当distribute by和sort by 字段相同时,可以使用cluster by ;
    insert overwrite local directory '/root/emp.txt' select * from emp cluster by empno ;

hive 表的常用操作_第41张图片