Hive 排序

一、全局排序(Order By)

Order By:全局排序,只有一个 Reducer
1)使用 ORDER BY 子句排序
ASCascend): 升序(默认)
DESCdescend): 降序
2)ORDER BY 子句在 SELECT 语句的结尾
3)案例实操
(1)查询员工信息按工资升序排列

hive (default)> select * from emp order by sal; 	

(2)查询员工信息按工资降序排列

hive (default)> select * from emp order by sal desc; 

二、按照别名排序

按照员工薪水的 2 倍排序

hive (default)> select ename, sal*2 twosal from emp order by twosal; 

三、多个列排序

按照部门和工资升序排序

hive (default)> select ename, deptno, sal from emp order by deptno, sal; 	

四、每个 Reduce 内部排序(Sort By)

Sort By:对于大规模的数据集 order by 的效率非常低。在很多情况下,并不需要全局排 序,此时可以使用 sort by。
Sort by 为每个 reducer产生一个排序文件。每个Reducer内部进行排序,对全局结果集 来说不是排序。
1)设置 reduce 个数

hive (default)> set mapreduce.job.reduces=3; 	

2)查看设置 reduce 个数

hive (default)> set mapreduce.job.reduces; 	

3)根据部门编号降序查看员工信息

hive (default)> select * from emp sort by deptno desc; 	

4)将查询结果导入到文件中(按照部门编号降序排序)

hive (default)> insert overwrite local directory '/opt/module/data/sortby-result'
select * from emp sort by deptno desc;

五、分区排序(Distribute By)

Distribute By: 在有些情况下,我们需要控制某个特定行应该到哪个 reducer,通常是为了进行后续的聚集操作。distribute by 子句可以做这件事。distribute by 类似 MR 中 partition(自定义分区),进行分区,结合 sort by 使用。
对于 distribute by 进行测试,一定要分配多 reduce进行处理,否则无法看到 distribute by 的效果。

先按照部门编号分区,再按照员工编号降序排序:

hive (default)> set mapreduce.job.reduces=3;
 hive (default)> insert overwrite local directory '/opt/module/data/distribute-result' select * from emp distribute by deptno sort by empno desc;

注意:

  • distribute by 的分区规则是根据分区字段的 hash 码与 reduce 的个数进行模除后, 余数相同的分到一个区。
  • Hive 要求DISTRIBUTE BY语句要写在 SORT BY 语句之前。

六、Cluster By

distribute bysort by 字段相同时,可以使用 cluster by 方式。
cluster by 除了具有 distribute by 的功能外还兼具 sort by的功能。但是排序只能是升序排序,不能指定排序规则为 ASC 或者 DESC
以下两种写法等价

hive (default)> select * from emp cluster by deptno;
hive (default)> select * from emp distribute by deptno sort by deptno;

注意:按照部门编号分区,不一定就是固定死的数值,可以是 20 号和 30 号部门分到一 个分区里面去。

你可能感兴趣的:(大数据,hive,big,data,java,hadoop)