IT评测·应用市场-qidao123.com技术社区

标题: Hive的4种排序 [打印本页]

作者: 小秦哥    时间: 2023-3-4 16:08
标题: Hive的4种排序
1、全局排序(Order by)

 
功能:全局排序,只有1个reducer(用1个Reduce Task完成全局排序,与设置的Reduce Task个数无关)
参数:ASC:升序(默认)  DESC:降序
使用:order by放在select语句的结尾
例如:
  --查询员工信息按工资降序排列
  select * from emp order by sal DESC;
 
2、每个MapReduce内部排序(Sort by)

 
功能:很多情况下不需要全局排序,此时可以使用sort by。sort by为每个reducer产生一个排序文件,每个reducer内部进行排序,不对全局结果集进行排序
参数:设置reduce个数:set mapreduce.job.reduces=3;
例如:  
  --根据部门编号降序查看员工信息
  select * from emp sort by deptno desc;  
 
3、分区排序(Distribute by)

 
功能:类似mr中的自定义分区
使用:结合sort by使用,写在sort by语句之前
分区规则:根据分区字段的Hash码与reduce的个数进行模除后,余数相同的分到一个区
例如:
  --先按照部门编号分区,再按照员工编号降序排序。
   select * from emp distribute by deptno sort by empno desc;
 
4、Cluster by

 
功能:当distribute by和sorts by字段相同时,可以使用cluster by方式
使用:cluster by除了具有distribute by的功能外还兼具sort by的功能。但是排序只能是升序排序,不能指定排序规则为ASC或者DESC
例如:
  --以下两种写法等价
  select * from emp cluster by deptno;
  select * from emp distribute by deptno sort by deptno;
 

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!




欢迎光临 IT评测·应用市场-qidao123.com技术社区 (https://dis.qidao123.com/) Powered by Discuz! X3.4