hive窗口函数使用详解

ntile

  • 用于将分组数据按照顺序切分成n片,返回当前记录所在的切片值。
  • 经常用来取前30% 带有百分之多少比例的记录什么的

注意:

NTILE不支持ROWS BETWEEN,比如 NTILE(2) OVER(PARTITION BY id ORDER BY mod_date ROWS BETWEEN 3 PRECEDING AND CURRENT ROW)

实例:

select *,ntile(3) over(partition by id order by mod_date) from t0411;

hive窗口函数使用详解_第1张图片

collect_set

求多行的集合

实例:

select 
    id, 
    mod_date,
    src,
    cur,
    row_number() over(partition by id order by mod_date asc) as num,--使集合有序
    collect_set(src) over(partition by id order by mod_date asc ) as srcs1,
    collect_set(cur) over(partition by id ) as srcs2
from db01.t0411

hive窗口函数使用详解_第2张图片

rows

rows函数:
current row:当前行
n PRECEDING:往前n行
n FOLLOWING:往后n行
UNBOUNDED:起点
UNBOUNDED PRECEDING:从前面起点
UNBOUNDED FOLLOWING:到后面终点
LAG(col,n):往前的第n行
LEAD(col,n):往后的第n行

实例1:

-- 计算每个id从开始到当前时间的总的修改次数
-- 参数讲解
-- partition by id:按照id分组
-- order by mod_date:按照日期进行排序
-- UNBOUNDED PRECEDING:从起点开始
-- CURRENT ROW:到当前行
select 
    *,
   count(id) over(partition by id order by mod_date rows between UNBOUNDED PRECEDING and CURRENT ROW) 
from t0411;

hive窗口函数使用详解_第3张图片实例2:
与collet_set实例效果一样,但更简洁

-- 计算每个id从开始到终点的集合
-- 参数讲解
-- partition by id:按照id分组
-- order by mod_date:按照日期进行排序
-- UNBOUNDED PRECEDING:从起点开始
-- UNBOUNDED FOLLOWING:到终点
select 
    *,
   collect_set(src) over(partition by id order by mod_date asc rows between UNBOUNDED PRECEDING and CURRENT ROW),
   collect_set(src) over(partition by id order by mod_date asc rows between UNBOUNDED PRECEDING and UNBOUNDED FOLLOWING)
from t0411;

hive窗口函数使用详解_第4张图片

实例2:

-- 计算相邻三行的值(第一行计算当前行 + 后一行; 最后一行计算当前行 + 前一行)
-- 参数讲解
-- order by mod_date:按照日期进行排序
-- 1 preceding:当前行的前1行
-- 1 following:当前行的后一行
select 
    *,
    count(id) over(order by mod_date rows between 1 preceding and 1 following) 
from t0411;

hive窗口函数使用详解_第5张图片
实例3:

-- 查询顾客修改时间,以及下次修改时间(电商网站常用于求页面跳转的前后时间)
-- 参数详解:
-- partition by name:按照姓名分组
-- order by mod_date:按照时间排序
-- lag(mod_date,1):返回当前mod_date行的前一行
-- lead(mod_date,1):返回当前mod_date行的后一行
select 
    *,
    lag(mod_date,1) over(partition by id order by mod_date) ,
    lead(mod_date,1) over(partition by id order by mod_date) 
from t0411;

hive窗口函数使用详解_第6张图片
测试数据见另一篇博客

你可能感兴趣的:(hive,hive)