Hive 重复数据去重

hive中去重的代码：

insert overwrite table store
  select t.p_key,t.sort_word from
    ( select p_key,
           sort_word ,
           row_number()over(distribute by p_key sort by sort_word) as rn
     from store) t
     where t.rn=1;

 

Hive上一个典型表内除重的写法， p_key为除重依据， sort_word 为排序依据，一般为时间   rn为排名。 这里就留下第一名

参考地址：http://blog.csdn.net/limao314/article/details/14126391