年少而无为

Hive窗口函数 over()

有以下数据：

Jack,2017-01-01,10
Tony,2017-01-02,15
Jack,2017-02-03,23
Tony,2017-01-04,29
Jack,2017-01-05,46
Jack,2017-04-06,42
Tony,2017-01-07,50
Jack,2017-01-08,55
Mark,2017-04-08,62
Mart,2017-04-09,68
Meil,2017-05-10,12
Mart,2017-04-11,75
Meil,2017-06-12,80
Mart,2017-04-13,94

需求：

1、查询2017-04购买的顾客总人数

2、顾客购买明细及月份总额

3、上述场景，将cost按日期累加

4、查询顾客上次购买时间

5、查询前20%购买的订单信息

一、建表并导入数据：

-- 建表
create table business(
    name string,
    orderdate string,
    cost int)
row format delimited
fields terminated by ",";

--导入数据
load data local inpath "/usr/local/src/test4/hive/business.txt" into table business;

查询表：

二、需求分析

1、查询2017-04购买的顾客总人数

a、首先想到使用聚合函数count()

-- 先求出2017-04这月一共有多少条记录
select count(*) from business where substr(orderdate,1,7) = "2017-04";

res：
+------+--+
| _c0  |
+------+--+
| 5    |
+------+--+

b、现在按照顾客进行分组

select name,count(*) from business where substr(orderdate,1,7) = "2017-04" group by name;

res：
+-------+------+--+
| name  | _c1  |
+-------+------+--+
| Jack  | 1    |
| Mark  | 1    |
| Mart  | 3    |
+-------+------+--+

数据被分成了三组：

使用over()函数：over只对聚合函数起作用，count分别对上面三个组内进行计数，over统计一共有多少个组(有一个count进行累加一次)

select name,count(*) over() total_num from business where substr(orderdate,1,7) = "2017-04" group by name;

res:
+-------+------------+--+
| name  | total_num  |
+-------+------------+--+
| Mart  | 3          |
| Mark  | 3          |
| Jack  | 3          |
+-------+------------+--+

2.查询顾客购买明细及月份总额

a、首先选出所有明细信息：

select * from business;

res:
+----------------+---------------------+----------------+--+
| business.name  | business.orderdate  | business.cost  |
+----------------+---------------------+----------------+--+
| Jack           | 2017-01-01          | 10             |
| Tony           | 2017-01-02          | 15             |
| Jack           | 2017-02-03          | 23             |
| Tony           | 2017-01-04          | 29             |
| Jack           | 2017-01-05          | 46             |
| Jack           | 2017-04-06          | 42             |
| Tony           | 2017-01-07          | 50             |
| Jack           | 2017-01-08          | 55             |
| Mark           | 2017-04-08          | 62             |
| Mart           | 2017-04-09          | 68             |
| Meil           | 2017-05-10          | 12             |
| Mart           | 2017-04-11          | 75             |
| Meil           | 2017-06-12          | 80             |
| Mart           | 2017-04-13          | 94             |
+----------------+---------------------+----------------+--+

b、求总额：(这是所有数据的总和，因为没有分组(group by)，所以over()的针对的是每一条数据)

select *, sum(cost) over() from business; 

res：
+----------------+---------------------+----------------+---------------+--+
| business.name  | business.orderdate  | business.cost  | sum_window_0  |
+----------------+---------------------+----------------+---------------+--+
| Mart           | 2017-04-13          | 94             | 661           |
| Meil           | 2017-06-12          | 80             | 661           |
| Mart           | 2017-04-11          | 75             | 661           |
| Meil           | 2017-05-10          | 12             | 661           |
| Mart           | 2017-04-09          | 68             | 661           |
| Mark           | 2017-04-08          | 62             | 661           |
| Jack           | 2017-01-08          | 55             | 661           |
| Tony           | 2017-01-07          | 50             | 661           |
| Jack           | 2017-04-06          | 42             | 661           |
| Jack           | 2017-01-05          | 46             | 661           |
| Tony           | 2017-01-04          | 29             | 661           |
| Jack           | 2017-02-03          | 23             | 661           |
| Tony           | 2017-01-02          | 15             | 661           |
| Jack           | 2017-01-01          | 10             | 661           |
+----------------+---------------------+----------------+---------------+--+

c、针对四月份的数据，我们需要进行求总额，

思路：分区或者分组，但是使用group by date，只能查询date，(select date ,name group by date)其它字段不能查询

解决：使用窗口函数，并对窗口函数进行分区over(distribute by()) 或者over(partition by())

select *,sum(cost) over(distribute by month(orderdate)) from business;

res：
+----------------+---------------------+----------------+---------------+--+
| business.name  | business.orderdate  | business.cost  | sum_window_0  |
+----------------+---------------------+----------------+---------------+--+
| Jack           | 2017-01-01          | 10             | 205           |
| Jack           | 2017-01-08          | 55             | 205           |
| Tony           | 2017-01-07          | 50             | 205           |
| Jack           | 2017-01-05          | 46             | 205           |
| Tony           | 2017-01-04          | 29             | 205           |
| Tony           | 2017-01-02          | 15             | 205           |
| Jack           | 2017-02-03          | 23             | 23            |
| Mart           | 2017-04-13          | 94             | 341           |
| Jack           | 2017-04-06          | 42             | 341           |
| Mart           | 2017-04-11          | 75             | 341           |
| Mart           | 2017-04-09          | 68             | 341           |
| Mark           | 2017-04-08          | 62             | 341           |
| Meil           | 2017-05-10          | 12             | 12            |
| Meil           | 2017-06-12          | 80             | 80            |
+----------------+---------------------+----------------+---------------+--+

3、上述场景，将cost按时间累加

分析：

a、先按照购买时间进行排序

select * from business sort by orderdate;

res：
+----------------+---------------------+----------------+--+
| business.name  | business.orderdate  | business.cost  |
+----------------+---------------------+----------------+--+
| Jack           | 2017-01-01          | 10             |
| Tony           | 2017-01-02          | 15             |
| Tony           | 2017-01-04          | 29             |
| Jack           | 2017-01-05          | 46             |
| Tony           | 2017-01-07          | 50             |
| Jack           | 2017-01-08          | 55             |
| Jack           | 2017-02-03          | 23             |
| Jack           | 2017-04-06          | 42             |
| Mark           | 2017-04-08          | 62             |
| Mart           | 2017-04-09          | 68             |
| Mart           | 2017-04-11          | 75             |
| Mart           | 2017-04-13          | 94             |
| Meil           | 2017-05-10          | 12             |
| Meil           | 2017-06-12          | 80             |
+----------------+---------------------+----------------+--+

-- 参数讲解
    -- sort by orderdate：按照购买日期进行排序
    -- UNBOUNDED PRECEDING：从起点开始
    -- CURRENT ROW：到当前行
-- 计算从开始到当前时间的总花费

select *,sum(cost) over(sort by orderdate rows between UNBOUNDED PRECEDING and CURRENT 
ROW) from business;

res：
+----------------+---------------------+----------------+---------------+--+
| business.name  | business.orderdate  | business.cost  | sum_window_0  |
+----------------+---------------------+----------------+---------------+--+
| Jack           | 2017-01-01          | 10             | 10            |
| Tony           | 2017-01-02          | 15             | 25            |
| Tony           | 2017-01-04          | 29             | 54            |
| Jack           | 2017-01-05          | 46             | 100           |
| Tony           | 2017-01-07          | 50             | 150           |
| Jack           | 2017-01-08          | 55             | 205           |
| Jack           | 2017-02-03          | 23             | 228           |
| Jack           | 2017-04-06          | 42             | 270           |
| Mark           | 2017-04-08          | 62             | 332           |
| Mart           | 2017-04-09          | 68             | 400           |
| Mart           | 2017-04-11          | 75             | 475           |
| Mart           | 2017-04-13          | 94             | 569           |
| Meil           | 2017-05-10          | 12             | 581           |
| Meil           | 2017-06-12          | 80             | 661           |
+----------------+---------------------+----------------+---------------+--+

row函数：

current row：当前行

n PRECEDING：往前n行

n FOLLOWING：往后n行

UNBOUNDED：起点

UNBOUNDED PRECEDING：从前面起点

UNBOUNDED FOLLOWING：到后面终点

LAG(col,n)：往前的第n行

LEAD(col,n)：往后的第n行

--参数讲解
    -- sort by orderdate：按照时间排序
    -- 1 preceding：当前行的前1行
    -- 1 following：当前行的后一行
-- 计算相邻三行的值(第一行计算当前行 + 后一行；  最后一行计算当前行 + 前一行)
select *,sum(cost) over(sort by orderdate rows between 1 preceding and 1 following) from business;

res：
+----------------+---------------------+----------------+---------------+--+
| business.name  | business.orderdate  | business.cost  | sum_window_0  |
+----------------+---------------------+----------------+---------------+--+
| Jack           | 2017-01-01          | 10             | 25            |
| Tony           | 2017-01-02          | 15             | 54            |
| Tony           | 2017-01-04          | 29             | 90            |
| Jack           | 2017-01-05          | 46             | 125           |
| Tony           | 2017-01-07          | 50             | 151           |
| Jack           | 2017-01-08          | 55             | 128           |
| Jack           | 2017-02-03          | 23             | 120           |
| Jack           | 2017-04-06          | 42             | 127           |
| Mark           | 2017-04-08          | 62             | 172           |
| Mart           | 2017-04-09          | 68             | 205           |
| Mart           | 2017-04-11          | 75             | 237           |
| Mart           | 2017-04-13          | 94             | 181           |
| Meil           | 2017-05-10          | 12             | 186           |
| Meil           | 2017-06-12          | 80             | 92            |
+----------------+---------------------+----------------+---------------+--+

demo2：

-- 参数详解：
    -- distribute by name：按名字进行分区
    --  sort by orderdate：在每个分区中按照时间进行排序
    --  UNBOUNDED PRECEDING and current row：从起点行到当前行
-- 计算每个人一共的总花费

select *,sum(cost) over(distribute by name sort by orderdate rows between UNBOUNDED PRECEDING and current row) from business;

res：
+----------------+---------------------+----------------+---------------+--+
| business.name  | business.orderdate  | business.cost  | sum_window_0  |
+----------------+---------------------+----------------+---------------+--+
| Jack           | 2017-01-01          | 10             | 10            |
| Jack           | 2017-01-05          | 46             | 56            |
| Jack           | 2017-01-08          | 55             | 111           |
| Jack           | 2017-02-03          | 23             | 134           |
| Jack           | 2017-04-06          | 42             | 176           |
| Mark           | 2017-04-08          | 62             | 62            |
| Mart           | 2017-04-09          | 68             | 68            |
| Mart           | 2017-04-11          | 75             | 143           |
| Mart           | 2017-04-13          | 94             | 237           |
| Meil           | 2017-05-10          | 12             | 12            |
| Meil           | 2017-06-12          | 80             | 92            |
| Tony           | 2017-01-02          | 15             | 15            |
| Tony           | 2017-01-04          | 29             | 44            |
| Tony           | 2017-01-07          | 50             | 94            |
+----------------+---------------------+----------------+---------------+--+

demo3：

--参数讲解：
    -- sort by orderdate：按照时间排序
    -- current row and unbounded following：当前行到终点行

select *,sum(cost) over(sort by orderdate rows between current row and unbounded following) from business;

res：
+----------------+---------------------+----------------+---------------+--+
| business.name  | business.orderdate  | business.cost  | sum_window_0  |
+----------------+---------------------+----------------+---------------+--+
| Jack           | 2017-01-01          | 10             | 661           |
| Tony           | 2017-01-02          | 15             | 651           |
| Tony           | 2017-01-04          | 29             | 636           |
| Jack           | 2017-01-05          | 46             | 607           |
| Tony           | 2017-01-07          | 50             | 561           |
| Jack           | 2017-01-08          | 55             | 511           |
| Jack           | 2017-02-03          | 23             | 456           |
| Jack           | 2017-04-06          | 42             | 433           |
| Mark           | 2017-04-08          | 62             | 391           |
| Mart           | 2017-04-09          | 68             | 329           |
| Mart           | 2017-04-11          | 75             | 261           |
| Mart           | 2017-04-13          | 94             | 186           |
| Meil           | 2017-05-10          | 12             | 92            |
| Meil           | 2017-06-12          | 80             | 80            |
+----------------+---------------------+----------------+---------------+--+

四、查询顾客上次购买时间，以及下次购买时间(电商网站常用于求页面跳转的前后时间)

分析：lag(clo,n)：返回的是当前行的第前n行

-- 参数详解：
    -- distribute by name：按照姓名分组
    -- sort by orderdate：按照时间排序
    -- lag(orderdate,1)：返回当前orderdate行的前一行
    -- lead(orderdate,1)：返回当前orderdate行的后一行

select *,
    lag(orderdate,1) over(distribute by name sort by orderdate),
    lead(orderdate,1) over(distribute by name sort by orderdate)
from business;

res：
+----------------+---------------------+----------------+---------------+----------------+--+
| business.name  | business.orderdate  | business.cost  | lag_window_0  | lead_window_1  |
+----------------+---------------------+----------------+---------------+----------------+--+
| Jack           | 2017-01-01          | 10             | NULL          | 2017-01-05     |
| Jack           | 2017-01-05          | 46             | 2017-01-01    | 2017-01-08     |
| Jack           | 2017-01-08          | 55             | 2017-01-05    | 2017-02-03     |
| Jack           | 2017-02-03          | 23             | 2017-01-08    | 2017-04-06     |
| Jack           | 2017-04-06          | 42             | 2017-02-03    | NULL           |
| Mark           | 2017-04-08          | 62             | NULL          | NULL           |
| Mart           | 2017-04-09          | 68             | NULL          | 2017-04-11     |
| Mart           | 2017-04-11          | 75             | 2017-04-09    | 2017-04-13     |
| Mart           | 2017-04-13          | 94             | 2017-04-11    | NULL           |
| Meil           | 2017-05-10          | 12             | NULL          | 2017-06-12     |
| Meil           | 2017-06-12          | 80             | 2017-05-10    | NULL           |
| Tony           | 2017-01-02          | 15             | NULL          | 2017-01-04     |
| Tony           | 2017-01-04          | 29             | 2017-01-02    | 2017-01-07     |
| Tony           | 2017-01-07          | 50             | 2017-01-04    | NULL           |
+----------------+---------------------+----------------+---------------+----------------+--+

5、查询前20%购买的订单信息

分析：可以按照时间分成五等份，然后返回其中的第一份

NTILE(n)：将数据等分成n份

select *, ntile(5) over(sort by orderdate) from business;

+----------------+---------------------+----------------+---------+--+
| business.name  | business.orderdate  | business.cost  | sorted  |
+----------------+---------------------+----------------+---------+--+
| Jack           | 2017-01-01          | 10             | 1       |
| Tony           | 2017-01-02          | 15             | 1       |
| Tony           | 2017-01-04          | 29             | 1       |
| Jack           | 2017-01-05          | 46             | 2       |
| Tony           | 2017-01-07          | 50             | 2       |
| Jack           | 2017-01-08          | 55             | 2       |
| Jack           | 2017-02-03          | 23             | 3       |
| Jack           | 2017-04-06          | 42             | 3       |
| Mark           | 2017-04-08          | 62             | 3       |
| Mart           | 2017-04-09          | 68             | 4       |
| Mart           | 2017-04-11          | 75             | 4       |
| Mart           | 2017-04-13          | 94             | 4       |
| Meil           | 2017-05-10          | 12             | 5       |
| Meil           | 2017-06-12          | 80             | 5       |
+----------------+---------------------+----------------+---------+--+

-- 下面语句报错，因为 ntile、sum、agg等函数不能放在where后面当做查询条件
select *, ntile(5) over(sort by orderdate) as sorted from business where sorted = 1;

-- 下面语句报错，因为having必须跟在group by 语句后面
select *, ntile(5) over(sort by orderdate) as sorted from business having sorted = 1;


-- 所以使用了子查询，将上一步查询的结果放在子句中
select name,orderdate,cost from (
    select *,ntile(5) over(order by orderdate) sorted from business
) t
where sorted = 1;
-- Tips：子查询不能使用select *

+---------+--------------+---------+-----------+--+
| t.name  | t.orderdate  | t.cost  | t.sorted  |
+---------+--------------+---------+-----------+--+
| Jack    | 2017-01-01   | 10      | 1         |
| Tony    | 2017-01-02   | 15      | 1         |
| Tony    | 2017-01-04   | 29      | 1         |
+---------+--------------+---------+-----------+--+

nosql数据库技术与应用知识点皆过客，揽星河 NoSQL nosql 数据库大数据数据分析数据结构非关系型数据库
Nosql知识回顾大数据处理流程数据采集(flume、爬虫、传感器)数据存储(本门课程NoSQL所处的阶段)Hdfs、MongoDB、HBase等数据清洗(入仓)Hive等数据处理、分析(Spark、Flink等)数据可视化数据挖掘、机器学习应用(Python、SparkMLlib等)大数据时代存储的挑战(三高)高并发(同一时间很多人访问)高扩展(要求随时根据需求扩展存储)高效率(要求读写速度快)
浅谈MapReduce Android路上的人 Hadoop 分布式计算 mapreduce 分布式框架 hadoop
从今天开始，本人将会开始对另一项技术的学习，就是当下炙手可热的Hadoop分布式就算技术。目前国内外的诸多公司因为业务发展的需要，都纷纷用了此平台。国内的比如BAT啦，国外的在这方面走的更加的前面，就不一一列举了。但是Hadoop作为Apache的一个开源项目，在下面有非常多的子项目，比如HDFS，HBase,Hive，Pig,等等，要先彻底学习整个Hadoop，仅仅凭借一个的力量，是远远不够的。
Presto【基础 01】简介+架构+数据源+数据模型 2401_84254343 程序员架构
一个Catalog包含Schema和Connector。例如，配置JMX的Catalog，通过JXMConnector访问JXM信息。当执行一条SQL语句时，可以同时运行在多个Catalog。Presto处理table时，是通过表的完全限定（fully-qualified）名来找到Catalog。例如，一个表的权限定名是hive.test_data.test，则test是表名，test_data是
大数据毕业设计hadoop+spark+hive知识图谱租房数据分析可视化大屏租房推荐系统 58同城租房爬虫房源推荐系统房价预测系统计算机毕业设计机器学习深度学习人工智能 2401_84572577 程序员大数据 hadoop 人工智能
做了那么多年开发，自学了很多门编程语言，我很明白学习资源对于学一门新语言的重要性，这些年也收藏了不少的Python干货，对我来说这些东西确实已经用不到了，但对于准备自学Python的人来说，或许它就是一个宝藏，可以给你省去很多的时间和精力。别在网上瞎学了，我最近也做了一些资源的更新，只要你是我的粉丝，这期福利你都可拿走。我先来介绍一下这些东西怎么用，文末抱走。（1）Python所有方向的学习路线（
大数据之flink与hive 星辰_mya 大数据 flink hive
其实吧我不太想写flink，因为线上经验确实不多，这也是我需要补的地方，没有条件创造条件，先来一篇吧flink：高性能低延迟流批一体的分布式计算框架基于事件时间对实时数据精准处理快速响应支持批处理，高效离线分析和数据挖掘数据仓库的引擎丰富数据源/接收器，集成多种数据存储格式和源，比较常见就是咱们今天的主题hive了checkpoint恢复机制，故障恢复快速恢复计算任务分布式弹性扩展，据业务灵活增加
hive血缘关系之输入表与目标表的解析 zxfBdd hive 大数据治理大数据
接了一个新需求：需要做数据仓库的血缘关系。正所谓兵来将挡水来土掩，那咱就动手吧。血缘关系是数据治理的一块，其实有专门的第三方数据治理框架，但考虑到目前的线上环境已经趋于稳定，引入新的框架无疑是劳民伤财，伤筋动骨，所以就想以最小的代价把这个事情给做了。目前我们考虑做的血缘关系呢只是做输入表和输出表，最后会形成一张表与表之间的链路图。这个东西的好处就是有助于仓库人员梳理业务，后面可能还会做字段之间的血
初级练习[3]:Hive SQL子查询应用大数据深度洞察 Hive hive sql hadoop 数据仓库大数据数据库
目录环境准备看如下链接子查询查询所有课程成绩均小于60分的学生的学号、姓名查询没有学全所有课的学生的学号、姓名解释：没有学全所有课，也就是该学生选修的课程数<总的课程数。查询出只选修了三门课程的全部学生的学号和姓名环境准备看如下链接环境准备https://blog.csdn.net/qq_45115959/article/details/142057624?spm=1001.2014.3001.5
Linux下载压缩包：tar.gz、zip、tar.bz2格式全攻略 promise524 Linux linux 运维服务器后端 bash shell
在Linux中，下载各种格式的压缩包（如.tar.gz、.zip、.tar.bz2等）通常使用命令行工具如wget和curl。1.使用wget下载压缩包wget是Linux中最常用的文件下载工具，支持HTTP、HTTPS、FTP等协议，可以直接从命令行下载文件。基本命令：wget[URL]下载.tar.gz文件wgethttps://test.com/archive.tar.gz此命令将从指定的U
Anaconda版本和Python版本对应关系纬领网络 python anaconda3
官网下载地址：https://repo.anaconda.com/archive/下载地址：https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/anaconda3版本基础python版本Anaconda3-2024.06-1Python3.12.4Anaconda3-2024.02-1Python3.11.7Anaconda3-2023.09
R语言包AMORE安装报错问题以及RStudio与Rtools环境配置卡卡_R-Python R语言数据分析与可视化 r语言开发语言
在使用R语言进行AMORE安装时会遇到报错，这时候需要采用解决办法：'''AMORE包安装，需要离线官网下载安装包：Indexof/src/contrib/Archive/AMORE(r-project.org)https://cran.r-project.org/src/contrib/Archive/AMORE/一、出现的问题最近开始学习R语言，安装了最新版的R4.4.1和RStudio，但安
中级练习[3]：Hive SQL用户行为与商品销售数据分析大数据深度洞察 Hive hive 数据仓库大数据 sql
目录1.用户累计消费金额及VIP等级查询1.1题目需求1.2代码实现2.首次下单后第二天连续下单的用户比率查询2.1题目需求2.2代码实现3.每个商品销售首年的年份、销售数量和销售金额统计3.1题目需求3.2代码实现1.用户累计消费金额及VIP等级查询1.1题目需求从订单信息表(order_info)中统计每个用户截止其每个下单日期的累积消费金额，以及每个用户在其每个下单日期的VIP等级。VIP等
Python基础知识进阶之正则表达式_头歌python正则表达式进阶前端陈萨龙程序员 python 学习面试
最后硬核资料：关注即可领取PPT模板、简历模板、行业经典书籍PDF。技术互助：技术群大佬指点迷津，你的问题可能不是问题，求资源在群里喊一声。面试题库：由技术群里的小伙伴们共同投稿，热乎的大厂面试真题，持续更新中。知识体系：含编程语言、算法、大数据生态圈组件（Mysql、Hive、Spark、Flink）、数据仓库、Python、前端等等。网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是
编程常用命令总结 Yellow0523 Linux BigData 大数据
编程命令大全1.软件环境变量的配置JavaScalaSparkHadoopHive2.大数据软件常用命令Spark基本命令Spark-SQL命令Hive命令HDFS命令YARN命令Zookeeper命令kafka命令Hibench命令MySQL命令3.Linux常用命令Git命令conda命令pip命令查看Linux系统的详细信息查看Linux系统架构(X86还是ARM，两种方法都可)端口号命令L
博客园怎么了？ YYH1992
新年好，给大家拜个早年！今年来到安徽过年，无聊中，不知不觉中又来到博客园了（忠实粉丝哦），却发现一件奇怪的事情，请看截图难道博客园被挂马了？抑或其它问题？如果真有问题，还请dudu抓紧时间修正，免得影响我们园子的声誉！我要下线了，出去买回家的车票了，只能年后回家了。。。转载于:https://www.cnblogs.com/HollisYao/archive/2008/02/06/1065351.
linux下文件的复制、移动与删除搬砖中年人
一、文件复制命令cp命令格式：cp[-adfilprsu]源文件(source)目标文件(destination)cp[option]source1source2source3...directory参数说明：-a:是指archive的意思，也说是指复制所有的目录-d:若源文件为连接文件(linkfile)，则复制连接文件属性而非文件本身-f:强制(force)，若有重复或其它疑问时，不会询问用户
2024年最全使用Python求解方程_python解方程(1)，字节面试官迟到 2401_84569545 程序员 python 学习面试
最后硬核资料：关注即可领取PPT模板、简历模板、行业经典书籍PDF。技术互助：技术群大佬指点迷津，你的问题可能不是问题，求资源在群里喊一声。面试题库：由技术群里的小伙伴们共同投稿，热乎的大厂面试真题，持续更新中。知识体系：含编程语言、算法、大数据生态圈组件（Mysql、Hive、Spark、Flink）、数据仓库、Python、前端等等。网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是
兼容 Trino Connector，扩展 Apache Doris 数据源接入能力｜Lakehouse 使用手册 vvvae1234 apache
ApacheDoris内置支持包括Hive、Iceberg、Hudi、Paimon、LakeSoul、JDBC在内的多种Catalog，并为其提供原生高性能且稳定的访问能力，以满足与数据湖的集成需求。而随着ApacheDoris用户的增加，新的数据源连接需求也随之增加。因此，从3.0版本开始，ApacheDoris引入了TrinoConnector兼容框架。Trino/Presto作为业界较早应用
SAP HANA makaitai BW sap 数据库工具报表 layer 服务器
原文地址：http://LiuAlex.com/archives/1776也是刚刚开始学习HANA的一些知识，一边看书一遍做笔记，说到底无非是用自己的语言来理解标准帮组文档所讲解的意思，肯定有理解失误的地方，毕竟没有参加过标准培训，即使有培训，从老师那边来的知识也不可能是完整的传授过来，中间多少的知识遗漏是正常的，所以多看看HELP的文档，应该可以原汁原味的理解作者的意思。这张图片是从SAPHAN
Hive SQL查询汇总分析大数据深度洞察 Hive hive sql hadoop 数据仓库数据库大数据
目录SQL查询汇总分析成绩查询查询编号为“02”的课程的总成绩查询参加考试的学生个数分组查询查询各科成绩最高和最低的分查询每门课程有多少学生参加了考试（有考试成绩）查询男生、女生人数分组结果的条件查询平均成绩大于60分的学生的学号和平均成绩查询至少选修四门课程的学生学号查询同姓（假设每个学生姓名的第一个字为姓）的学生名单并统计同姓人数大于2的姓查询每门课程的平均成绩，结果按平均成绩升序排序，平均成
RMAN-08137 rman delete archivelog force jnrjian 数据库 oracle
deleteforcearchiveloguntiltime'trunc(sysdate-4)'backedup1timestodevicetypedisk;SymptomsDatabaseAClonedtoDatabaseBonCloneserver.GoldenGateisConfiguredonSourcedatbaseA.DatabaseBwhichisclonedfromSourcedo
hive表格统计信息不准确 weixin_41956627 hive hive hadoop 数据仓库
问题描述有个hive分区表，orc存储格式，有个分区，查询selectcount(1)fromtablewheredt='yyyyMMdd'结果是0，但查询select*fromtablewheredt='yyyyMMdd'又能查到数据，去hdfs对应目录下查看，也能看到有数据文件解决执行如下sqlANALYZETABLEdb.table1PARTITION(dt='20240908')COMPU
Conda创建环境失败：000和404错误柚柚柚柚柚 conda
一、首先下载Anaconda1.打开网址Indexof/anaconda/archive/|清华大学开源软件镜像站|TsinghuaOpenSourceMirror，滑到最底部，下载Anaconda3-5.3.1-Linux-x86_64.sh。2.使用winscp拖动本地的Anaconda3-5.3.1-Linux-x86_64.sh到服务器的个人工作目录下。二、安装Anaconda软件，创建虚
C#中两个问号的含义 weixin_30363981 测试
stringstrParam=Request.Params["param"]??"";取??左边的值,如果??左边的值为null则取右边的值转载于:https://www.cnblogs.com/shadowtale/archive/2012/10/19/2731152.html
如何下载各个版本的tomcat-比如tomcat9 耳边轻语999 tomcat java
1，找到tomcat官网https://tomcat.apache.org/ApacheTomcat®-Welcome!找到tomcat9，或者archives1.1，找到对应版本1.2，找到小版本1.3，找到bin2，Indexof/dist/tomcat/tomcat-9/v9.0.39/bin2.1，下载对应的解压版本或者安装版本
Percona-toolkit工具详解小一_d28d
1.pt工具安装[root@master~]#yuminstall-ypercona-toolkit-3.1.0-2.el7.x86_64.rpm2.常用工具使用介绍2.1pt-archiver归档表#重要参数--limit100每次取100行数据用pt-archive处理--txn-size100设置100行为一个事务提交一次，--where'id>/root/db/checksum.logpt
Ubuntu更换apt-get的下载源愤愤的有痣青年
将以下内容替换/etc/apt/sources.list中的内容deb-srchttp://archive.ubuntu.com/ubuntuxenialmainrestricted#Addedbysoftware-propertiesdebhttp://mirrors.aliyun.com/ubuntu/xenialmainrestricteddeb-srchttp://mirrors.aliy
apt 下载指定架构的包及离线安装的方法错误重复学习记录 linux
#设置系统架构sudodpkg--add-architectureamd64#安装apt-rdependssudoaptinstallapt-rdepends#创建单独的目录mkdir-p/home/apt/postgresql-client-common#仅下载安装包sudoapt-getinstall--download-onlysudomv/var/cache/apt/archives/*/
游戏运营环节的一些关键转化率 turtle081025 数据分析游戏网络游戏运营
转载于http://www.gamedatas.com/archives/134转化率这个指标在各行各业的数据分析中运用的非常之广泛，例如：电商中就会存在，点击到订单生成的一系列转化率，传统的销售行业也会在做广告的时候考虑该广告能够转化多少订单，而在游戏行业，转化率同样是一个不容忽视的指标。一般来说，游戏运营的过程中主要会关注到这些转化率：1.下载-安装（激活）转化率；2.安装（激活）-注册转化率
Python API操作RocketMQ 京城小筑 #Python编程 python
背景：开发背景:公司相关报表需求需要将订单业务数据同步至RocketMQ中，由于需要保证开发的一致性(多个部门协同开发)，所以采用读取Hive离线数据的方式通过PythonAPI写入RocketMQ中，便于其他开发同事调用~开发环境:本地调试系统MacPython3.7.5rocketmq0.4.4(Python模块)rocketmq-client-python2.0.0(Python模块)服务器
hive搭建 -----内嵌模式和本地模式 lzhlizihang hive hadoop
文章目录一、内嵌模式（使用较少）1、上传、解压、重命名2、配置环境变量3、配置conf下的hive-env.sh4、修改conf下的hive-site.xml5、启动hadoop集群6、给hdfs创建文件夹7、修改hive-site.xml中的非法字符8、初始化元数据9、测试是否成功10、内嵌模式的缺点二、本地模式（最常用）1、检查mysql是否正常2、上传、解压、重命名3、配置环境变量4、修改c
辗转相处求最大公约数沐刃青蛟 C++漏洞
无言面对”江东父老“了，接触编程一年了，今天发现还不会辗转相除法求最大公约数。惭愧惭愧！为此，总结一下以方便日后忘了好查找。 1.输入要比较的两个数a,b 忽略：2.比较大小（因为后面要的是大的数对小的数做%操作） 3.辗转相除（用循环不停的取余，如a%b,直至b=0） 4.最后的a为两数的最大公约数 &
F5负载均衡会话保持技术及原理技术白皮书 bijian1013 F5 负载均衡
一.什么是会话保持？在大多数电子商务的应用系统或者需要进行用户身份认证的在线系统中，一个客户与服务器经常经过好几次的交互过程才能完成一笔交易或者是一个请求的完成。由于这几次交互过程是密切相关的，服务器在进行这些交互过程的某一个交互步骤时，往往需要了解上一次交互过程的处理结果，或者上几步的交互过程结果，服务器进行下
Object.equals方法：重载还是覆盖 Cwind java generics override overload
本文译自StackOverflow上对此问题的讨论。原问题链接在阅读Joshua Bloch的《Effective Java（第二版）》第8条“覆盖equals时请遵守通用约定”时对如下论述有疑问： “不要将equals声明中的Object对象替换为其他的类型。程序员编写出下面这样的equals方法并不鲜见，这会使程序员花上数个小时都搞不清它为什么不能正常工作：” pu
初始线程 15700786134
暑假学习的第一课是讲线程，任务是是界面上的一条线运动起来。既然是在界面上，那必定得先有一个界面，所以第一步就是，自己的类继承JAVA中的JFrame，在新建的类中写一个界面，代码如下： public class ShapeFr
Linux的tcpdump 被触发 tcpdump
用简单的话来定义tcpdump，就是：dump the traffic on a network，根据使用者的定义对网络上的数据包进行截获的包分析工具。 tcpdump可以将网络中传送的数据包的“头”完全截获下来提供分析。它支持针对网络层、协议、主机、网络或端口的过滤，并提供and、or、not等逻辑语句来帮助你去掉无用的信息。实用命令实例默认启动 tcpdump 普通情况下，直
安卓程序listview优化后还是卡顿肆无忌惮_ ListView
最近用eclipse开发一个安卓app，listview使用baseadapter，里面有一个ImageView和两个TextView。使用了Holder内部类进行优化了还是很卡顿。后来发现是图片资源的问题。把一张分辨率高的图片放在了drawable-mdpi文件夹下，当我在每个item中显示，他都要进行缩放，导致很卡顿。解决办法是把这个高分辨率图片放到drawable-xxhdpi下。 &nb
扩展easyUI tab控件，添加加载遮罩效果知了ing jquery
(function () { $.extend($.fn.tabs.methods, { //显示遮罩 loading: function (jq, msg) { return jq.each(function () { var panel = $(this).tabs(&
gradle上传jar到nexus 矮蛋蛋 gradle
原文地址： https://docs.gradle.org/current/userguide/maven_plugin.html configurations { deployerJars } dependencies { deployerJars "org.apache.maven.wagon
千万条数据外网导入数据库的解决方案。 alleni123 sql mysql
从某网上爬了数千万的数据，存在文本中。然后要导入mysql数据库。悲剧的是数据库和我存数据的服务器不在一个内网里面。。 ping了一下， 19ms的延迟。于是下面的代码是没用的。 ps = con.prepareStatement(sql); ps.setString(1, info.getYear())............; ps.exec
JAVA IO InputStreamReader和OutputStreamReader 百合不是茶 JAVA.io操作字符流
这是第三篇关于java.io的文章了，从开始对io的不了解-->熟悉--->模糊，是这几天来对文件操作中最大的感受，本来自己认为的熟悉了的，刚刚在回想起前面学的好像又不是很清晰了，模糊对我现在或许是最好的鼓励我会更加的去学加油！： JAVA的API提供了另外一种数据保存途径，使用字符流来保存的，字符流只能保存字符形式的流字节流和字符的难点：a,怎么将读到的数据
MO、MT解读 bijian1013 GSM
MO= Mobile originate，上行，即用户上发给SP的信息。MT= Mobile Terminate，下行，即SP端下发给用户的信息；上行:mo提交短信到短信中心下行:mt短信中心向特定的用户转发短信，你的短信是这样的，你所提交的短信，投递的地址是短信中心。短信中心收到你的短信后，存储转发，转发的时候就会根据你填写的接收方号码寻找路由，下发。在彩信领域是一样的道理。下行业务：由SP
五个JavaScript基础问题 bijian1013 JavaScript call apply this Hoisting
下面是五个关于前端相关的基础问题，但却很能体现JavaScript的基本功底。问题1：Scope作用范围考虑下面的代码： (function() { var a = b = 5; })(); console.log(b); 什么会被打印在控制台上？回答：上面的代码会打印 5。 &nbs
【Thrift二】Thrift Hello World bit1129 Hello world
本篇，不考虑细节问题和为什么，先照葫芦画瓢写一个Thrift版本的Hello World，了解Thrift RPC服务开发的基本流程 1. 在Intellij中创建一个Maven模块，加入对Thrift的依赖，同时还要加上slf4j依赖，如果不加slf4j依赖，在后面启动Thrift Server时会报错 <dependency>
【Avro一】Avro入门 bit1129 入门
本文的目的主要是总结下基于Avro Schema代码生成，然后进行序列化和反序列化开发的基本流程。需要指出的是，Avro并不要求一定得根据Schema文件生成代码，这对于动态类型语言很有用。 1. 添加Maven依赖 <?xml version="1.0" encoding="UTF-8"?> <proj
安装nginx+ngx_lua支持WAF防护功能 ronin47
需要的软件:LuaJIT-2.0.0.tar.gz nginx-1.4.4.tar.gz &nb
java-5.查找最小的K个元素-使用最大堆 bylijinnan java
import java.util.Arrays; import java.util.Random; public class MinKElement { /** * 5.最小的K个元素 * I would like to use MaxHeap. * using QuickSort is also OK */ public static void
TCP的TIME-WAIT bylijinnan socket
原文连接： http://vincent.bernat.im/en/blog/2014-tcp-time-wait-state-linux.html 以下为对原文的阅读笔记说明：主动关闭的一方称为local end，被动关闭的一方称为remote end 本地IP、本地端口、远端IP、远端端口这一“四元组”称为quadruplet，也称为socket 1、TIME_WA
jquery ajax 序列化表单 coder_xpf Jquery ajax 序列化
checkbox 如果不设定值，默认选中值为on；设定值之后，选中则为设定的值 <input type="checkbox" name="favor" id="favor" checked="checked"/> $("#favor&quo
Apache集群乱码和最高并发控制 cuisuqiang apache tomcat 并发集群乱码
都知道如果使用Http访问，那么在Connector中增加URIEncoding即可，其实使用AJP时也一样，增加useBodyEncodingForURI和URIEncoding即可。最大连接数也是一样的，增加maxThreads属性即可，如下，配置如下： <Connector maxThreads="300" port="8019" prot
websocket dalan_123 websocket
一、低延迟的客户端-服务器和服务器-客户端的连接很多时候所谓的http的请求、响应的模式，都是客户端加载一个网页，直到用户在进行下一次点击的时候，什么都不会发生。并且所有的http的通信都是客户端控制的，这时候就需要用户的互动或定期轮训的，以便从服务器端加载新的数据。通常采用的技术比如推送和comet（使用http长连接、无需安装浏览器安装插件的两种方式：基于ajax的长
菜鸟分析网络执法官 dcj3sjt126com 网络
最近在论坛上看到很多贴子在讨论网络执法官的问题。菜鸟我正好知道这回事情.人道"人之患好为人师" 手里忍不住,就写点东西吧. 我也很忙.又没有MM,又没有MONEY....晕倒有点跑题. OK,闲话少说,切如正题. 要了解网络执法官的原理. 就要先了解局域网的通信的原理. 前面我们看到了.在以太网上传输的都是具有以太网头的数据包.
Android相对布局属性全集 dcj3sjt126com android
RelativeLayout布局android:layout_marginTop="25dip" //顶部距离android:gravity="left" //空间布局位置android:layout_marginLeft="15dip //距离左边距 // 相对于给定ID控件android:layout_above 将该控件的底部置于给定ID的
Tomcat内存设置详解 eksliang jvm tomcat tomcat内存设置
Java内存溢出详解一、常见的Java内存溢出有以下三种： 1. java.lang.OutOfMemoryError: Java heap space ----JVM Heap（堆）溢出JVM在启动的时候会自动设置JVM Heap的值，其初始空间(即-Xms)是物理内存的1/64，最大空间(-Xmx)不可超过物理内存。可以利用JVM提
Java6 JVM参数选项 greatwqs java HotSpot jvm jvm参数 JVM Options
Java 6 JVM参数选项大全（中文版）作者：Ken Wu Email: [email protected] 转载本文档请注明原文链接 http://kenwublog.com/docs/java6-jvm-options-chinese-edition.htm！本文是基于最新的SUN官方文档Java SE 6 Hotspot VM Opt
weblogic创建JMC i5land weblogic jms
进入 weblogic控制太 1.创建持久化存储 --Services--Persistant Stores--new--Create FileStores--name随便起--target默认--Directory写入在本机建立的文件夹的路径--ok 2.创建JMS服务器 --Services--Messaging--JMS Servers--new--name随便起--Pers
基于 DHT 网络的磁力链接和BT种子的搜索引擎架构 justjavac DHT
上周开发了一个磁力链接和 BT 种子的搜索引擎 {Magnet & Torrent}，本文简单介绍一下主要的系统功能和用到的技术。系统包括几个独立的部分：使用 Python 的 Scrapy 框架开发的网络爬虫，用来爬取磁力链接和种子；使用 PHP CI 框架开发的简易网站；搜索引擎目前直接使用的 MySQL，将来可以考虑使
sql添加、删除表中的列 macroli sql
添加没有默认值：alter table Test add BazaarType char(1) 有默认值的添加列：alter table Test add BazaarType char(1) default(0) 删除没有默认值的列：alter table Test drop COLUMN BazaarType 删除有默认值的列：先删除约束（默认值）alter table Test DRO
PHP中二维数组的排序方法 abc123456789cba 排序二维数组 PHP
<?php/*** @package BugFree* @version $Id: FunctionsMain.inc.php,v 1.32 2005/09/24 11:38:37 wwccss Exp $*** Sort an two-dimension array by some level
hive优化之------控制hive任务中的map数和reduce数 superlxw1234 hive hive优化
一、控制hive任务中的map数: 1. 通常情况下，作业会通过input的目录产生一个或者多个map任务。主要的决定因素有： input的文件总个数，input的文件大小，集群设置的文件块大小(目前为128M, 可在hive中通过set dfs.block.size;命令查看到，该参数不能自定义修改)；2.
Spring Boot 1.2.4 发布 wiselyman spring boot
Spring Boot 1.2.4已于6.4日发布，repo.spring.io and Maven Central可以下载(推荐使用maven或者gradle构建下载)。这是一个维护版本，包含了一些修复small number of fixes,建议所有的用户升级。 Spring Boot 1.3的第一个里程碑版本将在几天后发布，包含许多

Hive窗口函数 over()

你可能感兴趣的:(Hive)