大数据课程L4——网站流量项目的Hive离线批处理

文章作者邮箱:[email protected]              地址:广东惠州

 ▲ 本章节目的

⚪ 掌握网站流量项目的 Hive 的占位符与文件的调用;

⚪ 掌握网站流量项目的 Hive 离线批处理过程;

⚪ 掌握网站流量项目的定时任务改造Hive离线处理过程;

一、Hive 的占位符与文件的调用

1. 概述

对于上述的工作,我们发现需要手动去写hql语句从而完成离线数据的ETL,但每天都手动来做显然是不合适的,所以可以利用hive的文件调用与占位符来解决这个问题。

2. Hive文件的调用

实现步骤:

1. 编写一个文件,后缀名为 .hive。

比如我们现在我们创建一个01.hive文件。

目的是在 hive的weblog数据库下,创建一个tb1表。

01.hive 文件编写示例:

use  weblog;

create table tb1 (id int,name string);

2. 进入hive安装目录的bin目录。

执行: sh hive -f  01.hive

注:-f  参数后跟的是01.hive文件的路径。

3. 测试hive的表是否创建成功。

3. Hive占位符的使用

我们现在想通过hive执行文件,将 "tb1"这个表删除

则我们可以这样做:

1. 创建02.hive文件。

02.hive 文件编写示例:

use  weblog;

drop table ${tb_name}

2. 在bin目录下,执行:

sh hive -f 02.hive -d tb_name="tb1"

4. 结合业务的实现

在hive最后插入数据时,涉及到一个日志的分区是以每天为单位,所以我们需要手动去写这个日期,比如 2021-05-10。

现在,我们学习了Hive文件调用和占位符之后,我们可以这样做:

1. 将hql语句里的日期相关的取值用占位符来表示,并写在weblog.hive文件里。

weblog.hive 文件编写示例:

use weblog;

insert overwrite table tongji 

select ${reportTime},tab1.pv,tab2.uv,tab3.vv,tab4.br,tab5.newip,tab6.newcust,tab7.avgtime,tab8.avgdeep from

(select count(*) as pv from dataclear where reportTime = ${reportTime}) as tab1,

(select count(distinct uvid) as uv from dataclear where reportTime = ${reportTime}) as tab2,

(select count(distinct ssid) as vv from dataclear where reportTime = ${reportTime}) as tab3,

(select round(br_taba.a/br_tabb.b,4)as br

你可能感兴趣的:(大数据,hive,hadoop)