综合案例——构建DVD租赁商店数据仓库

一.加载用户数据至用户维度表

1.创建转换load_dim_customer,并添加表输入控件、映射控件、字段选择控件、值映射控件、维度查询/更新控件以及Hop跳连接线

综合案例——构建DVD租赁商店数据仓库_第1张图片 2.配置表输入控件

(1)双击“表输入”控件,进入“表输入”配置界面,单击【新建】按钮,配置数据库连接,配置完成后单击【确认】按钮

综合案例——构建DVD租赁商店数据仓库_第2张图片

综合案例——构建DVD租赁商店数据仓库_第3张图片

(2)在SQL框中编写用于获取字段customer_last_update中的最大值,将该值替换为”1970-01-01 00:00:00”并赋值给临时字段max_dim_customer_last_update;单击“预览”按钮,查看临时字段max_dim_customer_last_update是否将默认值设置为“1970-01-01 00:00:00”

综合案例——构建DVD租赁商店数据仓库_第4张图片

3.配置表输入2控件

(1)双击“表输入2”控件,进入“表输入”配置界面,单击【新建】按钮,配置数据库连接,配置完成后单击【确认】按钮

综合案例——构建DVD租赁商店数据仓库_第5张图片

综合案例——构建DVD租赁商店数据仓库_第6张图片 (2)在SQL框中编写SQL语句,用于获取数据库sakila中数据表customer中的最新数据

综合案例——构建DVD租赁商店数据仓库_第7张图片

4.创建一个转换fetch_address(该转换为转换load_dim_customer的子转换),并添加映射输入规范控件、数据库查询控件、过滤记录控件、JavaScript代码控件、字段选择控件以及Hop跳连接线

综合案例——构建DVD租赁商店数据仓库_第8张图片 5.双击“映射输入规范”控件,进入“Mapping input specification”界面,并添加映射的字段“address_id”,该字段为传递的参数(由于转换load_dim_customer中表输入2控件流获取的字段address_id,用于查询用户的地址信息,而后续数据仓库的维度表数据也需要用户的地址信息,因此这里将字段address_id作为传递的参数),添加完毕后单击【确定】按钮,完成“映射输入规范”控件的配置

综合案例——构建DVD租赁商店数据仓库_第9张图片 6.配置数据库查询控件

(1)双击“数据库查询”控件,进入“数据库查询”配置界面

综合案例——构建DVD租赁商店数据仓库_第10张图片 (2)单击【新建】按钮,配置数据库连接,配置完成后单击【确认】按钮

综合案例——构建DVD租赁商店数据仓库_第11张图片 (3)单击名右侧的【浏览】按钮,添加数据表address;在“查询所需的关键字”框中,添加查询所需的关键字字段address_id,由于该字段是唯一的,因此可作为数据表address中数据和映射输入规范控件流中数据的比较条件;在“查询表返回的值”框中,添加查询表返回的值

综合案例——构建DVD租赁商店数据仓库_第12张图片7.配置数据库查询2控件

(1)双击“数据库查询2”控件,进入“数据库查询”界面,单击【新建】按钮,配置数据库连接,配置完成后单击【确认】按钮

综合案例——构建DVD租赁商店数据仓库_第13张图片

综合案例——构建DVD租赁商店数据仓库_第14张图片

(2)单击表名处的【浏览】按钮,添加数据表city;在“查询所需的关键字”框中,添加查询所需的关键字字段city_id,作为数据表city中数据和数据库查询2控件流中数据相比较的条件;在“查询表返回的值”框中,添加查询表返回的值 

综合案例——构建DVD租赁商店数据仓库_第15张图片 8.配置数据库查询3控件

(1)双击“数据库查询3”控件,进入“数据库查询”配置界面,单击【新建】按钮,配置数据库连接,配置完成后单击【确认】按钮

综合案例——构建DVD租赁商店数据仓库_第16张图片

综合案例——构建DVD租赁商店数据仓库_第17张图片

(2)单击表名处的【浏览】按钮,添加数据表country;在“查询所需的关键字”框中,添加查询所需的关键字字段country_id,用于指定字段流与表字段的数据进行比较的比较条件;在“查询表返回的值”框中,添加查询表返回的值

综合案例——构建DVD租赁商店数据仓库_第18张图片

9.配置过滤记录控件

(1)双击“过滤记录”控件,进入“过滤记录”配置界面,在“条件”处设置过滤的条件,对有第二个地址的用户进行过滤操作;单击左边“”框,弹出字段对话框,选择要过滤的字段address2

综合案例——构建DVD租赁商店数据仓库_第19张图片

综合案例——构建DVD租赁商店数据仓库_第20张图片 

(2)单击“=”框,弹出函数对话框,选择过滤条件(这里选择的是IS NOT NULL),即过滤指定字段中不为空的数据,单击【确定】按钮,完成过滤条件的选择

综合案例——构建DVD租赁商店数据仓库_第21张图片 

(3)在“发送true数据给步骤:”处的下拉框中选择“JavaScript代码”,将有第二个地址的用户放在JavaScript控件中,用于后续的操作;在“发送false数据给步骤:”处的下拉框中选择“字段选择”,将没有第二地址的用户过滤掉

综合案例——构建DVD租赁商店数据仓库_第22张图片 10.双击“JavaScript代码”控件,进入“JavaScript代码”配置界面,勾选“兼容模式?”处的复选框,使得JavaScript代码控件的兼容性更强;在Java Script代码框中编写代码

综合案例——构建DVD租赁商店数据仓库_第23张图片 11.双击“字段选择”控件,进入“选择/改名值”界面,在“元数据”选项卡的“移除”处添加要移除的字段

综合案例——构建DVD租赁商店数据仓库_第24张图片12.双击“映射”控件,进入“映射”界面,单击“转换”选项卡处的【Browser】按钮,选择添加转换fetch_address,用于获取用户的地址信息

综合案例——构建DVD租赁商店数据仓库_第25张图片

13.双击步骤1中的“字段选择”控件,进入“选择/改名值”界面,在“元数据”选项卡的“需要改变元数据的字段”处添加字段active,由于数据表customer中字段active的类型为tinyint,因此需要将字段active的类型改为String,与维度表dim_customer中字段customer_active的类型相对应

综合案例——构建DVD租赁商店数据仓库_第26张图片

14.双击步骤1中的“值映射”控件,进入“值映射”界面,在“使用的字段名”处的下拉框选择字段active;在“字段值”框中,添加源值和目标值,由于数据表customer中字段active的值为1和0,对应的是Y和N,这里将Y替换成Yes,将N替换成No

综合案例——构建DVD租赁商店数据仓库_第27张图片

15.配置维度查询/更新控件

(1)双击“维度查询/更新”控件,进入“维度查询/更新”界面

综合案例——构建DVD租赁商店数据仓库_第28张图片

(2)单击【新建】按钮,配置数据库连接,配置完成后单击【确认】按钮

综合案例——构建DVD租赁商店数据仓库_第29张图片

(3)单击目标表右侧的【浏览】按钮,选择输出的目标表,即维度表dim_customer;在“关键字”选项卡处添加关键字字段customer_id,用于指定维度表字段和流字段的比较条件;在“字段”选项卡处添加查询/更新字段;在“代理关键字段”处的下拉框中选择customer_key为代理关键字段,并指定“创建代理键”是使用自增字段;在“Version字段”处的下拉框中选择customer_version_number;在“Stream日期字段”处的下拉框中选择last_update;在“开始日期字段”处的下拉框中选择customer_valid_from;在“截止日期字段”处的下拉框中选择customer_valid_through

综合案例——构建DVD租赁商店数据仓库_第30张图片

综合案例——构建DVD租赁商店数据仓库_第31张图片

综合案例——构建DVD租赁商店数据仓库_第32张图片 16.单击转换工作区顶部的运行按钮,运行创建的转换load_dim_customer,实现加载用户数据至用户维度表dim_customer中

综合案例——构建DVD租赁商店数据仓库_第33张图片

17.通过SQLyog工具,查看数据表dim_customer是否已成功插入用户数据

综合案例——构建DVD租赁商店数据仓库_第34张图片

二.加载商店数据至商店维度表

1.创建一个转换load_dim_store,并添加表输入控件、映射控件、数据库查询控件、维度查询/更新控件以及Hop跳连接线

综合案例——构建DVD租赁商店数据仓库_第35张图片

2.配置表输入控件

(1)双击“表输入”控件,进入“表输入”配置界面,单击【新建】按钮,配置数据库连接,配置完成后单击【确认】按钮

综合案例——构建DVD租赁商店数据仓库_第36张图片

综合案例——构建DVD租赁商店数据仓库_第37张图片

(2)在SQL框中编写SQL语句,用于获取字段store_last_update中的最大值,将该值替换为”1970-01-01 00:00:00”并赋值给临时字段max_dim_store_last_update;单击“预览”按钮,查看临时字段max_dim_store_last_update是否将默认值设置为“1970-01-01 00:00:00”

综合案例——构建DVD租赁商店数据仓库_第38张图片 3.配置表输入2控件

(1)双击“表输入2”控件,进入“表输入”配置界面,单击【新建】按钮,配置数据库连接,配置完成后单击【确认】按钮

综合案例——构建DVD租赁商店数据仓库_第39张图片

 综合案例——构建DVD租赁商店数据仓库_第40张图片

(2)在SQL框中编写SQL语句,用于获取sakila数据库中store数据表中的最新数据

综合案例——构建DVD租赁商店数据仓库_第41张图片 4.双击“映射”控件,进入“映射”界面,单击“转换”选项卡处的【Browser】按钮,选择添加转换fetch_address,用于获取用户的地址信息

综合案例——构建DVD租赁商店数据仓库_第42张图片 5.配置数据库查询控件

(1)双击“数据库查询”控件,进入“数据库查询”配置界面,单击【新建】按钮,配置数据库连接,配置完成后单击【确认】按钮

综合案例——构建DVD租赁商店数据仓库_第43张图片

综合案例——构建DVD租赁商店数据仓库_第44张图片

(2)单击表名右侧的【浏览】按钮,添加staff数据表,用于查询商店员工的信息;在“查询所需的关键字”框中,添加查询所需的关键字staff_id,用于指定表字段和流字段的比较条件;在“查询表返回的值”框中,添加查询表返回的值,即员工姓名

综合案例——构建DVD租赁商店数据仓库_第45张图片 6.配置维度查询/更新控件

(1)双击“维度查询/更新”控件,进入“维度查询/更新”界面

综合案例——构建DVD租赁商店数据仓库_第46张图片 (2)单击【新建】按钮,配置数据库连接,配置完成后单击【确认】按钮

综合案例——构建DVD租赁商店数据仓库_第47张图片

(3)单击【浏览】按钮,选择输出的目标表,即维度表dim_store;在“关键字”选项卡处添加关键字字段store_id,用于指定维度表字段和流字段的比较条件;在“字段”选项卡处添加查询/更新字段,用于指定维度表字段store_id和流字段store_id数据一致需要更新的字段,;在“代理关键字段”处的下拉框中选择store_key为代理关键字段,并指定“创建代理键”是使用自增字段;在“Version字段”处的下拉框中选择store_version_number;在“Stream日期字段”处的下拉框中选择last_update;在“开始日期字段”处的下拉框中选择store_valid_from;在“截止日期字段”处的下拉框中选择store_valid_through

综合案例——构建DVD租赁商店数据仓库_第48张图片

综合案例——构建DVD租赁商店数据仓库_第49张图片 7.单击转换工作区顶部的运行按钮,运行创建的转换load_dim_store,实现加载商店数据至商店维度表dim_store中

综合案例——构建DVD租赁商店数据仓库_第50张图片 8.通过SQLyog工具,查看数据表dim_store是否已成功插入商店数据

 

你可能感兴趣的:(etl,sql,数据仓库)