使用Kettle连接动态分库

一、问题提出
   在一个数据仓库应用中,每天新建一个MySQL数据库,以当天日期命名,如d_p20161201、d_p20161202等,并使用Kettle连接这些数据库做数据清洗和ETL工作。由于数据库是用脚本每天动态生成的,Kettle如何连接动态分库呢?

二、解决方案
1. 建立数据库连接,在数据库名称中引入变量。此时是无法连接到数据库的。
2. 建立转换,用JavaScript步骤设置上一步引用的变量,作为数据库名称中的日期部分。
3. 建立作业,在开始后首先调用上一步建立的转换,后续的转换或作业即可正常使用第1步建立的数据库连接。

三、验证步骤
1. 建立测试数据库表。
create database if not exists d_20161225;
use d_20161225;
drop table if exists t1;
create table t1 (a int);
insert into t1 values (101),(102);
commit;

2. 新建一个转换,保存为set_dbname.ktr

3. 建立数据库连接如下:
使用Kettle连接动态分库_第1张图片

如图所示,在“数据库名称”中引用了一个变量${current_date},此时该变量还没有定义。如果测试数据库连接会报以下错误:

使用Kettle连接动态分库_第2张图片

4. 将mydb设为共享。

使用Kettle连接动态分库_第3张图片

5. 编辑set_dbname转换如下:

使用Kettle连接动态分库_第4张图片

该转换由三个步骤组成,分别如下面三张图所示:

使用Kettle连接动态分库_第5张图片

“生成记录”生成一条记录,在数据流中存储变量值。

使用Kettle连接动态分库_第6张图片

“JavaScript”用来生成符合日期格式的字符串。

使用Kettle连接动态分库_第7张图片

“设置变量”给变量赋值。

6. 新建一个转换如下,保存为table_output.ktr。

此转换只有两个步骤,用来测试数据库输出,分别如下面两张图所示:

使用Kettle连接动态分库_第8张图片

“表输入”查询t1表的数据。

使用Kettle连接动态分库_第9张图片

“文本文件输出”将表数据存储到一个txt文件中。

7. 新建一个作业,调用前面的建立的两个转换,保存为connect_db.kjb。


使用Kettle连接动态分库_第10张图片

使用Kettle连接动态分库_第11张图片

8. 执行作业

9. 查看输出文件的内容,如下图所示:

使用Kettle连接动态分库_第12张图片

正确查询出表数据。

10. 此时再测试mydb数据库连接,可以成功。

使用Kettle连接动态分库_第13张图片

四、总结
   本实验在以下两点进行了尝试:
1. 使用JavaScript步骤给变量赋值,这种在Kettle中编程的方式,能够实现非常复杂的应用逻辑。
2. 数据库连接可以在运行时动态引用变量,这给实现统一的ETL调度提供了一种可能性。
   先设置变量并赋值,然后在后面的步骤或作业项中使用变量,这是一种通用的方法。通过在Kettle中进行程序设计,大大增强了Kettle的功能。

参考:http://stackoverflow.com/questions/23491072/pass-db-connection-parameters-to-a-kettle-a-k-a-pdi-table-input-step-dynamically

你可能感兴趣的:(BI,MySQL)