kettle7.0下实现数据库整体迁移

一、采用软件自带方式

1.新建一个job,创建两个DB连接:source、target(源数据库和目标数据库连接),在菜单中找到【复制多表向导】,点击进行相关操作:

kettle7.0下实现数据库整体迁移_第1张图片

2.选择源数据库和目标数据库

kettle7.0下实现数据库整体迁移_第2张图片

3.选择所需迁移的表

kettle7.0下实现数据库整体迁移_第3张图片

4.编辑生成的job文件名:qy.kjb,和文件目录,编辑好后【Finish】

kettle7.0下实现数据库整体迁移_第4张图片

5.运行qy.kjb,可在test2数据库中看到成功生成迁移来的表。

kettle7.0下实现数据库整体迁移_第5张图片

kettle7.0下实现数据库整体迁移_第6张图片

二、自定义数据库迁移(oracle >> mysql)

1.创建一个主job:数据库迁移.kjb

kettle7.0下实现数据库整体迁移_第7张图片

2.创建转换:获取表名称.ktr

kettle7.0下实现数据库整体迁移_第8张图片

1) 创建一个DB连接:oraclesource(源数据库连接)

kettle7.0下实现数据库整体迁移_第9张图片

2)  表输入

kettle7.0下实现数据库整体迁移_第10张图片

注:oracle中获取表名SQL:select * from user_tables,mysql中为:show tables

3) 字段选择

     点击【获取选择的字段】,添加新的字段,选中"TABLE_NAME"并改名成“tablename”,将其余字段删除

kettle7.0下实现数据库整体迁移_第11张图片

 4)添加一个【复制记录到结果字符串】

kettle7.0下实现数据库整体迁移_第12张图片

3.新建一个job:抽取表.kjb

kettle7.0下实现数据库整体迁移_第13张图片

1) 新建一个DB连接:mysqltarget

kettle7.0下实现数据库整体迁移_第14张图片

4. 新建一个转换:表名称变量设置.ktr

kettle7.0下实现数据库整体迁移_第15张图片

1) 添加一个【从结果获取记录】

kettle7.0下实现数据库整体迁移_第16张图片

2)添加一个【设置变量】

kettle7.0下实现数据库整体迁移_第17张图片

5.添加一个【检查表是否存在】

kettle7.0下实现数据库整体迁移_第18张图片

6.新建一个转换:创建目标库表结构.ktr

kettle7.0下实现数据库整体迁移_第19张图片

1) 新建两个DB连接:oraclesource,mysqltarget

    创建过程同上

2)添加一个【表输入】

kettle7.0下实现数据库整体迁移_第20张图片

3)添加一个【Java代码】,代码如下:

public boolean processRow(StepMetaInterface smi, StepDataInterface sdi) throws KettleException
{
   	Object[] r = getRow();

	//本地连接获取数据库元数据
	//org.pentaho.di.core.database.DatabaseMeta dbmeta = getTransMeta().findDatabase("target");

	//资源库连接获取数据库元数据
	org.pentaho.di.core.database.DatabaseMeta dbmeta = null;
	
	java.util.List list = getTrans().getRepository().readDatabases();
	
	if(list != null && !list.isEmpty())
	{
		for(int i=0;i0)
			{
								
				//获取表名称和输入行数据
				String sql =  db.getDDLCreationTable(tablename ,getInputRowMeta());

				db.execStatement(sql.replace(";", ""));

				//在日志中显示sql语句
				logBasic(sql);
			}
		}
		catch(Exception e)
		{			
			logError("创建表出现异常",e);
			
		}finally{
			db.disconnect();
		}
	}
	return false;
}
7. 新建一个转换:表抽取.ktr

kettle7.0下实现数据库整体迁移_第21张图片

1)新建两个DB连接:oraclesource,mysqltarget。

     创建过程同上

2) 添加一个【表输入】

kettle7.0下实现数据库整体迁移_第22张图片

3)添加一个表输出

kettle7.0下实现数据库整体迁移_第23张图片

8.运行数据库迁移.kjb

在mysql数据库test2中成功生成迁移的所有表

kettle7.0下实现数据库整体迁移_第24张图片


注:1.此方案是在资源库环境下创建并运行的,需要登陆资源库。

        2.此方案下载地址:点击打开链接

存在问题:当源数据库中存在空表时,会报以下错误:

2017/04/19 14:57:05 - 创建表结构.0 - 开始创建表:KFYQGX
2017/04/19 14:57:05 - 创建表结构.0 - ERROR (version 7.0.0.0-25, build 1 from 2016-11-05 15.35.36 by buildguy) : 创建表出现异常
2017/04/19 14:57:05 - 创建表结构.0 - ERROR (version 7.0.0.0-25, build 1 from 2016-11-05 15.35.36 by buildguy) : java.lang.NullPointerException
2017/04/19 14:57:05 - 创建表结构.0 -  at org.pentaho.di.core.database.DatabaseMeta.quoteReservedWords(DatabaseMeta.java:2352)
2017/04/19 14:57:05 - 创建表结构.0 -  at org.pentaho.di.core.database.Database.getDDLCreationTable(Database.java:4441)
2017/04/19 14:57:05 - 创建表结构.0 -  at Processor.processRow(Processor.java:45)
2017/04/19 14:57:05 - 创建表结构.0 -  at org.pentaho.di.trans.steps.userdefinedjavaclass.UserDefinedJavaClass.processRow(UserDefinedJavaClass.java:1018)
2017/04/19 14:57:05 - 创建表结构.0 -  at org.pentaho.di.trans.step.RunThread.run(RunThread.java:62)
2017/04/19 14:57:05 - 创建表结构.0 -  at java.lang.Thread.run(Thread.java:745)


此问题还未解决,要是哪位仁兄解决了还望告知一下,共同探讨下


你可能感兴趣的:(ETL)