kettle在linux上的运行方法

文章目录

  • 一、kettle安装部署
  • 二、配置kettle任务
    • 1、本机打开kettle :
    • 2.配置转换任务 :
    • 3.配置作业 :
    • 4.本地测试 :
    • 5.linux中执行作业(kjb)的命令
      • linux中执行转换(ktr)的命令
    • 6.定时任务编辑shell脚本编辑
    • 7.设置定时
  • 总结


一、kettle安装部署

Kettle安装部署

二、配置kettle任务

1、本机打开kettle :

建立数据库连接, 填写需要连接的数据库地址、端口、账号还有密码,点击测试连接,成功如下图:
kettle在linux上的运行方法_第1张图片

2.配置转换任务 :

在表输入和表输出中配置基本信息:
kettle在linux上的运行方法_第2张图片

3.配置作业 :

在转换过程中添加刚才的任务,transformation中如果是绝对路径,替换成如下地址>(${Internal.Entry.Current.Directory},转换和作业放在同一目录下)
kettle在linux上的运行方法_第3张图片

4.本地测试 :

抽取数据是否成功,成功后将保存的转换和作业放在linux服务器上

5.linux中执行作业(kjb)的命令

kitchen.sh -file=/data/kettle/data-integration/test.kjb

linux中执行转换(ktr)的命令

/pan.sh -file=/usr/local/kettle/bjyd/t_sdrs_xsjbxx.ktr -norep
命令 描述
-file job或trans文件路径
-norep 标明不是资源库里的文件
-param 参数设置
-logfile log输出文件名
-level log级别 (Basic, Detailed, Debug, Rowlevel, Error, Nothing)

6.定时任务编辑shell脚本编辑

#!/bin/sh
JAVA_HOME=/data/jdk1.8.0_281
export JRE_HOME=$JAVA_HOME/jre
export CLASSPATH=$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH
#createDate=`date +"%Y%m%d%H%M%S"`
createDate=`date +"%Y%m%d"`
cd /data/data-integration;./kitchen.sh -file=/data/kettle-sh-day/wlhy/kjb/prod/wlhy-job-driver.kjb >> /data/kettle-sh-day/wlhy/logs/$createDate-wlhy-job-driver.log &

7.设置定时

crontab -e
每天3点执行 00 03 * * * /data/kettle/data-integration/testfile.sh


总结

如果此篇文章有帮助到您, 希望打大佬们能关注点赞收藏评论支持一波,非常感谢大家!
如果有不对的地方请指正!!!

参考1
参考2

你可能感兴趣的:(ETL,linux,java,mysql)