E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
kettle
Kettle
数据采集 部署安装
kettle
是一个开源的数据采集的工具,可以把一个数据库表中的数据采集到另一台服务器数据库的表中,不同数据库之间也可相互采集,本地采集和不同服务器采集都行。
冰山剑客
·
2017-05-06 19:30
kettle
linux
Kettle
:利用设置变量(时间戳)实现数据增量更新
本文整理自:http://www.2cto.com/database/201510/447072.html要实现实时的增量更新共有两种方法:1.通过触发器。在要抽取的表上建立需要的触发器,一般要建立插入、修改、删除三个触发器,每当源表中的数据发生变化,就被相应的触发器将变化的数据写入一个临时表,抽取线程从临时表中抽取数据,临时表中抽取过的数据被标记或删除。触发器方式的优点是数据抽取的性能较高,缺点
暴躁狂
·
2017-05-04 16:22
数据库
kettle
大全
获取系统信息(getsysteminfo):这个步骤从
Kettle
环境中获取信息。生成行(GenerateRows):这个步骤输出一定数量的行,缺省为空。可选包括一定数量的静态字段。
csFirend
·
2017-05-04 16:55
kettle
使用
http://community.pentaho.com/projects/data-integration下载路径二:学习
kettle
是什么?
csFirend
·
2017-05-03 17:56
elt
kettle
kettle
详解(数据抽取、转换、装载)
http://community.pentaho.com/projects/data-integration下载路径二:学习
kettle
是什么?
JueDream
·
2017-05-03 14:37
Java
Kettle
乱码解决方案
Kettle
是一款国外开源的ETL工具,纯java编写,数据抽取高效稳定的数据迁移工具。
shenhaiwen
·
2017-04-28 14:00
java
mysql
数据库
Kettle
乱码
2017/4/26 --- 重装MySql5.5/数据迁移
重装MySql5.5,完成
kettle
承建商表导入中间库
kettle
共享job数据库和transfer数据库模拟迁移杭州,无明源云微信数据,来自第三方,数据为excel形式,进行数据清洗后转化成.sql
成成成成成
·
2017-04-27 13:37
KETTLE
后台进程执行配置方式
原文地址Kitchen——工作(job)执行器(命令行方式)Span——转换(trasform)执行器(命令行方式)这里我们重点讲一下Kitchen.bat作业执行器,这个是经常要用到的。它是一个作业执行引擎,用来执行作业。这是一个命令行执行工具,它的参数说明如下:-rep:Repositoryname任务包所在存储名-user:Repositoryusername执行人-pass:Reposit
qibao16
·
2017-04-27 11:36
etl
2017/4/25 --- 数据迁移
数据迁移目标1.香港数据迁移服务器环境配置(
kettle
安装与脚本配置,Jitterbit安装与脚本配置,中间库的安装与配置)2.测试香港服务迁移流程细节1.Dataloader:和jitterBit功能类似
成成成成成
·
2017-04-25 18:01
Java集成
kettle
调用trans文件
1.调用本地文件publicstaticvoidrunNativeTransformation(String[]params,Stringfilename){try{//初始化
Kettle
Environment.init
qklwdd6
·
2017-04-25 15:59
Java
kettle
Kettle
_js脚本_示例
Kettle
版本7.0一,Stringfunction1.date2str//js操作时间vardValue=newDate();//把时间变成字符串vardValue1=date2str(dValue
混世小萌羊
·
2017-04-22 09:46
杂
Kettle
配置自动发送邮件并在数据库中记录运行日志
①通过在WINDOWS下的任务计划程序,在D:\
kettle
下创建一个bat文件,在D:\
kettle
\dispatchPRODTCT\mail\创建一个JOB调用KTR文件来实现定时发送邮件的任务。
Teresa7
·
2017-04-20 14:57
Kettle
连接Hive2的问题解决思路
在
kettle
上当选择好HIVE2连接时候有报错org.pentaho.di.core.exception.
Kettle
DatabaseException:ErroroccuredwhiletryingtoconnecttothedatabaseErrorconnectingtodatabase
杨航JAVA
·
2017-04-18 17:41
Kettle
, Solr
http://antkillerfarm.github.io/
Kettle
ETL,是英文Extract-Transform-Load的缩写,用来描述将数据从来源端经过抽取(extract)、转换(transform
antkillerfarm
·
2017-04-17 12:05
关于对学习
kettle
( 水壶)一周的总结
Kettle
的主要过程是:1、抽取2、转换(重点)3、装载4、加载
Kettle
最主要的有两个一个是作业(job),一个是转换(transaction),用作业来进行转换的执行,转换为业务的处理,建议写好作业后如果要定时执行作业的话建议写系统的定时任务
Saving_A
·
2017-04-17 11:20
kettle
etl
从官方例子入手 (详解数据清洗)——
kettle
实战(5)
注:本篇文章参考《Pentaho
Kettle
解决方案:使用PDI构建开源ETL解决方案》数据清洗步骤利用Calculator计算器进行数据清洗工作相关的选项Replaceinstring字符串替换步骤Fuzzymatch
远在远方的风比远方更远
·
2017-04-14 17:17
【Kettle】
Kettle
参数、变量和全局变量(
kettle
.properties)使用
答案是有1.首先,打开.
kettle
\
kettle
.properties,直接在里面定义,(注意这个文件需要与spoon.bat放在同一个目录下面)比如:paramName=to_char(sysdate
艾伦蓝
·
2017-04-11 11:44
kettle
使用记录
http://community.pentaho.com/projects/data-integration下载路径二:学习
kettle
是什么?
m_0307
·
2017-04-06 18:50
kettle
Kettle
调用方式
在使用
Kettle
执行Job或者转换的时候有多种方式,例如:一:通过命令行来执行kitchen.sh来执行指定的Job,例如:kitchen.bat-file="..
mybabe0312
·
2017-04-06 11:42
Server
Slave
Kettle
Python集成
使用
kettle
进行增量抽取数据
使用工具:
kettle
首先需要考虑的问题是不可能是全量进行数据的拷贝,数据量如此庞大!那么就得考虑增量,何为增量去百度。。
fangdengfu123
·
2017-04-05 11:00
工具kettle
kettle
系列之常见问题
开源ETL工具
kettle
系列之常见问题摘要:本文主要介绍使用
kettle
设计一些ETL任务时一些常见问题,这些问题大部分都不在官方FAQ上,你可以在
kettle
的论坛上找到一些问题的答案1.Join我得到
hzp666
·
2017-03-29 16:02
PRD
kettle
数据库迁移之mysql到oracle
这几天接到一个数据迁移的需求,将mysql数据库数据迁移到oracle数据库,经同事推荐
kettle
,就研究了一下
kettle
工具,使用起来还是很简单的。
Jay_1989
·
2017-03-29 14:05
Oracle
Mysql
kettle
配置远程连接服务
kettle
配置远程连接服务(1)下载
kettle
安装包,在Linux服务器上进行解压unzippdi-ce-7.0.0.0-25.zip(2)进入data-integration/plugins/pentaho-big-data-plugin
哎哟喂喽
·
2017-03-28 10:34
kettle
配置远程连接服务
kettle
配置远程连接服务(1)下载
kettle
安装包,在Linux服务器上进行解压unzippdi-ce-7.0.0.0-25.zip(2)进入data-integration/plugins/pentaho-big-data-plugin
哎哟喂喽
·
2017-03-28 10:34
kettle
抽取——多平台汇总数据仓库
kettle
版本:6.0jdk:1.7(注意:经多次实验,6.0必须用jdk1.7,5.x的可以使用1.6jdk)系统:64位windows7旗舰版配置:内存(8G),处理器(i5-4590CPU3.30GHz
飞羽喂马
·
2017-03-27 18:53
数据分析
etl工具
kettle
学习——下载安装使用
1、下载
kettle
包,并解压http://community.pentaho.com/projects/data-integration/2、安装jdk,并配置java环境a).打开我的电脑--属性-
Jatham
·
2017-03-22 15:00
数据
Kettle
etl
kettle
增量抽取数据
这一章主要讲的是数据的增量抽取,以及不同数据库之间的相互抽取.这个就是实现数据同步最基本的状态表输入就是不管你从哪个数据库抽取,只要是数据由表输入抽入到
kettle
的工作空间其他的都不用害怕了.不同的是后面的字段选择与插入更新
步入低谷的浪神
·
2017-03-21 16:04
kettle
Kettle
实现Oracle到Trafodion数据定时抽取
在之前的一篇文章中介绍到如何用
Kettle
从MySQL迁移数据到Trafodion,请见http://blog.csdn.net/post_yuan/article/details/52804105本文进一步介绍如何利用
post_yuan
·
2017-03-21 13:27
kettle
api 方式加载plugins 里面的插件
在项目中,我们通常把
kettle
通过api的方式放到后台运行,很多人碰见了
kettle
的plugins下的插件怎么加载。下面我给大家讲一下怎么加载plugins插件。
dqswuyundong
·
2017-03-20 16:20
kettle
常用组件
一、转换1.表输入【功能描述】这一步常常用来利用连接和SQL,从数据库中读取信息。自动生成基本的SQL语句。【操作步骤或操作内容】功能1:指定选项示例:指定如下SQL语句:SELECT*FROMuserinfoWHEREid=1注:1、日期可以从“获取系统信息”步骤类型中获取。2、在增量抽取过程中一般获取目标表更新时间的最大值作为参数传入。2.表输出【功能描述】这个步骤将数据导入数据库表。【操作步
wyu_yc
·
2017-03-17 12:06
kettle使用
[ETL实践指南]基于
Kettle
的MaxCompute插件实现数据上云
http://click.aliyun.com/m/13898/本文用到的阿里云数加-大数据计算服务MaxCompute产品地址:https://www.aliyun.com/product/odps简介
Kettle
云栖技术
·
2017-03-16 18:28
MaxCompute
数据库迁移——
kettle
实战(2)
需求:把数据从旧表导入到新表(从oracle到oracle),其中:1.字段名字基本全部修改(新表相对于旧表来说)2.字段类型部分修改3.删除部分字段4.增加部分字段5.字典字段翻译对于前两需求,我们可以操作表输入和表输出来进行,大概操作界面如图1和图3图1——表输入界面其中需要注意的地方就是左边箭头所指向的sql语句,因为对于需求2,我们需要对一些字段进行转化,因为旧表为VARCHAR类型,新表
远在远方的风比远方更远
·
2017-03-10 15:36
【Kettle】
运用Java调用
Kettle
Job和Trans(带参数)
1.首先创建一个
kettle
trans2.对表输入进行编辑${dateNow}为要传入的参数。
码农张。
·
2017-03-10 14:00
炼数成金深入BI -
Kettle
篇
目前市场上开源且实用的ETL工具比较少,
Kettle
就是这不多的开源ETL工具之一。本课程将主要讲解开源ETL工具
Kettle
的基本使用和二次开发方法,并结合实际项目案例,讲解
Kettle
如何在实
jimei1912
·
2017-03-06 14:10
KETTLE
系列2--创建资源库
资源库有两种形式:一、
Kettle
databaserepository,即保存在各种常见的数据库资源库类型,用户通过用户名/密码来访问资源库中的资源,默认的用户名/密码是admin/admin和gu
黑衣者
·
2017-03-01 15:48
★ETL
使用StreamingPro 快速构建Spark SQL on CarbonData
前言CarbonData已经发布了1.0版本,变更还是很快的,这个版本已经移除了
kettle
了,使得部署和使用变得很简单,而且支持1.6+,2.0+等多个Spark版本。
祝威廉
·
2017-02-21 13:52
[tools]有没有好用的大数据ETL工具
2、ETLAutomation、
kettle
等适合于oracle等,不太适合hadoop
葡萄喃喃呓语
·
2017-02-15 23:34
Kettle
Linux 安装部署
阅读更多一.安装JDK环境:根据自己的linux系统选择相应的版本,比如我的centos7是x64的,所以我选择jdk-8u74-linux-x64.tar.gz下载下载下来以后,我们将其移到我们创建的一个目录中,存放tar包的目录为/usr/local/src/jdk,然后解压:tar-zxf/usr/local/src/jdk/jdk-7u65-linux-x64.tar.gz编辑vi/etc
h_1_y_m
·
2017-02-15 17:00
hadoop
kettle
mysql
mysql数据迁移到Oracle的正确方法
数据库里有一个表student,它的结构如下:在Oracle数据库里有一个表from_mysql,它的结构如下:现在要把数据从mysql的student转移到Oracle的from_mysql中去,这里笔者借助
kettle
码前小卒
·
2017-02-14 11:11
使用
Kettle
进行数据挖掘
阅读更多使用
Kettle
进行数据挖掘客服部CRM系统的部分数据要同步BDP云端,为了服务器安全,账号密码不被任何第三方获取,部署中间服务器、中间库,抽取CRM的数据,然后再同步到bdp云端库中。
hello_leio
·
2017-02-11 20:00
mysql
数据挖掘
使用
Kettle
进行数据挖掘
阅读更多使用
Kettle
进行数据挖掘客服部CRM系统的部分数据要同步BDP云端,为了服务器安全,账号密码不被任何第三方获取,部署中间服务器、中间库,抽取CRM的数据,然后再同步到bdp云端库中。
hello_leio
·
2017-02-11 20:00
mysql
数据挖掘
使用
Kettle
进行数据挖掘
Kettle
作为Java编写的ETL工具,支持图形化的GUI设计界面,然后可以以工作流的形式流转,在做一些简单或复杂的数据抽取、质量检测、数据清洗、数
慧琳的爸爸
·
2017-02-11 20:23
ETL
kettle
之时间转换异常
昨天在进行数据抽取时,发现了一个很奇怪的现象,部分时间,在经过
kettle
表输入再输出时,发生了变化。
周小科
·
2017-02-10 13:06
kettle
kettle
-配置资源库
打开spoon的时候会弹出一个提示框,让我们连接到资源库。另外也可以在tools菜单下的资源库中选择连接资源库,之后就出现如图所示的输入框:笔者这里已经配置了两个资源库,Oracle和mysql,点击右上角的笔状图标可以对已有资源库进行编辑,加号图标可以新建资源库,叉号图标可以删除资源库,这里我们点击加号。弹出如下图:接着双击第一行文字,在弹出的框中选择新建即可:接来下的输入框中是配置的重点,我们
码前小卒
·
2017-02-08 15:45
Kettle
expect脚本示例
/usr/bin/expect-fsetpassword
kettle
settimeout10foreachserver{252627293031168169170172}{setip10.10.1.
howsoon
·
2017-02-06 17:00
ssh
脚本
CentOS
expect脚本示例
/usr/bin/expect-fsetpassword
kettle
settimeout10foreachserver{252627293031168169170172}{setip10.10.1.
howsoon
·
2017-02-06 17:00
ssh
脚本
CentOS
ETL与
kettle
介绍
ETL以及
Kettle
介绍一.ETL介绍ETL概念介绍ETL即数据抽取(Extract)、转换(Transform)、装载(Load)的过程。是构建数据仓库的重要环节。
戴桥冰
·
2017-01-25 13:58
kettle
Prepared statement contains too many placeholders
场景:使用
Kettle
进行简单的数据插入时,出现以下Preparedstatementcontainstoomanyplaceholders错误数据库:MySQL先上错误截图:转换设计:报错信息:表输出设计
莹镜春鸣
·
2017-01-20 11:02
在linux下设置
kettle
的定时任务方法
1.安装centos2.安装java环境参考网址:http://www.cnblogs.com/haoliansheng/p/5832979.html3.解压
kettle
.zip进入
kettle
.zip
回味昨天的你
·
2017-01-16 20:48
etl和kettle
kettle
执行定时任务,使用pan.bat和kitchen.bat
1.运行cmd,进入
kettle
的目录cdC:\soft\
kettle
\data-integration2.运行startpan.bat命令Pan—转换执行器(命令行方式),一般在自动调度时借助此命令调用调试成功的转换
回味昨天的你
·
2017-01-12 22:36
etl和kettle
上一页
42
43
44
45
46
47
48
49
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他