E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Kettle
Kettle
入门与Java程序调用
Kettle
PentahoDataIntegration(
Kettle
)是一个免费开源的基于Java的ETL(Extract-Transform-Load的缩写,即数据抽取、转换、装载的过程)工具,纯JAVA编写,
LinJingke
·
2020-09-15 13:45
JAVA
【
Kettle
从零开始】第八弹之
Kettle
变量参数传递介绍
答:
Kettle
中参数大致可分为两类:一类是全局参数,一类是局部参数。2、参数如何定义?答:A:全局参数定义是通过当前用户下.
kettle
文件夹中的
kettle
.properties文件来定义。
RotKang
·
2020-09-15 12:33
Kettle
Kettle
中JavaScript变量&转换和作业常用的内置变量
:https://www.cnblogs.com/qinyl/p/12158638.html参考原文:https://www.jianshu.com/p/6d1b9ae16085在作业和转换参数中使用
Kettle
大宇进阶之路
·
2020-09-15 12:59
ETL
kettle
Kettle
资源库采用SQLserver数据库需要注意的点
Kettle
开源ETL工具有着自己的元数据存储方式,可以分为两种1:File2:DB文件存储我这里就不多说了,下面说一下在用SQLserver2008R2作为资源库在创建的过程中遇到的问题
Kettle
Version
weixin_34267123
·
2020-09-15 12:45
ETL数据从sqlserver到mysql之间迁移
偶然之间发现了这一款工具ELK一、下载1、
Kettle
可以在http://
kettle
.pentaho.org/网站下载2、下载的文件是一个压缩包随便放在win下都可以解压后文件如下二、启动注意事项1、
weixin_30820077
·
2020-09-15 12:35
数据库
操作系统
java
kettle
踩坑大集合
trueoracle读取慢添加:在选项中添加defaultRowPrefetch,值设置为10000以上,具体是数据库情况而定图片.png2.使用连接池注意:使用连接池后,在第一次创建连接池后不会随着该
kettle
毛于晏
·
2020-09-15 11:05
使用
Kettle
工具通过执行SQL脚本的形式来实现导入到MySQL数据库
该文章使用的是7.1的版本,可以直接到官网下载,这里就不多说了,如果不想去官网,可以在下面的网盘进行下载:链接:http://pan.baidu.com/s/1c4e8qi密码:22vu1.首先在输入里面把Excel拖出来2.在脚本里面把“执行SQL脚本”拖出来3.双击Excel输入,进去之后的配置如文件内容所示不知道为什么,图片上传失败了,我就把链接发给大家吧,大家可以去链接里面拿具体的操作说明
ZChao_Smile
·
2020-09-15 11:52
技术
用navicat premium做数据库的转换迁移
由于公司的一个项目分支需要将oracle的表结构和数据迁移到mysql上,所以去百度了一些解决方案,有试过powerdesigner和
kettle
都不行,前者是出现了乱码并且迁移出来只有表结构没有数据,
qujie1234
·
2020-09-15 11:50
KETTLE
整库迁移方案(SQL server迁移至Mysql,迁移过程自动创建表结构)
转自:https://blog.csdn.net/m0_37213323/article/details/72538816
kettle
零编程全库迁移(自动建表\数据\发邮件):https://jingyan.baidu.com
beststone1
·
2020-09-15 11:48
kettle
kettle
kettle
_04 从文件把数据导入到mysql数据库
任务:将波士顿房价的数据(housing.data)导入到MySQL数据库。housing.data数据链接:https://pan.baidu.com/s/1kTHAesn9a7_1oL-c7saGKQ提取码:c3y5数据格式:每一行的宽度固定,1、创建数据表(housing)弹出窗口在窗口中编辑以下mysql语句,创建housing表。createtablehousing(CRIMfloat,
qq_31514193
·
2020-09-15 11:26
kettle
Kettle
,"Job"中设置变量并在"转换"中使用。
我使用的
Kettle
工具版本是7.1.如下图1、图2所示,是本篇博客需要讲解的Job、转换。
_明月
·
2020-09-15 10:14
IT之旅
运维
ETL数据处理
Kettle
javaScript脚本的使用
1.writeToLog函数向日志文件中写入logMessage常用方式writeToLog(logMessage)、writeToLog(logType,logMessage)日志种类分为5中d-Debugl-Detailede-Errorm-Minimalr-RowLevel例如:writeToLog("e","结果集集合大小为:"+9);
吉米_sir
·
2020-09-15 10:13
kettle
使用
Kettle
将SQL Server数据批量导入到MySql
一、输入》表输入添加SqlServer要导入的数据源1)、导入SqlServer的数据源注意跟导出的字段名一致2)、预览查看sql是否有问题二、输出》表输出添加MySql要导出数据源1)、配置数据源,添加导出目标表,2)、开始任务
夏木炎
·
2020-09-15 09:35
ETL
Kettle
Job 使用 JavaScript 设置变量
Kettle
实际使用中,会经常使用到一些动态变量,比如文件名使用当前时间,或者一些带有规则的字符串等等。而
Kettle
的常量步骤,可以设置一些固定的常量,灵活性有时候达不到实际需求。
catoop
·
2020-09-15 09:18
其他中间件
kettle
中文乱码问题
1、看数据库编码是否一致oracleselectuserenv('language')fromdualSIMPLIFIEDCHINESE_CHINA.AL32UTF8mysql不一致的自己去改2、设置连接字符串3、以上两步都可以先不看把这个勾去了就好了。不行再重复上两步
登山石
·
2020-09-15 04:12
kettle
kettle
资源库类型介绍
介绍第二种方式,利用
kettle
中的资源库功能,把ktr文件统一存
Ray昱成
·
2020-09-15 01:52
ETL
kettle
学习笔记(二)——
kettle
基本使用
Carte.bat:启动web服务,用于
Kettle
的远程运行或集群运行。
weixin_30500105
·
2020-09-15 01:33
Kettle
CDC(增量的实现)---基于快照实现
原理:两个表格基于全表进行对比,产生标记位,(identical,new,changed,deleted),根据相应的标记位更新目标表1、整个转换如下图所示的元表和目标表使用的数据表结构如下:合并记录:过滤记录(使用<>identical更容易理解)数据同步:高级选项卡:
酷酷的糖先森
·
2020-09-15 01:16
大数据
kettle
中ODS层往CDR层抽数据时主键出现乱码问题。
rawtohex(SYS_GUID())asROW_PK,--主键可用rawtohex()函数来解决此问题。此问题还会引发
qq_40447564
·
2020-09-15 01:23
工作遇到的问题
kettle
ETL
Oracle
KETTLE
动态建表
1.目的:通过使用
kettle
相关组件,获取文件中定义的字段生成建表语句,然后在连接的数据库中创建对应的表并且把文件中的数据导入到所创建的表中。
紫色Dandelion
·
2020-09-15 01:34
kettle
kettle
配置资源库(亲测)
kettle
配置资源库亲测本人使用的是
kettle
8.3,oracle11g步骤如下:1、新建数据库用户,此处我新建的用户为rep_tes密码
kettle
(脚本自行解决,此处不详述)。
jcxwdeyy
·
2020-09-15 00:15
kettle
kettle
使用入门教程
那是因为你没有对应的数据库链接驱动,请下载对应驱动后,放入
kettle
的lib文件夹。2.核心对象–表输入就是指获取表数据3.表输出–插入更新4.箭头—-按住shift拖动5.本地运行即可
那年的夏天123
·
2020-09-15 00:25
bug解决
Kettle
7.1中无法创建资源库的解决方法
1.问题描述:无法创建新的资源库启动
kettle
7.1以后,在右上角,没有出现创建资源库的connect字样,如下图所示2.原因分析:资源库文件出现了乱码造成的2.1找到repositories.xml
路人陈
·
2020-09-15 00:57
ETL
Kettle
实现MapReduce之WordCount
一.创建Mapper转换如下图,mapper读取hdfs输入,进行word的切分,输出每个word和整数常量值1>MapReduceInput:Mapper输入,读取HDFS上的输入文件内容以键值对存储;2>Spitfiledtorows:读取value值以分隔符"|"进行切分(注意我这里hdfs文件中的word是以"|"隔开的)3>Addconstants:给每次出现的word追加一个常量字段m
TechChan
·
2020-09-15 00:40
Hadoop
kettle
的资源库创建
在学
kettle
的同时,我在某某学习视频上到了新建资源库的这一步骤,很是蒙啊,因为他的spoon是4.x的版本,而我安装的是7.0所以这个新建资源库就没找到。
Mr_Tanga
·
2020-09-15 00:33
etl
kettle
bigdata
Kettle
转换步骤(五)
转换步骤分类:增加新的列字符串处理行列变换排序/排重/字段选择增加新的列使用比较简单,直接填写新增的字段计算器的使用字符串拆分字符串合并字符串替换值映射:对数值进行映射,例如经典的性别10映射为男女:字符串其它转换字符串操作:可以进行字符串转义(例如>转义为>)、保留/去除字符串里的数字、移除特殊字符、补充长度行列变换图示如下:(也叫正规化-列转行-宽表变窄表/反正规化-行转列-窄表变宽表)列
原飞木
·
2020-09-15 00:45
kettle
kettle
Kettle
的资源库
资源库用来保存连接信息和转换信息。用户通过图形界面创建的的数据库连接和数据转换任务可以保存在资源库中。资源库可以是各种常见的数据库,用户通过用户名/密码来访问资源库中的资源,默认的用户名/密码是admin/admin转换文件在资源库中是分组管理的,用户可以将一类转换保管在一组下。用户可以自定义组名。注意:不能使用ODBC数据源作为资源库。
bhltweb
·
2020-09-15 00:16
kettle
KETTLE
的使用
表输入是从一个数据库表或数据库视图中获得数据。在表输入步骤里要选择数据库和数据库里的某个表或视图。也可以直接输入SELECT语句来获得数据。配置窗口中选项说明:1替换脚本脚本里的变量:是否在SQL语句里可以使用变量。如下面的SQL语句使用了变量minID。SELECTf1,f2FROMt1WHEREf1>=${minID}2从步骤插入数据:除变量外,用户输入的SQL语句在运行时还可以接收其它步骤的
bhltweb
·
2020-09-15 00:16
kettle
sql
数据库
脚本
jdbc
ETL之四 开源项目
Kettle
说到ETL开源项目,
Kettle
当属翘首,因此,偶决定花点时间了解一下。项目名称很有意思,水壶。按项目负责人Matt的说法:把各种数据放到一个壶里,然后呢,以一种你希望的格式流出。
wangjh100
·
2020-09-14 23:51
BI
作业
工作
任务
input
sql
存储
数据同步工具:
kettle
和spoon
数据同步工具:
kettle
和spoon
kettle
,spoon(可视化工具),组件的并行性,不同的线代表不同的含义,有多种组件:可以执行SQL脚步,Java,读取excel等等。看需要使用。
y41992910
·
2020-09-14 21:28
数据同步
彻底搞清
Kettle
数据分发方式与多线程
目录1.分发方式(1)输入两线程,输出单线程(2)输入单线程,两个输出,一个单线程、另一个两线程(3)输入单线程、两个输出均为两线程(4)所有步骤均为两线程(5)输入步骤为两线程,输出步骤为四线程2.复制方式(1)输入两线程,输出单线程(图4)(2)输入单线程,两个输出,一个单线程、另一个两线程(图6)(3)输入单线程、两个输出均为两线程(图8)(4)所有步骤均为两线程(图10)(5)输入步骤为两
wzy0623
·
2020-09-14 12:26
Pentaho
Work
with
Big
Data
kettle
(PDI)解析xml、json等格式数据的方法
最近由于工作业务需要,一直在研究pdi工具中解析xml、json等格式数据的方法,解析xml和json都较简单。解析xml的时候,只需要选择相应的文件(不一定要是xml文件,txt的也行,只要是数据是xml格式就可以),然后选择循环读取路径,设置好标签对名称即可:一:选择文件,如果xml数据是上一过程输入的,不用选择文件:二:选择循环解析xml的节点,你所选择的节点应该是所以数据的根节点:三:设置
小胖快跑
·
2020-09-14 02:56
任务调度 -- DAG 并行执行调度
向导背景调研思路调度逻辑效果背景 我司要做一个在页面上托拉拽进行ETL的操作,类似于
kettle
,但我们不想用
kettle
这种C/S架构,我们要做B/S架构,封装为产品。
TheBiiigBlue
·
2020-09-14 01:26
并发编程
java
多线程
调度
Java调用
Kettle
工具方法
Java调用
Kettle
工具方法这里需要的主要依赖包下面已列出,其他的运行时缺什么补什么就行:pentaho-
kettle
kettle
-core7.1.0.0-12pentaho-
kettle
kettle
-dbdialog7.1.0.0
不如一默
·
2020-09-13 23:24
Java
java
jar包的License信息都存在于哪块
最近两天在搞产品发布前的jar包License扫描工作,因为这个数据交换项目是基于
Kettle
做的二次开发,而
Kettle
本身是一款强大的开源数据交换产品,其中包含了近两千个jar包,所以为了产品发布后不被惹上官司
weixin_34197488
·
2020-09-13 23:24
Kettle
源码分析
Kettle
4.2源码分析第一讲--
Kettle
简介1.PDI结构简介图1‑1PDI核心组件Spoon是构建ETLJobs和Transformations的工具。
slivelight
·
2020-09-13 19:16
数据技术
kettle
-linux环境下部署
kettle
,执行kitchen.sh文件报错后安装 libwebkitgtk,提示没有可用软件包libwebkitgtk。
提示:本环境为centos7.2mini.建议在纯净环境上部署,不然会提示某些依赖包已安装过或者版本过高的问题。执行./kitchen.sh报错信息:[root@lx01data-integration]#./kitchen.sh#######################################################################WARNING:nolibw
lisery_nj
·
2020-09-13 19:49
kettle
etl
kettle
学习(一)——入门与安装
一、概述1.
kettle
是什么
Kettle
是一款国外开源的ETL工具,纯java编写,可以在Window、Linux、Unix上运行,绿色无需安装,数据抽取高效稳定。
三房头o
·
2020-09-13 13:38
kettle
kettle
kettle入门
大数据项目架构选型和集群规划
日志文件:页面数据、埋点数据数据采集sqoop、
kettle
flumeshell.数据存储:HDFS、Hive、HBASE数据清洗Mapreduce、hive、sparkCore数据处理(分析)Hive
leson-xu
·
2020-09-13 09:53
大数据
大数据项目架构
集群规划
Kettle
学习系列之数据仓库、数据整合、ETL、ELT和EII之间的区别?
不多说,直接上干货!在数据仓库领域里,的一个重要概念就是数据整合(dataintergration)。数据整合它就是把不同数据库中的数据整合到一起,对外提供统一的数据视图。数据整合最典型的案例就是整合存货数据和订单数据。数据整合的另一个案例就是把各个部门的客户关系管理系统中的客户信息整合到公司客户关系管理系统中。数据整合是一个比ETL更加广泛的概念,ETL是指从一个或多个数据源抽取数据,经过一个或
weixin_34082177
·
2020-09-13 06:00
kettle
入门之文本文件输入
文本文件输入控件由:文件,内容,错误处理,过滤,字段,其他输出字段Tap页组成,适用于读取txt与csv文件文件:主要(常用)功能选择文件,添加文件,预览文件内容:主要用于配置分割字符,行号,字符编码以及过滤头尾行文本限定符:让分隔符能以文本的形式正常解析错误处理过滤:可以简单过滤一些我们不需要的数据.不过每次过滤都是一行数据.并不是单个数据过滤字符串:只支持字符串不支持正则过滤器位置:暂不清楚填
扎罗的盒子
·
2020-09-13 04:27
kettle
#
输入
java
etl
Kettle
实现文本文件数据抽取方法
Kettle
Txt To Database
把一个有特定格式的的文本文件,写入数据库表Operation:1.文本文件的内容:2.文本文件输入3.选择文件类型,默认的CSV,分隔符|4.输入2个字段名和数据类型7.字段选择8.表输出10.
0808xyj
·
2020-09-13 04:24
ETL
Kettle
文本文件导入到MySQL
今天第一次使用
Kettle
,希望通过每天的练习,记录过程,数量掌握
Kettle
的用法今天就先记录下一个入门级的操作,文本文件导入到MySQL。
SherryGo
·
2020-09-13 04:19
Kettle
之“获取文件名”
作为一个搞数据库的,导入数据本来是小事一桩,可这有几百个文件要手工逐个处理未免太麻烦了,于是想起了
Kettle
。
wzy0623
·
2020-09-13 03:26
BI
MySQL
Kettle
的“文本文件输入”中,Fixed类型文件的读取
有时我们在“文本文件输入”时,文件类型会采用“Fixed”,那么对应的字段应该如何设置呢?如果我们只是在“文件类型”处选择了“Fixed”类型,那么在“字段”模块下,点击“获取字段”时默认只有一个字段,如下图:(这里我们文件中其实有四个字段:Roller_Coaster、Speed、Location、Year)那么如何来划分固定长度字段呢?这里需要我们手动去设置每列固定的宽度,方法是单击上面的标尺
哇哈哈水有点甜
·
2020-09-13 03:05
Kettle
kettle
demo1 从文本文件导入数据库
2019独角兽企业重金招聘Python工程师标准>>>
kettle
从文本文件导入数据库此文章主要为了对自己最近的摸索做个笔记,记录些坑,有些定义就不再叙述了,都是在网上看的这个是第一次创建的例子,所以步骤会详细些
weixin_34384557
·
2020-09-13 03:51
kettle
-文本文件输出
转载于:https://www.cnblogs.com/LXL616/p/10842081.html
weixin_34032621
·
2020-09-13 03:24
kettle
实现文本文件数据抽取方法
KETTLE
做调度的思路是,把一个有特定格式的的文本文件,写入ORACLE数据库表,具体方法见如下操作:首先来看下文本文件的内容:1|test12|test23|test3通过|进行分割的。
weixin_34032621
·
2020-09-13 03:24
kettle
-文本文件输入
转载于:https://www.cnblogs.com/LXL616/p/10836225.html
weixin_33737774
·
2020-09-13 03:34
Kettle
文本文件输出和输入控件使用中,换行符导致的问题处理
1、如下图通过输入控件从数据库读取数据然后生成TXT文本文件,TXT文件生成原则是每一条数据生成一行数据,第二条数据换行保存2、如下图所示,使用文本文件输入控件读入上图生成的文件,文件读入原则是按行读入,然后根据指定的分隔符拆分字段值。3、那么如果一些数据值不规则就会产生问题比如:某一个字段值存在换行呢,这样在生成文件的时候就会出现文件错乱,从当前的换行开始后边的数据都是错乱的,那么在文本文件读入
weixin_30454481
·
2020-09-13 03:00
上一页
15
16
17
18
19
20
21
22
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他