E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Odps
ClickHouse的优缺点和应用场景
数据批量从
ODPS
表中同步,数据一致性容忍度高支持复杂数据结构,例如Array,方便查询数据成本越少越好简单的Mysql、ClickHouse性能对比:ClickHouse的优点1、只
zhang菜鸟
·
2024-02-11 08:15
大数据
clickhouse
数据仓库
大数据
SQL面试题挑战15:sql实现分钟级的趋势图
问题在Hive或者
ODPS
中,怎么用sql实现分钟级的趋势图?比如从交易表中,如何统计0点到每分钟的交易趋势图?
浊酒南街
·
2024-02-08 12:28
SQL面试题
sql
数据库
涤生大数据实战:基于Flink+
ODPS
历史累计计算项目分析与优化(上)
涤生大数据实战:基于Flink+
ODPS
历史累计计算项目分析与优化(一)1.前置知识
ODPS
(OpenDataPlatformandService)是阿里云自研的一体化大数据计算平台和数据仓库产品,在集团内部离线作为离线数据处理和存储的产品
涤生大数据
·
2024-02-08 08:55
数仓建模/数据架构/数据治理
大数据
flink
odps
DataX概述
1.概述DataX是阿里开源的的一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能
大数据开发工程师-宋权
·
2024-02-07 14:01
DataX
hadoop
阿里云datax工具使用详解
系统需求快速开始补充datax介绍DataX是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、SQLServer、Oracle、PostgreSQL、HDFS、Hive、HBase、OTS、
ODPS
王春星
·
2024-02-07 14:01
数据高效导入工具
大数据数据迁移工具选择
快速导数据工具
异构数据源导入工具
大数据工具
datax安装与使用详解
dataX概览1.1DataXDataX是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、SQLServer、Oracle、PostgreSQL、HDFS、Hive、HBase、OTS、
ODPS
jhchengxuyuan
·
2024-02-07 14:00
hadoop
大数据
datax
大数据
Double类型只用8字节存储但范围为什么那么大
ODPS
的Double描述:类型描述取值范围Double8字节双精度浮点数。-1.0E308~1.0E308Double用8字节双精度浮点数1.0E+381.0乘以10的308次方,为什么会这么大?
sunny05296
·
2024-02-07 08:06
数据库
开发
常见问题
原来还可以使用 DataX 进行数据同步
DataX实现了包括MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
)、Hologres
lytao123
·
2024-02-07 06:16
➤
数据库
big
data
hive
java
DataX
Clickhouse
Clickhouse到HBase(Phoenix)数据导入 DataX
DataXDataX是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。
布尔科技技术团队
·
2024-02-07 06:44
hbase
oracle
postgresql
数据仓库
Datax3.0+DataX-Web部署分布式可视化ETL系统
DataX致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase、FTP等各种异构数据源(即不同的数据库)间稳定高效的数据同步功能。
無法複制
·
2024-02-03 08:06
分布式
etl
数据仓库
DataX介绍
一、介绍DataX是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。
有人看我吗
·
2024-02-02 18:03
大数据
datax
datax 学习记录
是由阿里巴巴研发并开源的一个异构数据源离线同步工具,DataX实现了包括MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
咳咳00
·
2024-02-02 17:58
学习
大数据
datax
datax避坑记录
DataX实现了包括MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
佛祖保佑永不宕机
·
2024-02-02 17:28
数据库
数据库
“美亚柏科杯”数据安全比赛-赛前培训题目WP
不安全的直接对象引用点击按钮发包,修改guest为admin即可:Key:YaXipPfic9454pygbdiGQxj9epzQd3bGypZKOv9/ZC1vMnxe051mMlHVuyUhgehpToc+q
odPs
mDTSheSdewRhEaK7y0NBJj
M1r4n
·
2024-02-02 09:50
网络安全
selenium实现dataworks自动化批量创建数据集成任务
场景:从
odps
下同步数据到mysql库库名相同,表名不同二、思路使用selenium模拟人的操作路径。
终回首
·
2024-02-01 08:16
selenium
自动化
测试工具
dataworks
大数据
mysql 同步 工具 开源_开源数据同步工具——datax
是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
weixin_39942572
·
2024-01-28 12:08
mysql
同步
工具
开源
开源数据同步工具DataX
DataX实现了包括MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
快乐江小鱼
·
2024-01-28 12:34
java
开源
java
MySQL 规约(转自阿里巴巴开发手册)
一、建表规约【强制】表达是与否概念的字段,必须使用is_xxx的方式命名,数据类型是unsignedtinyint(1表示是,0表示否),此规则同样适用于
odps
建表。
亏呢啊陆系
·
2024-01-22 20:47
Apache doris Datax DorisWriter扩展使用方法
DataX实现了包括MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
)、Hologres
张家锋
·
2024-01-22 15:27
DataX&数据同步(全量)
1.DataX简介1.1DataX概述 DataX是阿里巴巴开源的一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase、FTP
韩顺平的小迷弟
·
2024-01-16 11:29
大数据
数据同步
解析
ODPS
SQL 任务优化方法原理
一文解析
ODPS
SQL任务优化方法原理本文重点尝试从
ODPS
SQL的逻辑执行计划和Logview中的执行计划出发,分析日常数据研发过程中各种优化方法背后的原理,覆盖了部分调优方法的分析,从知道怎么优化,
Elivis Hu
·
2024-01-16 03:10
架构师
odps
sql
大数据
单机物理机部署Datax
一、概述DataX是阿里巴巴开源的一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能
DIY……
·
2024-01-14 07:34
大数据
DataX 学习笔记
一.DataX简介1.1DataX概述DataX是阿里巴巴开源的一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能
十二同学啊
·
2024-01-11 08:39
数据离线同步框架
数据库
big
data
database
DataX部署及迁移操作说明
DataX安装部署1、DataX简介DataX是阿里巴巴开源的一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能
曹弘毅
·
2024-01-06 06:11
datax
odps
常用命令
odps
cmd使用:源端配置好config.ini:project,ak,skservice地址,tunnel地址
odps
cmd下载
odps
@
odps
_project>tunneldownloaddim_trans_flg_c0087
曹弘毅
·
2024-01-06 06:40
BigData
odps
大数据
数据仓库
使用 Py
ODPS
采集神策事件数据
第四坑:Py
ODPS
引用参数第五坑:project'for_analysis'isprote
Xin学数据
·
2024-01-01 01:59
Python应用
阿里云大数据
数据库
阿里云
python
datax
DataXDataX是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、SQLServer、Oracle、PostgreSQL、HDFS、Hive、HBase、OTS、
ODPS
等各种异构数据源之间高效的数据同步功能
jerry-89
·
2023-12-29 09:24
DorisDB
database
odps
script使用
目录一、使用环境二、注意点一、使用环境阿里DataStudio二、注意点1、使用@给参数赋值:@month:='20230102';select*fromtable_awherem=@month;2、不可以直接使用临时表,想要使用临时表需要以参数赋值的形式@tmp_table:=selectidfromtable_a;select*from @tmp_table;3、只能有一个insert语句
MrMua
·
2023-12-28 20:45
odps
大数据
数据仓库
odps
年月日
目录一、
odps
取年月日二、
odps
取当年初、当月初、当日三、
odps
上年末、上月末四、
odps
上年初、上月初一、
odps
取年月日--取年SELECTTO_CHAR(DATE'2023-01-02','
MrMua
·
2023-12-28 20:14
odps
大数据
数据仓库
DataX安装与原理
一、简介与安装DataX是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能
大数据点滴
·
2023-12-22 14:05
DataX
DataX
数据库
Datax学习整理
是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
耗子背刀PK猫
·
2023-12-18 02:53
学习
MaxCompute获取当前季度的第一天日期(
odps
sql)
工作中遇到获取当前季度的第一天,如下所示SELECTCASEWHENQUARTER(GETDATE())=1THENDATETRUNC(GETDATE(),'yyyy')WHENQUARTER(GETDATE())=2THENDATEADD(DATETRUNC(GETDATE(),'yyyy'),3,'mm')WHENQUARTER(GETDATE())=3THENDATEADD(DATETRUN
Oceanside_yh
·
2023-12-16 13:50
odps
大数据
数据仓库
maxcompute
2019-08-16工作进展
mvdssm训练集生成pai-nametensorflow140-Dscript="file:///home/hengsong/origin_deep_cluster_
odps
_8.tar.gz"-DentryFile
Songger
·
2023-12-15 11:39
阿里云数据中台核心引擎
核心引擎MaxCompute阿里离线数据计算平台(离线数仓)原名
ODPS
,阿里巴巴自主研发的海量数据处理平台MaxCompute处理存储在TableStore的数据(不负责收集数据到TableStore
hsabrina
·
2023-11-30 00:30
工程架构
big
data
大数据
ODPS
SQL优化总结
ODPS
(OpenDataProcessingService)是一个海量数据处理平台,基于阿里巴巴自主研发的分布式操作系统(飞天)开发,是公司云计算整体解决方案中最核心的主力产品之一。
小二上酒8
·
2023-11-28 14:09
odps
sql
hive
java
开发语言
Datax安装部署及读取MYSQL写入HDFS
一.DataX简介1.DataX概述DataX是阿里巴巴开源的一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能
Appreciate(欣赏)
·
2023-11-26 09:25
datax
mysql
hdfs
大数据
【黑马甄选离线数仓day02_数据采集】
1.数仓工具使用-DataX1.1DataX介绍DataX是阿里推出的一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase、FTP
LKL1026
·
2023-11-24 16:02
数据仓库
大数据
笔记
Datax的使用说明及入门操作案例演示
DataX实现了包括MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
嫣夜来
·
2023-11-23 14:39
知识积累
分布式
数据库
数据库
大数据
hive
阿里云MaxCompute(
ODPS
)下载数据
基于
odps
cmd工具中的tunnel命令进行下载阿里云相关文档:https://help.aliyun.com/document_detail/27971.html?
心碎无语
·
2023-11-20 23:55
大数据全攻略:10年老兵带你看尽MaxCompute大数据运算挑战与实践(下)
大数据计算服务(MaxCompute,原名
ODPS
)是一种快速、完全托管的TB/PB级数据仓库解决方案。
chuange6363
·
2023-11-19 19:05
大数据
运维
java
python在
ODPS
上的深度应用
前言对于需要在
ODPS
上进行数据管理,且要用到python进行数据分析的童鞋来说,这篇总结是绝对的干货。
lazyone10
·
2023-11-15 21:54
python
odps
dataframe
ODPS
将列中逗号分隔的数据展示为多行数据
ODPS
中有的列有数据是逗号分隔的数据,需要转化为多行数据,方便与其他表关联查询。
BinaryBoss
·
2023-11-13 17:50
阿里云
odps
sql
mysql
sql 字符串函数
Maxcompute
odps
sql字符串函数1.CHAR_MATCHCOUNTBIGINTCHAR_MATCHCOUNT(STRINGstr1,STRINGstr2)--计算str1中有多少个字符出现在
叶铁柱
·
2023-11-08 22:47
data
sql
字符串
字符串函数
maxcompute
dataworks
DataX数据同步工具
DataX实现了包括MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
躺着听Jay
·
2023-11-07 17:23
大数据
数据仓库
ODPS
权威指南读书笔记
第五章第五章内容注意点:sql的执行顺序:from>on>join>where>groupby>having>select>distinct>orderby>limit
ericsonyc
·
2023-11-02 15:39
odps
数据库常用命令
总结一下
ODPS
数据库常用命令,希望能给使用的小伙伴提供一点帮助~(1)切换数据库:use[数据库的名称];(2)查看数据库中的表:listtables;(3)创建表以及往表中插入数据的过程:创建表CREATETABLEzyn001
西瓜糯米饭
·
2023-10-28 11:39
odps
函数
1、wm_concat聚合函数,可以实现对分组后的列数据拼接成一行。参数:第一个参数为分隔符,第二个参数为要聚合的列;selectprov_code,wm_concat('-',city_name)fromcode_china_areagroupbyprov_code;2、datediff日期函数,求两个日期的时间差selectdatediff(getdate(),'2023-06-3000:00
静听山水
·
2023-10-26 14:39
Odps
sql
ODPS
#MaxCompute数据开发中几个常见的异常及解决方案
异常1:分区表不允许全表扫描,必须指定分区值FAILED:
ODPS
-0130071:[0,0]Semanticanalysisexception-physicalplangenerationfailed
有时有味
·
2023-10-25 05:54
ODPS
大数据
1024程序员节
大数据
odps
maxcompute
DataX原理及安装
是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
Rudolf_liu
·
2023-10-22 09:11
00-开源离线同步工具DataX3.0重磅详解!
1概览DataX是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。
JavaEdge.
·
2023-10-21 03:46
java
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他