E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
ODPS
Apache doris Datax DorisWriter扩展使用方法
DataX实现了包括MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
)、Hologres
张家锋
·
2023-10-15 14:25
阿里 MySQL 规约_阿里出品《MySQL 规约》
【强制】表达是与否概念的字段,必须使用is_xxx的方式命名,数据类型是unsignedtinyint(1表示是,0表示否),此规则同样适用于
odps
建表。
weixin_39542043
·
2023-10-15 10:23
阿里
MySQL
规约
【java】hutool发送http请求,配置ssl忽略
1.发送请求importcn.hutool.http.HttpRequest;/***cf*/publicclassTq
OdpS
erviceClient{privatestaticStringurl="
飞四海
·
2023-10-13 16:12
Java
java
http
ssl
MaxCompute全套攻略
概况介绍大数据计算服务(MaxCompute,原名
ODPS
,产品地址:https://www.aliyun.com/product/
odps
)是一种快速、完全托管的TB/PB级数据仓库解决方案。
JQW_FY
·
2023-10-13 13:08
大数据
大数据
阿里巴巴大数据计算平台MaxCompute全套攻略
大数据计算服务(MaxCompute,原名
ODPS
)是一种快速、完全托管的TB/PB级数据仓库解决方案。
chulicheng5417
·
2023-10-13 13:36
大数据
运维
java
Hive/MaxCompute SQL性能优化(三):数据倾斜优化实战
set
odps
.sql.map
王义凯_Rick
·
2023-10-08 20:00
#
ODPS
hive
性能优化
数据倾斜
sql优化
MaxCompute
java springboot 大文件分片上传处理
1背景用户本地有一份txt或者csv文件,无论是从业务数据库导出、还是其他途径获取,当需要使用蚂蚁的大数据分析工具进行数据加工、挖掘和共创应用的时候,首先要将本地文件上传至
ODPS
,普通的小文件通过浏览器上传至服务器
M_Snow
·
2023-10-08 04:32
java
spring
boot
服务器
DataX 的配置及使用
DataX是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、SQLServer、Oracle、PostgreSQL、HDFS、Hive、HBase、OTS、
ODPS
等各种异构数据源之间高效的数据同步功能
Q以梦为马
·
2023-10-06 13:50
MaxCompute SQL
修改记录时间内容2020年9月13日第一次发布一、概述1.1定义MaxCompute(原
ODPS
)SQL适用于海量数据(TB级别),实时性要求不高的场合,比如离线批量计算,它的每个作业的准备,提交等阶段要花费较长时间
宇宙中的Philip
·
2023-09-30 05:51
大数据
odps
大数据
sql
2022年开篇
我对2021的总结2021是我从工程质量转向数据质量第一年,乍见的欢喜,
odps
/py
odps
/flink/lindorm/hadoop各式各样的技能栈触手可得,到久处的平淡,最后我收获了什么?
程南swimming
·
2023-09-28 10:57
实时数仓Hologres:推出计算组实例/支持JSON数据/向量计算+大模型等新能力
阿里云
ODPS
系列产品以MaxCompute、DataWorks、Hologres为核心,致力于解决用户多元化数据的计算需求问题,实现存储、调度、元数据管理上的一体化架构融合,支撑交通、金融、科研、等多场景数据的高效处理
阿里云云栖号
·
2023-09-28 10:34
云栖号技术分享
json
云计算
阿里云
大数据
DataWorks 全新发布:增强分析/数据建模个人版等新能力
阿里云
ODPS
系列产品以MaxCompute、DataWorks、Hologres为核心,致力于解决用户多元化数据的计算需求问题,实现存储、调度、元数据管理上的一体化架构融合,支撑交通、金融、科研、等多场景数据的高效处理
阿里云云栖号
·
2023-09-28 10:32
云栖号技术分享
云计算
阿里云
大数据
Python操作
odps
odps
有完整的Python第三方包,我们只需要按照常规的流程操作,中间会有一些需要注意的点,也是我在使用的过程中遇到的一些坑,会单独说明一下1、安装第三方包pipinstallpy
odps
from
odps
import
ODPS
张小爷
·
2023-09-27 03:10
实时数仓 Hologres:推出计算组实例/支持JSON数据/向量计算+大模型等新能力
阿里云
ODPS
系列产品以MaxCompute、DataWorks、Hologres为核心,致力于解决用户多元化数据的计算需求问题,实现存储、调度、元数据管理上的一体化架构融合,支撑交通、金融、科研、等多场景数据的高效处理
·
2023-09-25 15:09
【
ODPS
新品发布第 2 期】实时数仓 Hologres:推出计算组实例/支持 JSON 数据/向量计算+大模型等新能力
云布道师阿里云
ODPS
系列产品以MaxCompute、DataWorks、Hologres为核心,致力于解决用户多元化数据的计算需求问题,实现存储、调度、元数据管理上的一体化架构融合,支撑交通、金融、科研
云布道师
·
2023-09-23 06:25
阿里云
vue之大文件分段上传、断点续传
1背景用户本地有一份txt或者csv文件,无论是从业务数据库导出、还是其他途径获取,当需要使用蚂蚁的大数据分析工具进行数据加工、挖掘和共创应用的时候,首先要将本地文件上传至
ODPS
,普通的小文件通过浏览器上传至服务器
weixin_52041354
·
2023-09-21 00:19
web大文件上传
javascript
前端
asp.net
DataWorks 全新发布:增强分析/数据建模个人版等新能力
阿里云
ODPS
系列产品以MaxCompute、DataWorks、Hologres为核心,致力于解决用户多元化数据的计算需求问题,实现存储、调度、元数据管理上的一体化架构融合,支撑交通、金融、科研、等多场景数据的高效处理
·
2023-09-19 17:23
离线数据同步平台datax+报表可视化平台metabase
是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
liaomin416100569
·
2023-09-17 19:33
大数据
阿里云大数据实战记录10:Hive 兼容模式的坑
8、小结1、前言今天在开发一个表单的时候,MaxCompute抛给我一个错误:SQLRuntimeUnretryableError:
ODPS
-0121125:
Xin学数据
·
2023-09-17 16:58
阿里云大数据
大数据
阿里云
hive
【
ODPS
新品发布第1期】DataWorks全新发布:增强分析/数据建模个人版等新能力
阿里云
ODPS
系列产品以MaxCompute、DataWorks、Hologres为核心,致力于解决用户多元化数据的计算需求问题,实现存储、调度、元数据管理上的一体化架构融合,支撑交通、金融、科研、等多场景数据的高效处理
阿里云大数据AI技术
·
2023-09-16 09:55
odps
大数据
数据仓库
Dataworks实现接口调用
Restful风格的url,若是需要账号密码登录等可以切换“验证方法”步骤二:在离线同步中创建离线同步任务,数据来源选择配置的Restful数据源其他接口调用功能:实现非Restful风格的接口调用使用节点:Py
ODPS
hutc_Alan
·
2023-09-15 21:06
python
dataworks
rfc
datax和datax-web编译安装和使用
DataX是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、OTS、
ODPS
等各种异构数据源之间高效的数据同步功能
shangjg3
·
2023-09-15 00:54
数据中台
大数据
数据仓库
etl
DataX源码打包编译采坑记--修改MongoDB 插件
otsstreamreader/pom.xmlcom.aliyun.openservicestablestore-streamclient1.0.0-SNAPSHOT此处把1.0.0-SNAPSHOT改成1.0.03.
odps
reader
科比小皇帝
·
2023-09-13 06:35
datax工具介绍及简单使用
介绍Datax是一个异构数据源离线同步工具,致力于实现包括关系数据库、HDFS、Hive、
ODPS
、Hbase等各种异构数据源之间稳定高效的数据同步功能设计理念为了解决异构数据源同步问题,DataX将复杂的网状的同步链路变成了星型数据链路
飞越石之海
·
2023-09-13 04:08
数据治理
大数据
数据同步
datax
datax3.0在linux下配置并部署datax-web可视化工具教程
DataX致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase、FTP等各种异构数据源(即不同的数据库)间稳定高效的数据
yuanzelin8
·
2023-09-08 14:25
mysql
datax
阿里云大数据实战记录8:拆开 json 的每一个元素,一行一个
目录一、前言二、目标介绍三、使用pgsql实现3.1拆分content字段3.2拆分level字段3.3拼接两个拆分结果四、使用
ODPS
SQL实现4.1拆分content字段4.2拆分level字段4.3
Xin学数据
·
2023-09-02 14:24
阿里云大数据
数据库
postgresql
dataworks
MySQL
maxcompute
深入MaxCompute -第十弹 -IF ELSE分支语句
MaxCompute(原
ODPS
)是阿里云自主研发的具有业界领先水平的分布式大数据处理平台,尤其在集团内部得到广泛应用,支撑了多个BU的核心业务。
阿里云大数据AI技术
·
2023-08-31 19:41
阿里云
大数据
云计算
深入MaxCompute -第十一弹 -QUALIFY
MaxCompute(原
ODPS
)是阿里云自主研发的具有业界领先水平的分布式大数据处理平台,尤其在集团内部得到广泛应用,支撑了多个BU的核心业务。MaxCompute除了持续优化性能外,也致力于提
阿里云大数据AI技术
·
2023-08-31 19:41
阿里云
云计算
大数据
深入MaxCompute -第十二弹 -PIVOT/UNPIVOT
MaxCompute(原
ODPS
)是阿里云自主研发的具有业界领先水平的分布式大数据处理平台,尤其在集团内部得到广泛应用,支撑了多
阿里云大数据AI技术
·
2023-08-31 19:36
阿里云
大数据
云计算
深入MaxCompute -第十二弹 -PIVOT/UNPIVOT
MaxCompute(原
ODPS
)是阿里云自主研发的具有业界领先水平的分布式大数据处理平台,尤其在集团内部得到广泛应用,支撑了多
·
2023-08-31 17:01
大数据
深入MaxCompute -第十一弹 -QUALIFY
MaxCompute(原
ODPS
)是阿里云自主研发的具有业界领先水平的分布式大数据处理平台,尤其在集团内部得到广泛应用,支撑了多个BU的核心业务。MaxCompute除了持续优化性能外,也致力于提
·
2023-08-31 14:18
大数据
深入MaxCompute -第十弹 -IF ELSE分支语句
MaxCompute(原
ODPS
)是阿里云自主研发的具有业界领先水平的分布式大数据处理平台,尤其在集团内部得到广泛应用,支撑了多个BU的核心业务。
·
2023-08-31 10:52
大数据处理
DataX 异构数据贴源同步产品 - 技术分享篇(一)
DataX是阿里开源的一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。
Splicing
·
2023-08-31 06:07
DataX
java
mysql
spark
scala
datax安装+配置+使用文档
是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
涂作权的博客
·
2023-08-30 12:32
#
datax
datax
阿里mysql表命名规范_阿里mysql规范
【强制】表达是与否概念的字段,必须使用is_xxx的方式命名,数据类型是unsignedtinyint(1表示是,0表示否),此规则同样适用于
odps
建表。
杨仲慈
·
2023-08-27 11:56
阿里mysql表命名规范
mysql阿里巴巴开发规范_阿里巴巴-Mysql规约/规范
【强制】表达是与否概念的字段,必须使用is_xxx的方式命名,数据类型是unsignedtinyint(1表示是,0表示否),此规则同样适用于
odps
建表。
ChaoyangHe何朝阳
·
2023-08-27 11:25
mysql阿里巴巴开发规范
阿里巴巴公约学习
数据库【强制】表达是与否概念的字段,必须使用is_xxx的方式命名,数据类型是unsignedtinyint(1表示是,0表示否),此规则同样适用于
odps
建表。
盼旺
·
2023-08-27 02:22
MaxCompute 与 AnalyticDB MySQL 数据处理与转换
AnalyticDBMySQL(简称ads)与MaxCompute(简称
odps
)进行数据转换时,个别语法有差别,记录下来,方便备查。
梦幻通灵
·
2023-08-25 11:44
数据处理
大数据
mysql
odps
数据库
阿里大数据工程师讲如何用使用MaxCompute Studio 开发大数据应用
MaxCompute(原
ODPS
)是阿里云自主研发的分布式大数据处理平台,为用户提供了开放的编程接口和SDK,允许用户在其强大灵活的存储和计算能力之上开发自己的数据应用和系统,创造更大的价值。
大数据05
·
2023-08-20 17:18
Hologres使用小记
1、Hologres0.8创建数组类型外部表采坑
ODPS
:CREATETABLE`test_clue`(`id_c`array,`name`array);Holo:CREATEFOREIGNTABLEtest_clue
大数据00
·
2023-08-19 05:14
阿里云
Hologres
阿里云
Spark 图计算ONEID 进阶版
环境参考搭建Windows开发环境_云原生大数据计算服务MaxCompute-阿里云帮助中心版本spark2.4.5,maven版本大于3.8.4①配置pom依赖详见2-1②添加运行jar包③添加配置信息
odps
.project.name
大数据00
·
2023-08-19 05:09
用户画像
Spark
spark
大数据
分布式
graph
ODPS
基本概念
什么是
ODPS
?开发数据处理服务(OpenDataProcessingService,简称
ODPS
),2016年后更名MaxComputer。
眼君
·
2023-08-14 20:59
【大数据】数据仓库
1.前言小编最近接到一个任务是大数据方向的,业务是将mysql的数据同步到阿里云的MaxCompute(
ODPS
)数据仓库中。那么过程中会涉及到哪些知识呢?小编记录下了学习过程,欢迎大家指教。
binggetong
·
2023-08-12 16:22
开源数据同步工具——datax
是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
MrAnderson
·
2023-08-08 00:02
hive/
odps
等with as 的插入语法、lateral view 侧视图与explode、json_tuple
文章目录Oracle中则可以将插入语句放在开头lateralview几种用法lateralview除了explode还有json_tupe等函数联用withaas(select*fromtest),bas(select*fromtest2)insertinto/overwritetableselect*fromajoinbona.id=b.idOracle中则可以将插入语句放在开头insertin
jokertiger
·
2023-08-02 17:50
hive
json
hadoop
使用阿里云DataX完成数据同步
DataX实现了包括MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
千月落
·
2023-08-02 14:13
数据库
阿里云
数据库
dataX是阿里开源的离线数据库同步工具的使用
dataX是阿里开源的离线数据库同步工具的使用DataX介绍:DataX是阿里开源的一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase
凯哥Java
·
2023-08-01 09:45
凯哥Java
datax
来自于alibaba的Datax使用
DataX实现了包括MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
鲜花怒马少年时,一日看尽长安花
·
2023-08-01 06:39
DataX
后端
DataX使用示例
是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(
ODPS
liang_336
·
2023-08-01 06:38
datax
大数据
DataX使用说明
DataX使用说明1.DataX介绍DataX是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、
ODPS
、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能
此成非彼诚
·
2023-08-01 06:38
工具
数据同步
datax
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他