E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Flink学习之路
Python基础
学习之路
(七) ------ 类/继承/重写
一.创建与调用可以看到:实例方法的创建语句,和函数的定义语句很类似,唯一不同的是:实例方法中有个必须放在首位的参数self。特殊参数self的作用:self会接收实例化过程中传入的数据,当实例对象创建后,实例便会代替self,在代码中运行。换言之,self是所有实例的替身调用:在类方法中调用类属性注意前面要加self:classChinese:name='吴枫'#类属性namedefsay(sel
千喜Ya
·
2024-02-04 05:52
Exception in thread “Thread-6“ java.lang.IllegalStateException: Trying to access closed classloader.
目录报错信息解决办法解释地址:https://issues.apache.org/jira/browse/
FLINK
-19916报错信息Exceptioninthread“Thread-6”java.lang.IllegalStateException
十二点的泡面
·
2024-02-04 05:38
大数据报错信息的解决
java
开发语言
029 命令行传递参数
for(Stringarg:args){System.out.println(arg);}}}2.找打这个类的路径,打开cmdcmdC:\Users\Admin\IdeaProjects\JavaSE
学习之路
冰冷的粒子
·
2024-02-04 04:50
JavaSE
java
开发语言
跨越速运基于
Flink
+ OceanBase的实时分析解决方案与实践
跨越速运成立于2007年,是一家在物流行业颇具影响力的大型综合速运企业。随着国内经济的持续增长,消费者的购物习惯也在不断变化,对物流行业的需求呈现爆发式增长。目前,跨越速运的服务已经覆盖全国99%的城市,年服务企业超100万家。跨越速运内部有超过100位BI分析师,日常工作需要借助大数据平台中的服务项目进行数据研发。跨越速运的数据服务场景中有一万余数据接口,日调用量超过1000万次,并保持99%查
OceanBase数据库官方博客
·
2024-02-03 23:48
flink
oceanbase
大数据
Flink
SQL 知其所以然(一)| source\sink 原理
1.序篇-本文结构本文从以下五个小节介绍
flink
sqlsource\sink\format的概念、原理。
大数据羊说
·
2024-02-03 22:26
hadoop、spark、
flink
集群修改默认ssh端口号
大数据集群在实际搭建过程中,其默认ssh端口不一定都是22,这时需要根据各自的配置文件进行适配。ssh端口号默认为22,以centos7.x为例,可以在/etc/ssh/sshd_config中进行修改,如下示例将22改为22222:#IfyouwanttochangetheportonaSELinuxsystem,youhavetotell#SELinuxaboutthischange.#sem
0X码上链
·
2024-02-03 21:12
大数据
分布式技术
ssh
hadoop
spark
flink
【MySQL性能优化】- MySQL结构与SQL执行过程
MySQL结构与SQL执行过程生命不息,写作不止继续踏上
学习之路
,学之分享笔记总有一天我也能像各位大佬一样博客首页@怒放吧德德To记录领地分享学习心得,欢迎指正,大家一起学习成长!
一个有梦有戏的人
·
2024-02-03 16:15
MySQL
mysql
性能优化
sql执行过程
【MySQL性能优化】- 存储引擎及索引与优化
索引与优化生命不息,写作不止继续踏上
学习之路
,学之分享笔记总有一天我也能像各位大佬一样博客首页@怒放吧德德To记录领地分享学习心得,欢迎指正,大家一起学习成长!
一个有梦有戏的人
·
2024-02-03 16:45
MySQL
mysql
性能优化
数据库
mysql索引
存储引擎
【MySQL性能优化】- Explian用法与结果集详细分析
Explain详细介绍生命不息,写作不止继续踏上
学习之路
,学之分享笔记总有一天我也能像各位大佬一样博客首页@怒放吧德德To记录领地分享学习心得,欢迎指正,大家一起学习成长!
一个有梦有戏的人
·
2024-02-03 16:45
MySQL
mysql
性能优化
EXPLAIN
SQL调优
【MySQL性能优化】- MySQL事务级别与锁机制
MySQL事务级别与锁机制生命不息,写作不止继续踏上
学习之路
,学之分享笔记总有一天我也能像各位大佬一样博客首页@怒放吧德德To记录领地分享学习心得,欢迎指正,大家一起学习成长!
一个有梦有戏的人
·
2024-02-03 16:12
MySQL
sql
mysql
性能优化
数据库
大数据高级开发工程师——
Flink
学习笔记(1)
文章目录
Flink
学习笔记
Flink
基础篇
Flink
简介1.处理无界和有界数据2.部署应用到任意地方3.运行任意规模的应用4.利用内存性能
Flink
的特点和应用场景1.
Flink
的特点2.
Flink
的应用场景
讲文明的喜羊羊拒绝pua
·
2024-02-03 15:23
大数据
Flink
flink
流计算
大数据
scala
java
循序渐进大数据组件之--
Flink
最近学习了
Flink
,做一些小的总结:(预计这个我会出一个系列)先来看看
Flink
是什么:(出自官网)Apache
Flink
是一个框架和分布式处理引擎,用于在无边界和有边界数据流上进行有状态的计算。
Alex_81D
·
2024-02-03 15:20
大数据从入门到精通
大数据
Flink
的dataStream的状态保存和恢复
从容错和消息处理的语义上(atleastonce,exactlyonce),
Flink
引入了state和checkpoint。
我还不够强
·
2024-02-03 13:25
Flink
cep 基础知识以及相关api说明
Flink
CEP用于处理复杂事件模式匹配,整个CEP知识和体系还是比较复杂的,这里主要对一些常用的模式进行整理,为了简化内容,对于很少用的模式及api就省略了。
程序猿(攻城狮)
·
2024-02-03 11:47
大数据技术
flink
大数据
Flink
CEP(模式 API Pattern API )
目录
Flink
CEP模式API(PatternAPI)1.个体模式1.1基本形式1.2量词(Quantifiers)1.3条件(Conditions)2.组合模式2.1初始模式(InitialPattern
佛系爱学习
·
2024-02-03 11:16
flink知识点
flink
大数据
Flink
CDC全量及增量采集SqlServer数据
本文将详细介绍
Flink
-CDC如何全量及增量采集Sqlserver数据源,准备适配Sqlserver数据源的小伙伴们可以参考本文,希望本文能给你带来一定的帮助。
码猿小站
·
2024-02-03 10:48
大数据
数据同步
sqlserver
数据库
flink
Flink
实时数仓同步:拉链表实战详解
一、背景在大数据领域,初始阶段业务数据通常被存储于关系型数据库,如MySQL。然而,为满足日常分析和报表等需求,大数据平台采用多种同步方式,以适应这些业务数据的不同存储需求。这些同步存储方式包括离线仓库和实时仓库等,选择取决于业务需求和数据特性。一项常见需求是,业务使用人员需要大数据分析平台中查看历史某一天的表数据,示例如下:[Mysql]业务数据-用户表全量数据:idnamephonegende
Light Gao
·
2024-02-03 10:15
大数据
实时数仓
flink
大数据
数据仓库
拉链表
doris
Flink
实时数仓同步:流水表实战详解
一、背景在大数据领域,初始阶段业务数据通常被存储于关系型数据库,如MySQL。然而,为满足日常分析和报表等需求,大数据平台采用多种同步方式,以适应这些业务数据的不同存储需求。这些同步存储方式包括离线仓库和实时仓库等,选择取决于业务需求和数据特性。一项常见需求是,大数据分析平台需要能够检索某张业务表的变更记录,并以每天为单位统计每条数据的变更频率。以下是示例:[Mysql]业务数据-用户表全量数据:
Light Gao
·
2024-02-03 10:15
实时数仓
数据仓库
flink
大数据
flinkcdc
数据同步
数据仓库
Flink
容错机制
目录一,检查点:二,保存点:①版本管理和归档存储:②更新
Flink
版本:③更新应用程序:④调整并行度:⑤暂停应用程序:
Flink
容错机制一,检查点:在出现故障时,我们将系统重置回正确状态,以确保数据的完整性和准确性
佛系爱学习
·
2024-02-03 10:09
flink知识点
服务器
flink
大数据
分布式
Flink
CEP(基本概念)
Flink
CEP在
Flink
的学习过程中,我们已经掌握了从基本原理和核心层的DataStreamAPI到底层的处理函数,再到应用层的TableAPI和SQL的各种手段,可以应对实际应用开发的各种需求。
佛系爱学习
·
2024-02-03 10:09
flink知识点
flink
大数据
Flink
实时数仓同步:快照表实战详解
一、背景在大数据领域,初始阶段业务数据通常被存储于关系型数据库,如MySQL。然而,为满足日常分析和报表等需求,大数据平台采用多种同步方式,以适应这些业务数据的不同存储需求。这些同步存储方式包括离线仓库和实时仓库等,选择取决于业务需求和数据特性。一项常见需求是,业务使用人员需要大数据分析平台中查看历史某一天的表数据,示例如下:[Mysql]业务数据-用户表全量数据:idnamephonegende
Light Gao
·
2024-02-03 10:38
实时数仓
数据仓库
flink
大数据
数据仓库
flinkcdc
数据同步
Hbase - 自定义Rowkey规则
在
Flink
中我们有时候需要分析数据1点到2点的范围,可是经过Region又比较慢,这时候我们就可以定制TableInputFormat来实现我们的需求了,我们还可以采用
Flink
的DataSet的方式读取
kikiki2
·
2024-02-03 10:05
flink
sql sink to sr often fail because of nullpoint
flink
sqlorDSsinktostarrocksoftenfailbecauseofnullpoint
flink
sql和
flink
dssinkstarrocks经常报NullpointException
IT_ZhiCunGaoYuan
·
2024-02-03 06:11
flink
starrocks
flink-connector
Flink
SQL connector配置
jdbc'connector.type'='jdbc','connector.url'='jdbc:mysql://dimension.db.inc.com:3592/dbzz_bigdata_dimension?useUnicode=true&characterEncoding=utf8&autoReconnect=true&failOverReadOnly=false','connector.
大数据从零开始小熊嘛
·
2024-02-03 06:03
flink
java
flink
sql 部署_
Flink
SQL Client + Mysql CDC 部署实践
1.环境准备目标实现构建一个以
Flink
SQLClient为基础,简单的读取mysqlbinlog增量同步数据到kafkatopic中的
Flink
任务应用准备清单DockerDesktopwindows
weixin_39934257
·
2024-02-03 06:33
flink
sql
部署
hadoop 3.x 案例5:
Flink
SQL运行报错
文章目录一.问题描述二.解决方案参考:一.问题描述启动yarnsession后,运行
Flink
SQL,报错。
只是甲
·
2024-02-03 06:31
大数据和数据仓库
#
Hadoop大数据平台
sql
hadoop
flink
flink
cdc 启动 ./sql-client.sh embedded 异常
今天起动
flink
./sql-client.sh异常如下.
lbl251
·
2024-02-03 06:28
flink
etl
kafka
flink
Flink
SQL Client 安装各类 Connector、组件的方法汇总(持续更新中....)
一般来说,在
Flink
SQLClient中使用各种Connector只需要该Connector及其依赖Jar包部署到${
FLINK
_HOME}/lib下即可。
Laurence
·
2024-02-03 06:53
大数据专题
flink
sql
client
安装
部署
connector
插件
Flink
Process Function
前言转换算子是无法访问事件的时间戳信息和水位线信息的。而这在一些应用场景下,极为重要。例如MapFunction这样的map转换算子就无法访问时间戳或者当前事件的事件时间。基于此,DataStreamAPI提供了一系列的Low-Level转换算子。可以访问时间戳、watermark以及注册定时事件。还可以输出特定的一些事件,例如超时事件等。ProcessFunction用来构建事件驱动的应用以及实
Rex_2013
·
2024-02-03 04:16
Python
学习之路
002-小插曲之变量和字符串
注:内容源于学习小甲鱼《零基础入门学Python》,这些都是我自己写的作业,学习地址:https://www.bilibili.com/video/BV1Fs411A7HZ?p=20.以下哪个变量的命名不正确?为什么?(A)MM_520(B)_MM520_(C)520_MM(D)_520_MMA:C不正确,变量不能以数字开头1.在不上机的情况下,以下代码你能猜到屏幕会打印什么内容吗?>>>myte
阿花去哪里啦
·
2024-02-03 02:45
Apache Doris 整合
FLINK
CDC + Iceberg 构建实时湖仓一体的联邦查询
1概况本文展示如何使用
Flink
CDC+Iceberg+Doris构建实时湖仓一体的联邦查询分析,Doris1.1版本提供了Iceberg的支持,本文主要展示Doris和Iceberg怎么使用,大家按照步骤可以一步步完成
京东云技术团队
·
2024-02-03 02:58
apache
flink
大数据
CDC 整合方案:
Flink
集成 Confluent Schema Registry 读取 Debezium 消息写入 Hudi
本文介绍的整体方案选型是:使用KafkaConnect的DebeziumMySQLSourceConnector将MySQL的CDC数据(Avro格式)接入到Kafka之后,通过
Flink
读取并解析这些
Laurence
·
2024-02-03 01:35
大数据专题
付费专栏
flink
hudi
debezium
avro
confluent
schema
registry
Flink
on Yarn执行参考
Flink
onyarnsetupreferlinkbin/yarn-session.shbin/yarn-session.sh-n4-jm1024m-tm4096mStartalong-running
Flink
clusteronYARNThiscommandwillshowyouthefollowingoverview
liuzx32
·
2024-02-02 23:55
flink
jar开发 自定义函数
importorg.apache.
flink
.table.functions.ScalarFunction;importjavax.crypto.Cipher;importjavax.crypto.KeyGenerator
今朝花落悲颜色
·
2024-02-02 22:22
python
开发语言
Flink
窗口API、窗口分配器和窗口函数
目录1.
Flink
窗口API1.1分为按键分区(Keyed)和非按键分区(Non-Keyed)1.1.1按键分区窗口(KeyedWindows)1.1.2非按键分区(Non-KeyedWindows)1.2
内向仓鼠
·
2024-02-02 21:10
flink
大数据
基于scala使用
flink
将kafka数据写入mysql示例
使用
Flink
消费Kafka中ChangeRecord主题的数据,统计每三分钟各设备状态为“预警”且未处理的数据总数。
内向仓鼠
·
2024-02-02 21:10
scala
flink
kafka
Flink
源算子示例
1.从集合读取数据publicstaticvoidmain(String[]args)throwsException{StreamExecutionEnvironmentenv=StreamExecutionEnvironment.getExecutionEnvironment();//TODO从集合读数据DataStreamSourcesource=env.fromCollection(Arra
内向仓鼠
·
2024-02-02 21:09
flink
java
算法
Flink
知识点概述
flink
是什么是一个框架和分布式处理引擎,在无边界和有边界数据流上纪念性有状态的计算主要特性1.批流统一批处理:数据全部访问完成后进行操作有界、持久、大量,适合访问全套记录才能完成的工作,一般用于离线统计流处理
内向仓鼠
·
2024-02-02 21:39
flink
大数据
【
Flink
】
Flink
SQL实现数据从MySQL到MySQL
简介我们在实际开发过程中可以使用
Flink
实现数据从MySQL传输到MySQL具体操作,本例子
Flink
版本1.13.6,具体操作如下:创建mysql测试表下面语句创建了mysql原表和目标表,并插入一条语句到
一杯咖啡半杯糖
·
2024-02-02 20:39
Flink实战
flink
mysql
大数据
Flink
的架构与组件
1.背景介绍
Flink
是一个流处理框架,用于实时数据处理和分析。它是一个开源项目,由阿帕奇基金会支持和维护。
Flink
的设计目标是提供一个高性能、可扩展、可靠的流处理平台,用于处理大规模、实时数据。
禅与计算机程序设计艺术
·
2024-02-02 20:06
flink
架构
大数据
Flink
1.18.1 部署与配置[CentOS7]
静态IP设置#修改网卡配置文件vim/etc/sysconfig/network-scripts/ifcfg-ens33#修改文件内容TYPE=EthernetPROXY_METHOD=noneBROWSER_ONLY=noBOOTPROTO=staticIPADDR=192.168.18.128NETMASK=255.255.255.0GATEWAY=192.168.18.2DEFROUTE=y
You Only Live Once_2
·
2024-02-02 17:17
快速响应
flink
大数据
linux下安装
flink
1.18
一、
flink
介绍
Flink
是为分布式、高性能、随时可用以及准确的流处理应用程序打造的开源流处理框架二、
flink
下载
flink
下载三、
flink
配置3.1、配置环境变量exportJAVA_HOME=
爱上雪茄
·
2024-02-02 17:46
JAVA知识
大数据
linux
flink
hdfs
flink
-cdc 使用
接上一篇文章用上cdc基于
flink
-scala1.14当前cdc最新版本2.2.1com.ververica
flink
-connector-mysql-cdc2.2.1看官方文档是和
flink
13.5
csncn21
·
2024-02-02 17:46
flink
flink
scala
使用
flink
-cdc-sqlserver出现错误,需要批量开启sqlserver表cdc模式,监听表变化
docker安装dockerrun-e"ACCEPT_EULA=Y"-e"MSSQL_SA_PASSWORD=Zcyc123456"-p1433:1433--namesqlserver-dmcr.microsoft.com/mssql/server:2017-latest开启库cdc模式选择你自己的数据库,执行以下sql语句EXECsys.sp_cdc_enable_db;校验SELECTis_c
Alaia.
·
2024-02-02 17:46
sqlserver
数据库
Flink
1.18.1的基本使用
系统示例应用/usr/local/
flink
-1.18.1/bin/
flink
run/usr/local/flies/streaming/SocketWindowWordCount.jar--port9010nc-l9010asdasdsdfsfsdfsdfsdagdsdf
You Only Live Once_2
·
2024-02-02 17:14
快速响应
flink
大数据
编写跨windows/linux编程,浅谈WINDOWS与LINUX编程
看了一篇关于是该选择WINDOWS或者LINUX编程的贴子之后,突发感想,以自己曾经在WINDOWS与LINUX上都开发过程序的经历说一说自己的一些体验:1.关于
学习之路
:据我自己观察,绝大多数LINUX
hooo是狂想症患者
·
2024-02-02 15:59
实时数据湖:
Flink
CDC流式写入Hudi
点击上方蓝色字体,选择“设为星标”回复"面试"获取更多惊喜1.环境准备•
Flink
1.12.2_2.11•Hudi0.9.0-SNAPSHOT(master分支)•Spark2.4.5、Hadoop3.1.3
王知无(import_bigdata)
·
2024-02-02 12:01
spark
hadoop
hive
大数据
mysql
Flink
CDC 详述实时数据湖
在构建实时数仓的过程中,如何快速、正确的同步业务数据是最先面临的问题,本文主要讨论一下如何使用实时处理引擎
Flink
和数据湖ApacheIceberg两种技术,来解决业务数据实时入湖相关的问题。
000X000
·
2024-02-02 12:01
实战
实时数仓
Apache
Flink
Flink
CDC
Flink
CDC
实时数据湖
flink
使用
Flink
Hudi 构建流式数据湖
摘要:本文介绍了
Flink
Hudi通过流计算对原有基于mini-batch的增量计算模型不断优化演进。
浪尖聊大数据-浪尖
·
2024-02-02 12:30
大数据
spark
hadoop
java
数据库
Flink
流式读取 Debezium CDC 数据写入 Hudi 表无法处理 -D / Delete 消息
问题场景是:使用KafkaConnect的DebeziumMySQLSourceConnector将MySQL的CDC数据(Avro格式)接入到Kafka之后,通过
Flink
读取并解析这些CDC数据,然后以流式方式写入到
Laurence
·
2024-02-02 12:56
大数据专题
flink
hudi
无法处理
delete
changelog
debezium
cdc
上一页
6
7
8
9
10
11
12
13
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他