E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
制胜Flink
【
Flink
-Kafka-To-ClickHouse】使用
Flink
实现 Kafka 数据写入 ClickHouse
【
Flink
-Kafka-To-ClickHouse】使用
Flink
实现Kafka数据写入ClickHouse1)导入相关依赖2)代码实现2.1.resources2.1.1.appconfig.yml2.1.2
bmyyyyyy
·
2023-12-22 07:03
Flink
flink
kafka
clickhouse
如何知道你的商业模式到底靠不靠谱? ——商业模式的评估和改进
著名经济学家郎咸平认为:“商业模式是关系到企业生死存亡,兴衰成败的大事,企业要想获得成功就必须从制定成功的商业模式开始,新成立的企业是这样,发展期的企业更是如此,商业模式是企业竞争
制胜
的关键,是商业的本质
rag丶抹布
·
2023-12-22 07:11
Flink
中的事件语义和watermark机制
Flink
中的事件语义和watermark机制【[白话解析]
Flink
的Watermark机制】:https://www.cnblogs.com/rossiXYZ/p/12286407.html一、
Flink
Anthons
·
2023-12-22 06:03
Flink
系列之:Savepoints
Flink
系列之:Savepoints一、Savepoints二、分配算子ID三、Savepoint状态四、算子五、触发Savepoint六、Savepoint格式七、触发Savepoint八、使用YARN
最笨的羊羊
·
2023-12-22 06:56
Flink
Flink系列
Savepoints
Flink
系列之:Checkpoints 与 Savepoints
Flink
系列之:Checkpoints与Savepoints一、概述二、功能和限制一、概述从概念上讲,
Flink
的savepoints与checkpoints的不同之处类似于传统数据库系统中的备份与恢复日志之间的差异
最笨的羊羊
·
2023-12-22 06:56
Flink
Flink系列
Checkpoints
Savepoints
Flink
系列之:Checkpoints
Flink
系列之:Checkpoints一、概述二、保留Checkpoint三、目录结构四、通过配置文件全局配置五、创建statebackend对单个作业进行配置六、从保留的checkpoint中恢复状态一
最笨的羊羊
·
2023-12-22 06:26
Flink
Flink系列
Checkpoints
Flink
系列之:背压下的检查点
Flink
系列之:背压下的检查点一、Checkpointingunderbackpressure二、缓冲区Debloating三、非对齐Checkpoints四、对齐Checkpoint的超时五、限制六
最笨的羊羊
·
2023-12-22 06:54
Flink
Flink系列
背压下的检查点
21天|森林浅浅少女心组合《出奇
制胜
》
【Day20】今日阅读《出奇
制胜
》,P188-246(终);今天终于如期完成了本书的阅读,最后两章读得欲罢不能,意犹未尽。原来这就是一飞冲天的关键。
Sylvia梦回星空下
·
2023-12-22 05:01
数字时代的守护神:揭秘为何迅软DSE加密软件成为企业克敌
制胜
的关键
由于全球范围内数据泄密事件的不断发生,让越来越多的企业管理者不得不重视起对公司数据的安全保护,这使加密软件成为众多企业的首选手段。那么它究竟是有什么强大的功能,为什么大部分企业都选择它来防止数据泄露呢?因为在信息化时代,数据资产是企业最有价值的资产,如果企业不重视,一旦发生数据泄露,会给企业带来巨大的损失。因此才有众多企业选择使用数据加密软件来保护公司的数据。加密软件可以对企业的数据文件进行透明加
迅软科技总部
·
2023-12-22 00:04
科技
Flink
的一些概念备忘
Flink
:三种窗口:1,滚动,就是5分钟,再5分钟;2,滑动窗口,固定一个长度,然后slide,会有很多overlap,比如5分钟长度,1分钟滑动。
NazgulSun
·
2023-12-21 21:42
Flink
电商实时数仓(三)
DIM层代码流程图维度层的重点和难点在于实时电商数仓需要的维度信息一般是动态的变化的,并且由于实时数仓一般需要一直运行,无法使用常规的配置文件重启加载方式来修改需要读取的ODS层数据,因此需要通过
Flink
-cdc
十七✧ᐦ̤
·
2023-12-21 18:48
flink
linq
大数据
2023大数据应用开发赛题02套
目录2023年全国职业院校技能大赛赛题第02套任务A:大数据平台搭建(容器环境)(15分)子任务一:Hadoop完全分布式安装配置子任务二:Flume安装配置子任务三:
Flink
onYarn安装配置任务
长风有续X
·
2023-12-21 17:54
大数据
flink
学习day04:对Event Time 与 Watermark的理解
☑带大家零基础入门
flink
:▶
flink
学习day01:
Flink
基础入门(含案例)▶
flink
学习day02::datasource、transforma和sink▶
flink
学习day03:
flink
datastream
黑马程序员官方
·
2023-12-21 17:53
大数据
flink
学习
大数据
2023大数据应用开发赛题03套
离线数据处理(25分)子任务一:数据抽取子任务二:数据清洗子任务三:指标计算任务C:数据挖掘(10分)子任务一:特征工程子任务二:推荐系统任务D:数据采集与实时计算(20分)子任务一:实时数据采集子任务二:使用
Flink
长风有续X
·
2023-12-21 17:52
大数据
2022-06-23-
Flink
-51(三. SQL手册)
1.函数类型函数|Apache
Flink
Flink
中的函数有两个划分标准一个划分标准是:系统(内置)函数和Catalog函数。系统函数没有名称空间,只能通过其名称来进行引用。
冰菓_lam
·
2023-12-21 16:46
Flink
Checkpoint 和 Large State 调优
Overview为了使
Flink
应用程序能够可靠地大规模运行,必须满足两个条件:应用程序需要能够可靠地获取Checkpoint在发生故障后,需要足够的资源追上(catchup)输入数据流监控State和
Alex90
·
2023-12-21 13:54
基于
Flink
的典型 ETL 场景实现方案
目录1.实时数仓的相关概述1.1实时数仓产生背景1.2实时数仓架构1.3传统数仓vs实时数仓2.基于
Flink
实现典型的ETL场景2.1维表Join■2.1.1预加载维表方案1:方案2:■2.1.2热存储关联
话数Science
·
2023-12-21 11:59
Flink
大数据
Spark
flink
etl
大数据
数据中台之旅(五)数据开发介绍
功能介绍数据开发包含:作业开发(sqoop\hive\impala\python\shell)、实时开发(
flink
)、调度管理(工作流\定时调度\DAG查询)、日志管理(定时调度日志\作业运行日志)建设思路作业开发
belialxing
·
2023-12-21 09:59
总结
数据平台
这7本书让你成为更好的自己
1、亚当∙摩根《吃大鱼》像第一名一样思考,挑战者品牌八大
制胜
法则这本书讲的是小品牌如何挑战行业巨无霸,作者亚当∙摩根举了大量案例和实用性建议,来说明挑战者品牌需要信奉的八大信条。
发酵菌书单
·
2023-12-21 09:54
一文学会 Apache Zeppelin
github.com/apache/zeppelinZeppelinJIRA:https://issues.apache.org/jira/projects/ZEPPELIN/summaryZeppelin文档
Flink
onZeppelin
跟着大数据和AI去旅行
·
2023-12-21 08:37
大数据企业级实战
Zeppelin
实时化与 Serverless 是开源大数据 3.0 时代的必然选择
近日在2023云栖大会上,阿里云开源大数据产品进行了年度发布:E-MapReduce、Elasticsearch等开源大数据产品全面Serverless化;创新性推出
Flink
与Paimon搭档的新一代流式湖仓
阿里云大数据AI技术
·
2023-12-21 08:00
serverless
开源
大数据
【
Flink
-Kafka-To-Hive】使用
Flink
实现 Kafka 数据写入 Hive
【
Flink
-Kafka-To-Hive】使用
Flink
实现Kafka数据写入Hive1)导入相关依赖2)代码实现2.1.resources2.1.1.appconfig.yml2.1.2.log4j.properties2.1.3
bmyyyyyy
·
2023-12-21 07:51
Flink
flink
kafka
hive
#Kfk-Kerberos认证
Flink
窗口(1)—— 基础概念
这就相当于将无界流的聚合转化为了有界数据集的聚合
Flink
“存储桶”在
Flink
中,窗口可以把流切割成有限大小的多个“存储桶”(bucket);每个数据都会分发到对应的桶中,当到达窗口结束时间时,就对每个桶中收集的数据进行计算处理窗口处理过程
THE WHY
·
2023-12-21 07:48
Flink
大数据
大数据
flink
分布式
数据分析
学习
笔记
Flink
SQL
动态表是
Flink
在TableAPI和SQL中的核心概念,它为流数据处理提供了表和SQL支持。
Stephen6Yang
·
2023-12-21 07:40
flink
flink
flink-sql
Spring 6(一)【Spring 入门】
Flink
按说应该是大数据学习的主线任务,但是长时间学一门技术还是心累的。正好之前对Java注解有了进一步的熟悉,一直想着熟悉巩固。
让线程再跑一会
·
2023-12-21 07:05
Spring
spring
java
后端
Flink
(十)【处理函数】
今天学习
Flink
处理函数,学完这一块就剩状态管理、容错机制和
Flink
SQL了,坚持坚持。学完再好好回顾回顾,最后就是把剩余的一些框架(Kafka、Flume等)补齐
让线程再跑一会
·
2023-12-21 07:30
Flink
flink
大数据
Flink
消费Redis Stream数据
前言对于流处理,感觉
flink
近乎苛刻的只对kafka友好。当然我对kafka也有天然的好感,但是相对于redis而言,kafka还是稍显复杂了一些。我们的生产环境中没有kafka,只有redis。
iFence
·
2023-12-21 06:08
Springboot
Flink
Redis
redis
java
flink
stream
队列
Flink
学习1——运行时架构(standalone模式)
本篇主要讲述
Flink
Standalone模式下的运行时架构以及各个组件负责的功能,
Flink
的运行方式有很多,但都大同小异,本文基本可以满足对
flink
运行时架构的学习。
iFence
·
2023-12-21 06:07
Flink
flink
Flink
join(流流)详解(一)
本文基于
flink
1.11进行测试。前言这里所说的join是两个或者多个流的join,涉及流批join的内容或者批批join会另写一篇文章专门说。
iFence
·
2023-12-21 06:37
Flink
flink
Flink
process function使用详解
前言processfunction是
flink
中比较底层的函数。能够实现一些高层函数无法实现的功能。
iFence
·
2023-12-21 06:37
Flink
flink
Flink
SQL流表与维表join实践
想要使用
Flink
SQL的方式join两张表,静态维表的作用类似一张字典表。流表源源不断的来数据,然后去内存中查询字典将流表的数据更新然后插入到MySQL数据库中。
iFence
·
2023-12-21 06:37
Flink
flink
Flink
流表与维表join(流批join)——使用异步IO(async io)实现
前言之前的文章中讲过了
Flink
流流join也讲过了翻车版本的流批join。为什么翻车了,那篇文章也说了。如果事实表和维度表进行join,
Flink
会认为这是一个批处理程序。也就是说程序会自己暂停。
iFence
·
2023-12-21 06:37
Flink
flink
flink
1.11 广播状态(Broadcast State)的使用
flink
的join算子也是基于广播状态来实现的。需求这里使用
flink
逛网提供的需求:一个流中包含的事件Item,Item中包含两个属性,一个为Color,一个为Shape。
iFence
·
2023-12-21 06:07
Flink
flink
Flink
累加器、计数器的使用
Flink
累加器的结果只能在作业结束以后才能得到。这就意味着,如果是一个一直不间断执行的流处理程序是无法得到累加器结果的。只有批处理成功,也就是会结束的
flink
程序才能得到累加器结果。
iFence
·
2023-12-21 06:07
Flink
flink
【已解决
Flink
Java API问题】The return type of function ‘xxx‘ could not be determined automatically
Flink
JavaAPI不像ScalaAPI可以随便写lambda表达式,写完以后需要使用returns方法显式指定返回值类型,否则会报下面错误,大概意思就是说Java的lambda表达式不能提供足够的类型信息
iFence
·
2023-12-21 06:07
Flink
flink
Flink
1.11 事件时间(event time)、watermark、watermarkstrategy使用详细案例
前言
flink
1.11中有了新版的指定watermark和watermarkstrategyAPI。
iFence
·
2023-12-21 06:37
Flink
flink
Flink
利用process算子进行分流操作
需求kafka中存有从metricbeat收集的各种数据系统指标数据存到同一个topic中,但是各种指标数据不尽相同,这时候需要将相同结构的数据收集到一起分开处理,就用到了
Flink
的分流操作。
iFence
·
2023-12-21 06:36
Flink
Kafka
flink
kafka
大数据
flink
sql1.18.0连接SASL_PLAINTEXT认证的kafka3.3.1
如下:version:"2.2"services:jobmanager:image:
flink
:1.18.0-scala_2.12container_name:jobmanagerports:-"7081
iFence
·
2023-12-21 06:33
Flink
Kafka
flink
大数据
Flink
Table API 与 SQL 编程整理
Flink
API总共分为4层这里主要整理TableAPI的使用TableAPI是流处理和批处理通用的关系型API,TableAPI可以基于流输入或者批输入来运行而不需要进行任何修改。
程序猿进阶
·
2023-12-21 05:49
Flink
flink
sql
大数据
java
数据结构
面试
后端
Flink
CDC 系列(2)——
Flink
CDC 源码编译
Flink
CDC系列文章:《
Flink
CDC系列(1)——什么是
Flink
CDC》《
Flink
CDC系列(2)——
Flink
CDC源码编译》《
Flink
CDC系列(3)——
Flink
CDCMySQLConnector
修破立生
·
2023-12-21 01:08
Flink
flink
big
data
大数据
「Java工具类」BeanCopyUtil对象复制工具类
通用工具类的分享;以及springboot+springcloud+Mybatisplus+druid+mysql+redis+swagger+maven+docker等集成框架的技术分享;datax、kafka、
flink
程序员阿宁
·
2023-12-21 01:37
Java工具类
java
java工具类
对象复制
java对象复制工具类
Flink
CDC
一、什么是CDC? CDC是ChangeDataCapture(变更数据获取)的简称。核心思想是,监测并捕获数据库的变动(包括数据或数据表的插入、更新以及删除等),将这些变更按发生的顺序完整记录下来,写入到消息中间件中以供其他服务进行订阅及消费。二、CDC种类 CDC主要分为基于查询和基于Binlog两种方式,我们主要了解一下这两种之间的区别:基于查询的CDC基于Binlog的CDC开源产品S
满床清梦覆星河
·
2023-12-21 01:06
Flink
flink
大数据
Flink
系列之:基于
Flink
CDC2.0实现海量数据的实时同步和转换
Flink
系列之:基于
Flink
CDC2.0实现海量数据的实时同步和转换一、CDC技术二、
Flink
CDC技术三、传统数据集成方案的痛点1.传统数据入仓架构1.02.传统数据入仓架构2.03.传统CDCETL
最笨的羊羊
·
2023-12-20 23:48
大数据
Flink
Flink系列
Flink
CDC2.0
实现海量数据的实时同步和转换
Iceberg (一、presto和trino实践——行级更新)
为什么先讲述presto和trino引擎操作,主要是这两个组件没有找到详细介绍的文档,另外关于spark/
flink
会有更多的文章
yyoc97
·
2023-12-20 23:18
大数据
iceberg
presto
大数据
iceberg
presto
实践
数据湖
Flink
CDC 3.0 正式发布,详细解读新一代实时数据集成框架
01
Flink
CDC概述
Flink
CDC是基于数据库日志CDC(ChangeDataCapture)技术的实时数据集成框架,支持了全增量一体化、无锁读取、并行读取、表结构变更自动同步、分布式架构等高级特性
Apache Flink
·
2023-12-20 23:16
flink
大数据
Flink
CDC 系列 - 同步 MySQL 分库分表,构建 Iceberg 实时数据湖
这篇教程将展示如何使用
Flink
CDC构建实时数据湖来应对这种场景,本教程的演示基于Docker,只涉及SQL,无需一行Java/Scala代码,也无需安装IDE,你可以很方便地在自己的
四月天03
·
2023-12-20 23:16
Flink
mysql
flink
big
data
Flink
CDC同步 MySQL 分库分表分片数据
只需要在创建
flink
源表时在数据库和表名上使用正则匹配即可。
shy_snow
·
2023-12-20 23:16
大数据
Flink
mysql
flink
数据库
Flink
cdc3.0同步实例(动态变更表结构、分库分表同步)
文章目录前言准备
flink
环境docker构建mysql、doris环境数据准备通过
Flink
CDCcli提交任务整库同步同步变更路由变更路由表结构不一致无法同步结尾前言最近
Flink
CDC3.0发布,
yyoc97
·
2023-12-20 23:39
大数据
flink
flink
大数据
cdc
动态变更
分表分库
Flink
高可用集群搭建
部署
flink
的准备工作
flink
版本的选择需要考虑hadoop的版本,本集群hadoop的版本为2.7.4,
flink
的版本为
flink
-1.7.2-bin-hadoop27-scala_2.11.tgz
flink
NikolasNull
·
2023-12-20 23:44
Flink
系列之:监控Checkpoint
Flink
系列之:监控Checkpoint一、概览二、概览(Overview)选项卡三、历史记录(History)选项卡四、历史记录数量配置五、摘要信息(Summary)选项卡六、配置信息(Configuration
最笨的羊羊
·
2023-12-20 22:21
Flink
Flink系列
监控Checkpoint
上一页
25
26
27
28
29
30
31
32
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他