E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
--Flink
【大数据】
Flink
详解(一):基础篇
本系列包含:【大数据】
Flink
详解(一):基础篇【大数据】
Flink
详解(二):核心篇Ⅰ【大数据】
Flink
详解(三):核心篇Ⅱ【大数据】
Flink
详解(四):核心篇Ⅲ【大数据】
Flink
详解(五):
G皮T
·
2023-09-06 16:32
#
Flink
大数据
flink
分布式计算
流批一体
【大数据】
Flink
详解(二):核心篇 Ⅰ
本系列包含:【大数据】
Flink
详解(一):基础篇【大数据】
Flink
详解(二):核心篇Ⅰ【大数据】
Flink
详解(三):核心篇Ⅱ【大数据】
Flink
详解(四):核心篇Ⅲ【大数据】
Flink
详解(五):
G皮T
·
2023-09-06 16:32
#
Flink
大数据
flink
分布式计算
【大数据】
Flink
详解(三):核心篇 Ⅱ
本系列包含:【大数据】
Flink
详解(一):基础篇【大数据】
Flink
详解(二):核心篇Ⅰ【大数据】
Flink
详解(三):核心篇Ⅱ【大数据】
Flink
详解(四):核心篇Ⅲ【大数据】
Flink
详解(五):
G皮T
·
2023-09-06 16:32
#
Flink
大数据
flink
分布式计算
流计算
状态管理
【大数据】
Flink
详解(七):源码篇 Ⅱ
本系列包含:【大数据】
Flink
详解(一):基础篇【大数据】
Flink
详解(二):核心篇Ⅰ【大数据】
Flink
详解(三):核心篇Ⅱ【大数据】
Flink
详解(四):核心篇Ⅲ【大数据】
Flink
详解(五):
G皮T
·
2023-09-06 16:00
#
Flink
大数据
flink
kafka知识小结
如果随着分区一起消失则消息的可靠性得不到保障;如果需要保留则又需要考虑如何保留,直接存储到现有分区的尾部,消息的时间戳就不会递增,如此对于Spark、
Flink
这类需要消息时间戳(事件时间)的组件将会受到影
躺平的赶海人
·
2023-09-06 15:29
kafka
kafka
分布式
使用IntelliJ IDEA本地启动调试
Flink
流计算工程的2个异常解决
记录:471场景:使用IntelliJIDEA本地启动调试
Flink
流计算时,报错一:加载DataStream报错java.lang.ClassNotFoundException。
zhangbeizhen18
·
2023-09-06 12:17
L02-常见问题
Flink
Java
IDEA
K8S中部署
Flink
Session高可用集群
部署信息官方项目地址:
Flink
-Session-HA
Flink
版本/镜像:apache/
flink
:1.14.2-scala_2.11部署架构:1×Jobmanager+2×Taskmanager,通过持久化
lc_1203
·
2023-09-06 10:42
k8s进阶
k8s
flink
Flink
On K8s实践4:Session部署模式实践
在上一篇文章《
Flink
OnK8s实践3:Application部署模式实践》中讲解和演示了Application部署模式在Kubernetes上的2种
Flink
作业提交方式,本文继续讲解
Flink
的另外一种部署模式
BigdataOnK8s
·
2023-09-06 10:41
Flink
On
K8s
kubernetes
flink
java
大数据
云原生
flink
部署模式(三)- standalone k8s session 部署模式
flink
版本
flink
1.15.0。
PONY LEE
·
2023-09-06 10:11
flink
flink
docker
kubernetes
flink
实战--
flink
on k8s (Kubernetes)
扫一扫加入大数据公众号和技术交流群,了解更多大数据技术,还有免费资料等你哦简介在学习
flink
onk8s之前,建议先系统的学习一下
flink
onyarn,因为
flink
onk8s整体的运行流程和
flink
onyarn
阿华田512
·
2023-09-06 10:41
Flink学习必读系列
大数据
flink
k8s
k8s 部署
flink
节点集群-session模式
一.配置configmap文件
flink
-configuration-configmap.yamlapiVersion:v1kind:ConfigMapmetadata:namespace:
flink
name
远方有海,小样不乖
·
2023-09-06 10:41
k8s系列
kubernetes
Flink
1.11.2 在K8s里基于NFS搭建高可用集群
最后参考了
flink
1.11.2的start-cluster.sh脚本。对docker的启动脚本进行了调整。终于成功了。希望能够帮助到大家。
carcoon
·
2023-09-06 10:41
大数据
flink
Flink
1.11.2 在K8s里基于NFS搭建高可用集群故障排查
序
Flink
1.11.2在K8s里基于NFS搭建高可用集群一文中,用于生产环境中发现一个问题,就是在输入流量大的情况下,经常出现checkpoint失败的情况。
carcoon
·
2023-09-06 10:41
大数据
flink
基于k8s1.15搭建
Flink
集群(一)
文章目录1.前言2.实验环境3.集群搭建3.1Yaml配置3.1.1JobManagerYaml配置3.1.2TaskManagerYaml配置3.1.3JobManagerServices配置3.2启动
Flink
SessionCluster3.3
RivenDong
·
2023-09-06 10:40
#
Flink
#
Kubernetes
在k8s集群以session模块部署
flink
Flink
OnK8S在需要安装的集群上执行wget--no-check-certificatehttps://dlcdn.apache.org/
flink
/
flink
-1.15.3/下载
flink
1.15.3
FizzX1
·
2023-09-06 10:40
云原生
K8S
kubernetes
flink
容器
k8s 搭建基于session模式的
flink
集群
1.
flink
集群搭建不废话直接上代码,都是基于官网的,在此记录一下Kubernetes|Apache
Flink
flink
-configuration-configmap.yamlapiVersion:
Json_Marz
·
2023-09-06 10:40
kubernetes
flink
容器
基于
Flink
CDC 构建 MySQL 和 Postgres 的 Streaming ETL
官方网址:https://ververica.github.io/
flink
-cdc-connectors/release-2.3/content/%E5%BF%AB%E9%80%9F%E4%B8%8A
沐雪架构师
·
2023-09-06 09:32
flink
etl
大数据
java.lang. NoSuchMethodError!org.codehaus.commons.compiler.Location
(Ljava/lang/String;II)Vorg.codehaus.commons.compiler.Location没有这个方法,去找这个方法依赖的jar包ctrl+n类名org.apache.
flink
flink
-table-planner
arbalest1080
·
2023-09-06 08:40
java
开发语言
Hive ParserFactory
Causedby:orgapache.
flink
.table.apialidationException:Couldnotfindany.factoryforidentiferhivethatimplementsorg.apache.
flink
.table
arbalest1080
·
2023-09-06 08:40
flink
hive
Caused by:java.lang.NoSuchMethodError:org.apache
flink
.confi iguration.
java.util.concurrent.CompletionException:java.lang.NoSuchMethhodError:org.apache.
flink
.configuration.CoreOptions.getParentFirstLoaCausedby
arbalest1080
·
2023-09-06 08:10
flink
hivecatalog异常
Causedby:org.apache.
flink
.table.api.ValidaationException:Couldnotfindanyfactoryforidentifier'hive’thatimplements'org.aapache.
flink
.table.planner.delegation.ParserFactory
arbalest1080
·
2023-09-06 08:10
flink
kafkaException
kafkaException:classorg.apache.
flink
.shade.org.apache.kakfa.common.serialization.ByteArrayDeserializerisnotaninstanceoforg.apache.kakfa.common.serialization.Deserializer
arbalest1080
·
2023-09-06 08:40
kafka
flink
怎么会有这种问题
java.lang.NoSuchMehodError:org.apache.
flink
.configuration.coreoption.getParentFirstLOaderenv.execute执行不了是什么鬼我试图使用以下方法读取文件
arbalest1080
·
2023-09-06 08:40
flink
flink
异常
Exceptioninthread"Thread-9"java.lang.IllegalStateException:Tryingtoaccessclosedclassloader.Pleasecheckifyoustoreclassloadersdirectlyorindirectlyinstaticfields.Ifthestacktracesuggeststhattheleakoccursi
arbalest1080
·
2023-09-06 08:39
flink
Kafka入门教程
与
Flink
、Storm等计算框架兼容性好。在Kafka
香菜+
·
2023-09-06 03:18
香菜聊游戏
自动驾驶
kafka
java
分布式
Hadoop安装教程
但是在当前的企业应用中,基本上都已经抛弃了MapReduce,而是基于Spark、
Flink
进行计算,但是这两个服务用于生产环境时都会选择在YARN上运行,并使用HDFS作为数据存储。
書香劍客
·
2023-09-06 01:54
hadoop
大数据
分布式
43、
Flink
之Hive 读写及详细验证示例
Flink
系列文章1、
Flink
部署、概念介绍、source、transformation、sink使用示例、四大基石介绍和示例等系列综合文章链接13、
Flink
的tableapi与sql的基本概念、通用
一瓢一瓢的饮 alanchan
·
2023-09-06 01:13
#
Flink专栏
flink
hive
大数据
flink
hive
flink
kafka
flink
sql
flink
流批一体化
flink
配置
脚本-c,--class程序的入口(mainmethodorgetplan()).只有在jar程序的manifest中没有指定class-m,--jobmanager在哪运行yarn-cluster-C,--classpath代码路径-p,--parallelism并行度-ynm,--yarnname设置application的名字-yjm,--yarnjobManagerMemoryJobMan
神呐_宽恕我把
·
2023-09-05 18:37
7.一文搞懂
Flink
中窗口的概念
1.前言在上一篇文章当中说了,如果需要进行双流join操作,可以选择在窗口的范围内进行,join操作会以窗口范围内的所有数据做innerjoin,然后将匹配到的所有数据交给计算函数进行处理,这就是窗口join的执行方式,但是这里也有一个之前没有提到过的概念,那就是“窗口”。窗口在数据计算的过程中很常见,它要做的实际上就是在没有尽头的数据流中切割出一段一段的范围区间,然后对这个区间的数据进行相应的计
迷茫的小黑狗
·
2023-09-05 14:10
Flink
源码解析 —— 深度解析
Flink
序列化机制
Flink
序列化机制https://t.zsxq.com/JaQfeMf博客1、
Flink
从0到1学习——Apache
Flink
介绍2、
Flink
从0到1学习——Mac上搭建
Flink
1.6.0环境并构建运行简单程序入门
zhisheng_blog
·
2023-09-05 13:02
【实战-05】
flink
sql look up join
flink
sql中的lookupjoin就类似于
flink
s
flink
Datastreamapi中的广播的概念,但是又不完全相同,对于初次访问的数据会加入缓存,一定时间未访问到的则会从缓存中去除。
笔生花
·
2023-09-05 11:02
Flink实战经验
flink
大数据
Hudi 源码之Bucket Index
然后将这些对应关系保存到外部存储系统(HBase,
Flink
状态后端等)。这种方式需要引入外部系统,运维的复杂度较高且索引数据量较大。除此之外Hudi还提供了Bl
AlienPaul
·
2023-09-05 09:14
flink
实现kafka、doris精准一次说明
前言说明:本文档只讨论数据源为kafka的情况实现kafka和doris的精准一次写入
flink
的kafka连接器已经实现了自动提交偏移量到kafka,当
flink
中的数据写入成功后,
flink
会将这批次数据的
DLoong+
·
2023-09-05 09:34
大数据
flink
kafka
数据库
Flink
(java版)
watermark时间语义和watermark注意:数据进入
flink
的时间:如果用这个作为时间语义就不存在问题,但是开发中往往会用处理时间作为时间语义这里就需要考虑延时的问题。
黑冰vip
·
2023-09-05 07:32
flink
大数据组件-
Flink
环境搭建
【大数据学习记录篇】-持续更新中~个人主页:beixi@本文章收录于专栏(点击传送):【大数据学习】持续更新中,感谢各位前辈朋友们支持学习~文章目录1.
Flink
组件介绍2.环境准备3.
Flink
搭建1
beixi@
·
2023-09-05 07:56
大数据技术学习
大数据
flink
运维
Flink
---1、概述、快速上手
1、
Flink
概述1.1
Flink
是什么
Flink
的官网主页地址:https://
flink
.apache.org/
Flink
的核心目标是“数据流上有状态的计算”(StatefulComputationsoverDataStreams
星光下的赶路人star
·
2023-09-05 07:54
Flink
flink
大数据
java
flink
k8s sink到kafka报错 Failed to get metadata for topics
可能出现的3种报错--报错1Failedtogetmetadatafortopics[...].org.apache.kafka.common.errors.TimeoutException:Call--报错2Causedby:org.apache.kafka.common.errors.TimeoutException:Timedoutwaitingtosendthecall.Call:fetc
Thomas2143
·
2023-09-05 07:54
free
flink
kubernetes
kafka
Flink
基础实操-计算单词出现次数
【大数据学习记录篇】-持续更新中~个人主页:beixi@本文章收录于专栏(点击传送):【大数据学习】持续更新中,感谢各位前辈朋友们支持学习~上一篇文章写到了
Flink
环境搭建,这篇文章接着上篇文章延伸
Flink
beixi@
·
2023-09-05 07:23
大数据技术学习
flink
单例模式
大数据
运维
初识Kafka
高吞吐可持久化可水平扩展支持流数据处理广度:Cloudera,Storm,Spark,
Flink
等都支持与Kafka集成。Kafka三大角色消息系统系统解耦、冗余存储、流量削峰、缓冲、异步
李君临
·
2023-09-05 04:42
kafka
分布式
flink
get_json_object OOM 定位
环境版本
flink
1.3.5hive2.1.1问题现象任务运行一段时间出现oomGC信息来自于arthasdashboardheap7839M7912M7912M99.08%gc.g1_young_generation.count3103g1
loukey_j
·
2023-09-05 04:14
Keyed State实战
Flink
提供了5种状态原语(stateprimitives):ValueState,ListState,ReducingState,AggregatingState,MapState。
Woople
·
2023-09-05 02:09
flink
1.12.0学习笔记第3篇-高级API
flink
1.12.0学习笔记第3篇-高级API
flink
1.12.0学习笔记第1篇-部署与入门
flink
1.12.0学习笔记第2篇-流批一体API
flink
1.12.0学习笔记第3篇-高级API
flink
1.12.0
王亭_666
·
2023-09-04 22:17
Flink
大数据
flink
hadoop
大数据
数据分析
实时处理
如何使用
Flink
SQL 探索 GitHub 数据集|
Flink
-Learning 实战营
作者|王洪顺(弘舜)为进一步帮助开发者学习使用
Flink
,Apache
Flink
中文社区近期发起
Flink
-Learning实战营项目。
Apache Flink
·
2023-09-04 22:16
flink
sql
人工智能
大数据
数据库
2万字50张图玩转
Flink
面试体系
本期将介绍大数据实时计算利器
Flink
面试体系,全文内容已制作成PDF。一基础篇1简单介绍下
Flink
及使用场景Apache
Flink
是开源的大数据实时计算框架,具有分布式、高性能、内存计算等特点。
大数据兵工厂
·
2023-09-04 22:46
大数据
大数据
flink
面试
大数据-玩转数据-初识
FLINK
一、初识
Flink
Flink
采用一只松鼠的彩色图案作为logoApache
Flink
是一个框架和分布式处理引擎,用于对无界和有界数据流进行有状态计算。
人猿宇宙
·
2023-09-04 22:46
大数据-玩转数据-FLINK
大数据
flink
spark
基于 Kafka、
Flink
构建实时数据湖的最佳实践
数仓技术应对关系型结构化数据游刃有余,但对于多元异构数据,却爱莫能助。最近行业大佬都在聊怎么部署数据湖,这波操作未来走向如何?数据湖技术能够实现全量数据的单一存储,通常存储原始格式的对象块或者文件。不管是传统数仓承载的结构化数据还是半结构化数据、非结构化数据、二进制数据等任意类型的数据,数据湖都可以轻松实现采集、存储和分析。更为人性化的是,数据湖可根据企业的业务需求提供可大可小的弹性扩充,数据可在
浪尖聊大数据-浪尖
·
2023-09-04 22:15
大数据
人工智能
编程语言
java
数据分析
大数据-玩转数据-
Flink
Python作业开发
一、Py
Flink
的核心目标将
Flink
能力输出到Python用户,进而可以让Python用户使用所有的
Flink
能力。
人猿宇宙
·
2023-09-04 22:15
大数据-玩转数据-阿里系
大数据
flink
python
大数据最佳实践-
flink
目录概述特点API架构任务调度原理概念TimeWindowEventTimeWatermark有状态的计算一致性7.2检查点:保证exactly-onceStatefulOperatorsandApplicationsDataflow模型简介窗口时间域CEP背压分布式数据流的异步快照Chandy-Lamport算法概述流处理流是数据的自然栖息地。无论是来自Web服务器的事件,来自证券交易所的交易,
猿与禅
·
2023-09-04 22:15
大数据
flink
大数据最佳实践
调优
Flink
-数据流编程
数据流是一个可能无限的事件序列。一.数据流图数据流程序描述了数据如何在算子之间流动,节点表示算子,边表示数据之间的依赖性。算子是数据流图中的功能单元,一个算子用来接收输入的数据,并将它们加工计算生成数据输出用于进一步处理。一个数据流图至少包含一个数据源和一个数据接收器。二、数据并行与任务并行第一,我们可以对输入的数据进行分区,并在数据子集上并行执行具有相同的算子的任务执行,这种类型的并行性就叫做数
爱过java
·
2023-09-04 22:45
flink
大数据
big
data
体系课-轻松入门大数据玩转
Flink
,打造湖仓一体架构
学习编程的一个很好的方法就是和其他的程序员交谈。不必谈论任何特定的内容。可以是你正在学习的东西,也可以是你认为很酷的东西,更可以是你正在工作的东西,皆可。你会发现很多程序员并不喜欢只是聊编程。这样做可能会让你学到很多关于库,服务器,编程语言和模式方面的知识。但是,最重要的是,你将了解到其他人是如何看待编程的。你会发现,你认为理所当然或从来没有考虑的事情在人与人之间是非常不同的。还有你遇到的那些小问
m0_59297761
·
2023-09-04 22:15
flink
大数据
上一页
73
74
75
76
77
78
79
80
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他