E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Flink源码学习
实时监控:基于流计算 Oceanus (
Flink
) 实现系统和应用级实时监控
运用云化的Kafka、
Flink
、ES等组件,大大减少了开发运维人员的投入。1解决方案描述1.1概述本方案结合腾讯云CKafka、流计算Ocea
腾讯云大数据
·
2023-11-25 06:41
big
data
46、
Flink
的table api与sql之配项列表及示例
Flink
系列文章1、
Flink
部署、概念介绍、source、transformation、sink使用示例、四大基石介绍和示例等系列综合文章链接13、
Flink
的tableapi与sql的基本概念、通用
一瓢一瓢的饮 alanchan
·
2023-11-25 06:11
#
Flink专栏
flink
sql
大数据
flink
sql
flink
hive
flink
api
flink
kafka
40、
Flink
的Apache Kafka connector(kafka sink的介绍及使用示例)-2
Flink
系列文章1、
Flink
部署、概念介绍、source、transformation、sink使用示例、四大基石介绍和示例等系列综合文章链接13、
Flink
的tableapi与sql的基本概念、通用
一瓢一瓢的饮 alanchan
·
2023-11-25 06:40
#
Flink专栏
flink
kafka
flink
流批一体化
flink
sql
flink
kafka
flink
hive
flink
connector
40、
Flink
的Apache Kafka connector(kafka source的介绍及使用示例)-1
Flink
系列文章1、
Flink
部署、概念介绍、source、transformation、sink使用示例、四大基石介绍和示例等系列综合文章链接13、
Flink
的tableapi与sql的基本概念、通用
一瓢一瓢的饮 alanchan
·
2023-11-25 06:40
#
Flink专栏
flink
kafka
flink
流批一体化
flink
hive
flink
kafka
flink
sql
大数据
23、
Flink
的table api与sql之流式聚合(性能调优)
Flink
系列文章1、
Flink
部署、概念介绍、source、transformation、sink使用示例、四大基石介绍和示例等系列综合文章链接13、
Flink
的tableapi与sql的基本概念、通用
一瓢一瓢的饮 alanchan
·
2023-11-25 06:39
#
Flink专栏
flink
sql
大数据
flink
sql
flink
hive
flink
api
flink
性能优化
31、
Flink
的SQL Gateway介绍及示例
Flink
系列文章1、
Flink
部署、概念介绍、source、transformation、sink使用示例、四大基石介绍和示例等系列综合文章链接13、
Flink
的tableapi与sql的基本概念、通用
一瓢一瓢的饮 alanchan
·
2023-11-25 06:09
#
Flink专栏
flink
sql
gateway
flink
流批一体化
flink
hive
flink
kafka
flink
sql
flink
-1
flink
简介
flink
简介有界数据和无界数据
flink
应用场景
flink
优势
flink
基本技术栈
flink
基本架构有界数据和无界数据有界数据通常被称为批处理既定义了数据流的开始,也定义了数据流的结束。
爱吃甜食_
·
2023-11-25 06:38
Flink
Flink
简介与部署
1、
Flink
基本介绍1、
Flink
介绍
Flink
起源于一个名为Stratosphere的研究项目,目的是建立下一代大数据分析平台,于2014年4月16日成为Apache孵化器项目。
TUJC
·
2023-11-25 06:08
Hadoop生态框架
Flink
物理分区
Flink
Physicalpartitioning(物理分区)Rebalancing(Round-robinpartitioning)默认策略轮询,会将数据轮询发送给下游任务valfsEnv=StreamExecutionEnvironment.getExecutionEnvironmentfsEnv.socketTextStream
深夜的星星
·
2023-11-25 06:07
flink
大数据
Flink
-简介与基础
Flink
-简介与基础一、
Flink
起源二、
Flink
数据处理模式1.批处理2.流处理3.
Flink
流批一体处理三、
Flink
架构1.
Flink
集群2.
Flink
Program3.JobManager4
临江蓑笠翁
·
2023-11-25 06:06
大数据
#
Flink
flink
大数据
Flink
常用物理分区算子(Physical Partitioning)
Flink
物理分区算子(PhysicalPartitioning)在
Flink
中,常见的物理分区策略有:随机分配(Random)、轮询分配(Round-Robin)、重缩放(Rescale)和广播(Broadcast
文文鑫
·
2023-11-25 06:34
#
Flink
flink
大数据
45、
Flink
的指标体系介绍及验证(1)-指标类型及指标实现示例
Flink
系列文章1、
Flink
部署、概念介绍、source、transformation、sink使用示例、四大基石介绍和示例等系列综合文章链接13、
Flink
的tableapi与sql的基本概念、通用
一瓢一瓢的饮 alanchan
·
2023-11-25 06:04
#
Flink专栏
flink
大数据
flink
sql
flink
hive
flink
api
flink
指标体系
Flink
中如何实现一个自定义MetricReporter
什么是Metrics在
flink
任务运行的过程中,用户通常想知道任务运行的一些基本指标,比如吞吐量、内存和cpu使用情况、checkpoint稳定性等等。
另存為
·
2023-11-25 03:03
flink
中Task、SubTask的理解
Flink
中也是一个DAG框架,也会划分不同的阶段。
Flink
中的阶段叫做Task。
Flink
中具体的工作线程叫做SubTask。
xuning_et
·
2023-11-25 01:34
flink
大数据
37_队列的概念及实现(下)
队列的链式存储实现链式队列的原理图1.链式队列的设计要点类模板,抽象父类Queue的直接子类在内部使用链式结构实现元素的存储只在链表的头部和尾部进行操作链式队列的继承层次结构图LinkQueue.h#ifnde
fLINK
QUEUE_H
编程半岛
·
2023-11-25 01:59
flink
学习之十一-window&EventTime实例
上面试了ProcessingTime,在这里准备看下EventTime,以及必须需要关注的,在ET场景下的Watermarks。EventTime&WatermarkEventtimeprogramsmustspecifyhowtogenerateEventTimeWatermarks,whichisthemechanismthatsignalsprogressineventtime.以event
AlanKim
·
2023-11-25 00:06
Apache Linkis 修复多个漏洞
编译:代码卫士ApacheLinkis是一款热门的计算中间件,用于弥合上层应用程序和底层引擎之间的差距,从而能够无缝访问多个引擎如MySQL、Spark、Hive、Presto和
Flink
。
奇安信代码卫士
·
2023-11-24 23:31
apache
大数据
hive
hadoop
数据仓库
【Vue2.0
源码学习
】内置组件篇-keep-alive
文章目录1.前言2用法回顾3.实现原理propscreateddestroyedmountedrender4.生命周期钩子5.总结1.前言是Vue实现的一个内置组件,也就是说Vue源码不仅实现了一套组件化的机制,也实现了一些内置组件,关于组件,官网如下介绍:是Vue中内置的一个抽象组件,它自身不会渲染一个DOM元素,也不会出现在父组件链中。当它包裹动态组件时,会缓存不活动的组件实例,而不是销毁它们
itpeilibo
·
2023-11-24 18:52
学习
javascript
vue.js
前端
[email protected]
源码学习
---从hello world学习vue的内部做了什么
[email protected]
源码学习
---从helloworld学习vue的内部做了什么源码版本为2.0.0接前文。
weixin_34034261
·
2023-11-24 18:21
javascript
ViewUI
[email protected]
源码学习
---目录结构分析与准备工作
前言网上vue的源码分析也蛮多的,不过很多都是1.0版本的并且大多都是在讲数据的observe,索性自己看看源码,虽然很难但是希望能学到点东西。源码版本为2.0.0原文地址runtime和runtime-with-compiler有必要了解这两个概念的区别。我们写vue程序的时候一般会给出template,但是仔细看过文档的话一定知道vue支持render函数的写法。runtime版本可直接执行r
weixin_34179968
·
2023-11-24 18:21
runtime
webpack
javascript
ViewUI
java搭建
flink
读取数据库 简单Demo实例
jdk1.8、mysql数据库具体idea搭建gradle和项目环境略··········下边直接上代码二、gradle依赖包设置dependencies{implementation'org.apache.
flink
大海里的一粒星辰
·
2023-11-24 17:00
flink
java
mysql
flink读取数据库
【
Flink
】如何提交jar包到yarn执行
新手在开发
Flink
程序后,总是需要把自己写的程序传到linux上,最后提交到yarn上去执行,那怎么去提交到yarn上呢,本篇文章为你详细讲解,并且会把一些常见问题进行总结,如果最后用户编译失败,本次讲解也是基于编译好的
一杯咖啡半杯糖
·
2023-11-24 17:00
Flink实战
flink
大数据
java
Flink
(十三)
Flink
底层Process使用Demo以及示例 ---访问时间戳、watermark 以及注册定时事件以及侧输出流
Process:我们之前学习的转换算子是无法访问事件的时间戳信息和水位线信息的。而这在一些应用场景下,极为重要。例如MapFunction这样的map转换算子就无法访问时间戳或者当前事件的事件时间。基于此,DataStreamAPI提供了一系列的Low-Level转换算子。可以访问时间戳、watermark以及注册定时事件。还可以输出特定的一些事件,例如超时事件等。ProcessFunction用
小菜菜1223
·
2023-11-24 17:58
Java
Flink
Java
java
flink
开发语言
【
Flink
】入门Demo实现、
Flink
运行架构之运行时组件,任务提交流程,任务调度原理
文章目录一快速上手1创建maven项目2引入依赖3代码实现(1)从在线数据读取(2)从离线数据读取4将程序提交到单点集群运行二
Flink
运行架构1
Flink
运行时组件(1)作业管理器(JobManager
OneTenTwo76
·
2023-11-24 17:22
Flink
flink
架构
java
Serverless 在数据处理场景下的最佳应用
我们知道传统的数据处理无外乎涉及Kafka、Logstash、FileBeats、Spark、
Flink
、CLS、COS等组件。
Serverless
·
2023-11-24 17:49
Serverless
serverless
云计算
Doris系列之高级功能-Rollup操作
Doris系列注:大家觉得博客好的话,别忘了点赞收藏呀,本人每周都会更新关于人工智能和大数据相关的内容,内容多为原创,PythonJavaScalaSQL代码,CVNLP推荐系统等,Spark
Flink
KafkaHbaseHiveFlume
陈万君Allen
·
2023-11-24 16:31
Java和大数据
大数据
数据库
Doris系列之物化视图操作
Doris系列注:大家觉得博客好的话,别忘了点赞收藏呀,本人每周都会更新关于人工智能和大数据相关的内容,内容多为原创,PythonJavaScalaSQL代码,CVNLP推荐系统等,Spark
Flink
KafkaHbaseHiveFlume
陈万君Allen
·
2023-11-24 16:31
Java和大数据
大数据
数据库
doris实现数据聚合的三种方式--多明细聚合、物化视图与rollup
doris实现数据聚合的三种方式假设以①ds、hour为维度计算pv②ds为维度计算pv1、三种聚合方式(1)聚合模型+数据源多次写入
flink
写入kafka代码insertintolog_exp_pvselectdshour
Dylan ZhaoHT
·
2023-11-24 16:24
doris
数据仓库
flink
flink
数据仓库
Flink
使用watermark
自定义一个watermark生成策略watermark生成策略一般有两种,一种是自定义周期性的watermark,另一种是触发式的watermark。WatermarkGenerator接口代码如下:@PublicpublicinterfaceWatermarkGenerator{/***每来一条事件数据调用一次,可以检查或者记录事件的时间戳,或者也可以基于事件数据本身去生成watermark。*
hopyGreat
·
2023-11-24 15:42
flink
40、
Flink
的Apache Kafka connector(kafka source 和sink 说明及使用示例) 完整版
Flink
系列文章1、
Flink
部署、概念介绍、source、transformation、sink使用示例、四大基石介绍和示例等系列综合文章链接13、
Flink
的tableapi与sql的基本概念、通用
一瓢一瓢的饮 alanchan
·
2023-11-24 15:41
#
Flink专栏
flink
kafka
flink
流批一体化
flink
sql
flink
hive
flink
kafka
flink
connector
Flink
-WordCount
本文基于
Flink
1.14pom.xmlUTF-81.14.32.19.0org.apache.
flink
flink
-java${
flink
.version}org.apache.
flink
flink
-streaming-java
hopyGreat
·
2023-11-24 15:11
flink
java
大数据
Flink
自定义Source之读取url
importcom.fasterxml.jackson.databind.ObjectMapper;importcom.telecom.journal.model.Api;importorg.apache.
flink
.stream
雷神乐乐
·
2023-11-24 15:08
#
Flink-Java版
flink
Flink
Table API 读写MySQL
Flink
TableAPI读写MySQLimportorg.apache.
flink
.connector.jdbc.table.JdbcConnectorOptions;importorg.apache.
flink
.streaming.api.environment.StreamExecutionEnvironment
hopyGreat
·
2023-11-24 15:35
flink
mysql
大数据
Flink
运行wordcount——读写hdfs
packagecom.test;importorg.apache.
flink
.api.common.functions.FlatMapFunction;importorg.apache.
flink
.api.java.tuple.Tuple2
雷神乐乐
·
2023-11-24 15:05
#
Flink-Java版
flink
hdfs
大数据
Flink
基础系列27-ProcessFunction API(底层API)
概述:我们之前学习的转换算子是无法访问事件的时间戳信息和水位线信息的。而这在一些应用场景下,极为重要。例如MapFunction这样的map转换算子就无法访问时间戳或者当前事件的事件时间。基于此,DataStreamAPI提供了一系列的Low-Level转换算子。可以访问时间戳、watermark以及注册定时事件。还可以输出特定的一些事件,例如超时事件等。ProcessFunction用来构建事件
只是甲
·
2023-11-24 14:55
flink
问题总结(5)如何读取Kerberos认证的hadoop数据
问题:
flink
1.8如何读取待Kerberos认证的hdfs数据?
ZYvette
·
2023-11-24 14:39
centos7上用docker部署mysql 5.7,并解决中文乱码问题
1.安装docker查看这篇文章的前半部分即可:虚拟机上安装docker,并安装
flink
镜像2.安装mysql5.72.1下载mysql镜像可以使用dockersearchmysql命令查看远程镜像仓库中的镜像信息
码上无bug
·
2023-11-24 13:06
docker
mysql
容器
flink
的异常concurrent.TimeoutException: Heartbeat of TaskManager with id的解决
背景在使用
flink
进行集成测试时,我们会使用MiniClusterWithClientResource类,但是当我们断点导致在某个方法执行的时间比较长时,会有错误发生,那么该如何解决这个错误呢?
lixia0417mul2
·
2023-11-24 11:40
大数据
flink
flink
java
大数据
flink
的java.lang.IllegalStateException: Buffer pool is destroyed 异常
背景最近
flink
的在线应用出现错误java.lang.IllegalStateException:Bufferpoolisdestroyed,本文记录下这个错误的原因错误原因详细的日志堆栈如下:Causedby
lixia0417mul2
·
2023-11-24 11:40
大数据
flink
flink
java
大数据
flink
的集成测试
背景日常测试中我们使用
flink
的TestHarness只能测试单个算子,很多情况下我们需要集成测试来测试真正的问题,所以在
flink
中进行集成测试还是非常有必要的,本文就来记录下如何在
flink
中进行集成测试
lixia0417mul2
·
2023-11-24 11:10
flink
大数据
flink
集成测试
java
flink
和机器学习模型的常用组合方式
背景
flink
是一个低延迟高吞吐的系统,每秒处理的数据量高达数百万,而机器模型一般比较笨重,虽然功能强大,但是qps一般都比较低,日常工作中,我们一般是如何把
flink
和机器学习模型组合起来一起使用呢?
lixia0417mul2
·
2023-11-24 11:05
flink
python机器学习
flink
大数据
Flink
-Exactly Once(如何保证数据的唯一性和不重复!)
Flink
-ExactlyOnce(如何保证数据的唯一性和不重复!)
a-tao必须奥利给
·
2023-11-24 11:52
flink
kafka
scala
大数据
分布式
Flink
SQL深度篇
Flink
SQL深度篇问题导读怎样优化LogicalPlan?怎样优化StreamGraph?TimeWindow,EventTime,ProcessTime和Watermark四者之间的关系是什么?
不爱吃鱼的馋猫
·
2023-11-24 11:22
flink
思考: 为什么
Flink
要弃用Scala API呢?
1.问题描述最近在学习
Flink
API的时候,发现官网声明要废弃ScalaAPI,但是为什么呢?
广阔天地大有可为
·
2023-11-24 11:22
#
Flink
API
使用技巧
scala
flink
spark
一网打尽
Flink
中的时间、窗口和流Join
接下来,我们将会使用
Flink
的windowAPI,它提供了通常使用的各种窗口类型的内置实现。我们将会学到如何进行用户自定义窗口操作符,以及窗口的核心功能:assigners(分配器)
王知无(import_bigdata)
·
2023-11-24 11:20
触发器
flink
stream
java
mapreduce
大数据之使用
Flink
消费Kafka中topic为ods_mall_data的数据,根据数据中不同的表将数据分别分发至kafka的DWD层
由于设备问题,代码执行结果以及数据的展示无法给出,可参照我以往的博客其中有相同数据源展示题目:提示:以下是本篇文章正文内容,下面案例可供参考(使用Scala语言编写)一、读题分析涉及组件:Scala,
Flink
约定Da于配置
·
2023-11-24 11:49
大数据技术
kafka
大数据
flink
scala
spark
Day77_
Flink
(三)
Flink
时间语义和水印
课程大纲课程内容学习效果掌握目标时间语义EventTime掌握IngestionTime掌握ProcessingTime掌握水印水印掌握一、时间语义scala的集合分为了两类,一类是可变的集合(集合可以执行增删改查操作),另一类是不可变集合(集合元素在初始化的时候确定,后续只能进行查,有的可以进行修改,有的不可以)。二者可能名称一样,但是在不同的包下面,对应的包为:scala.collection
dogedong
·
2023-11-24 11:49
#
flink
scala
大数据
Flink
迟到元素的处理
前言前面文章
Flink
中的时间语义和WaterMark有详细介绍过
Flink
WaterMark。WaterMark的出现是用来解决乱序时间的处理也就是处理迟到元素的。
shenjianyu_rex
·
2023-11-24 11:49
flink
flink
大数据
scala
Flink
部署安装及其WorldCount执行
Flink
启动及其WorldCount执行大家好,是瓜哥,最近几年,大数据处理组件
Flink
非常火,作为一个从事多年java的老程序员,也得跟上时代的技步伐,不然迟早就会被这个技术千变万化的时代抛弃。
IT瓜哥-杨得朝
·
2023-11-24 11:18
大数据
flink
scala
大数据
Flink
State and Checkpoint、Scala中获取类对象、通过checkpoint来恢复之前的状态、process...
目录
Flink
StateandCheckpointStateValueStateCheckpoint通过checkpoint来恢复之前的状态1、从
Flink
web页面2、通过
flink
命令StateListStateReducingState
Flink
StateandCheckpoint
Flink
赤兔胭脂小吕布
·
2023-11-24 11:18
scala
flink
spark
java
大数据
上一页
34
35
36
37
38
39
40
41
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他