flink执行流程

Flink系列-2、Flink架构体系

大数据系列文章目录官方网址：https://flink.apache.org/学习资料：https://flink-learning.org.cn/目录Flink中的重要角⾊Flink数据流编程模型Libraries
技术武器库·2025-01-23 04:55

Flink 的核心特点和概念

Flink是一个流式处理框架，专注于高吞吐量、低延迟的数据流处理。它能处理无限流（即实时数据流）和有限流（批处理），具有很强的灵活性和可扩展性，广泛应用于实时数据分析、监控系统、数据处理平台等场景。
Ray.1998·2025-01-23 00:12

Flink的流处理和批处理

1.流处理（StreamProcessing）流处理是Flink的核心功能之一，主要用于处理无限流数据，也就是不断到达的数据。它能够实时处理数据流，并对每个数据元素执行操作。
Ray.1998·2025-01-23 00:12

HUDI-0.11.0 BUCKET index on Flink 特性试用

1.背景在0.10.1版本下，使用默认的index(FLINK_STATE)，在upsert模式下，几十亿级别的数据更新会消耗大量内存，并且检查点（checkpoint）时间过长。
_Magic·2025-01-22 23:06

Kafka 迁移 AutoMQ 时 Flink 位点管理的挑战与解决方案

凭借其与Kafka的完全兼容性可以与用户已有的Flink等大数据基础设施进行轻松整合。Flink是重要的流处理引擎，与Kafka有着密切的关系。
AutoMQ·2025-01-22 23:06

20250120 Flink 的 缓冲区超时（Buffer Timeout）

Flink的缓冲区超时（BufferTimeout）机制确实类似于一辆车等待乘客的过程，如果车每次只载一个乘客就发车，会导致效率低下，资源浪费。
靈臺清明·2025-01-22 22:05

【微服务】服务网关----Gateway

----Gateway1、前言2、网关简介3、Gateway简介4、Gateway快速入门4.1基础版4.2增强版(引入nacos)4.3简写版5、Gateway核心架构5.1路由(Route)5.2执行流程
SoftwareDevOps·2025-01-22 14:26

用goto语句写关机程序

它的主要作用是将程序的执行流程无条件地转移到同一函数内的另一个标记位置。不过，“goto”语句会使程序的控制流程变得复杂混乱，难以理解和维护，所以在很多的编程规范中被谨慎使用。以代码为例：
三叶草.·2025-01-22 02:56

Java 驱动大数据流处理：Storm 与 Flink 入门 （大数据）

ApacheStorm和ApacheFlink是两个用于处理大规模数据流的开源框架，它们都支持用Java编写的应用程序。下面将简要介绍这两个框架，并提供一些入门指导。
用心去追梦·2025-01-21 22:28

SeaTunnel 与 DataX 、Sqoop、Flume、Flink CDC 对比

文章目录SeaTunnel与DataX、Sqoop、Flume、FlinkCDC对比同类产品横向对比2.1、高可用、健壮的容错机制2.2、部署难度和运行模式2.3、支持的数据源丰富度2.4、内存资源占用
不二人生·2025-01-21 22:25

20250120 深入了解 Apache Flink 的 Checkpointing

ApacheFlink是一种用于实时流处理和批处理的分布式计算框架。
靈臺清明·2025-01-21 10:01

Flink Standalone 方案中解决挂机问题

Standalone中可以配置HighAvailability（HA）部署和配置首先了解Flink实际运行时包括两类进程：JobManager（又称为JobMaster）：协调Task的分布式执行，包括调度
星尘幻宇科技·2025-01-21 09:59

大数据学习(37)- Flink运行时架构

&大数据学习&&系列专栏：哲学语录:承认自己的无知，乃是开启智慧的大门如果觉得博主的文章还不错的话，请点赞+收藏⭐️+留言支持一下博主哦1）作业管理器（JobManager）JobManager是一个Flink
viperrrrrrr·2025-01-21 09:57

Flink CDC MySQL同步MySQL错误记录

FlinkCDC简介FlinkCDC（ChangeDataCapture）是一种高效的数据同步工具，利用Flink强大的实时流处理能力，从MySQL等数据库捕获数据变更，并将这些变更实时同步到目标数据库
lingllllove·2025-01-21 07:37

python转转商超书籍信息爬虫

爬虫任务的执行流程通常包括发送HTTP请求、解析HTML文档、提取所需数据等步骤。1.2技术体系1请求库:
Python数据分析与机器学习·2025-01-21 06:29

java快速入门之判断与循环

所以，我们必须清楚每条语句的执行流程。而且，很多时候要通过控制语句的执行顺序来实现我们想要的功能。
天启互联网工作室·2025-01-20 23:49

2024最新版JavaScript逆向爬虫教程-------基础篇之JavaScript混淆原理

十六进制字符串1.3Unicode字符串1.4字符串的ASCII码混淆1.5字符串常量加密1.6数值常量加密二、增加JS逆向者的工作量2.1数组混淆2.2数组乱序2.3花指令2.4jsfuck三、代码执行流程的防护原理
Amo Xiang·2025-01-20 11:50

《深入理解Mybatis原理》MyBatis的sqlSession执行流程

sqlSessionFactory与SqlSession正如其名，Sqlsession对应着一次数据库会话。由于数据库会话不是永久的，因此Sqlsession的生命周期也不应该是永久的，相反，在你每次访问数据库时都需要创建它（当然并不是说在Sqlsession里只能执行一次sql，你可以执行多次，当一旦关闭了Sqlsession就需要重新创建它）。那么咱们就先看看是怎么获取SqlSession的吧
·2025-01-20 08:18

FFA 2024 「流批一体」专场：探索在不同场景的流批一体

FlinkForwardAsia2024即将盛大开幕！作为ApacheFlink社区备受期待的年度盛会之一，本届大会将于11月29至30日在上海隆重举行。
Apache Flink·2025-01-20 06:03

Scaleph：基于Kubernetes的开放式数据平台

Scaleph：基于Kubernetes的开放式数据平台scalephOpendataplatformbasedonFlinkandKubernetes,supportsweb-uiclick-and-dropdataintegrationwithSeaTunnelbackendedbyFlinkengine
尤淞渊·2025-01-19 19:19

深入Flink : 源码解读数据倾斜代码落地

上篇文章，我们详细说了通过使得Flink每个并行子任务上面都有对应的key来解决数据倾斜。但是我们只说了这个方案的思想和设计理解，还没有把这种方案真正应用到我们的Flink任务当中。
·2025-01-19 19:52

Flink（十）：DataStream API (七) 状态

1.状态的定义在ApacheFlink中，状态（State）是指在数据流处理过程中需要持久化和追踪的中间数据，它允许Flink在处理事件时保持上下文信息，从而支持复杂的流式计算任务，如聚合、窗口计算、联接等
Leven199527·2025-01-19 11:41

Apache Flink

"ApacheFlinkistheopensourcestreamprocessingframeworkfordistributed,high-performance,ready-to-use,andaccuratestreamprocessingapplications
morcake·2025-01-19 08:41

一文帮你搞懂flink中窗口的分类（一）

Window可以分成两类：CountWindow：按照指定的数据条数生成一个Window，与时间无关。滚动计数窗口，每隔N条数据，统计前N条数据滑动计数窗口，每隔N条数据，统计前M条数据TimeWindow：按照时间生成Window。（重点）滚动时间窗口，每隔N时间，统计前N时间范围内的数据，窗口长度N，滑动距离N滑动时间窗口，每隔N时间，统计前M时间范围内的数据，窗口长度M，滑动距离N还有一种特
知否&知否·2025-01-19 07:36

Java 大视界 -- Java 驱动大数据流处理：Storm 与 Flink 入门（六）

亲爱的朋友们，热烈欢迎你们来到青云交的博客！能与你们在此邂逅，我满心欢喜，深感无比荣幸。在这个瞬息万变的时代，我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客，正是这样一个温暖美好的所在。在这里，你们不仅能够收获既富有趣味又极为实用的内容知识，还可以毫无拘束地畅所欲言，尽情分享自己独特的见解。我真诚地期待着你们的到来，愿我们能在这片小小的天地里共同成长，共同进步。本博客的精华专栏：大数
青云交·2025-01-19 05:50

【大数据】Flink CDC 实时同步mysql数据

目录一、前言二、FlinkCDC介绍2.1什么是FlinkCDC2.2FlinkCDC特点2.3FlinkCDC核心工作原理2.4FlinkCDC使用场景三、常用的数据同步方案对比3.1数据同步概述3.1.1
小码农叔叔·2025-01-19 02:16

mybatis源码解析-sql执行流程

1执行器的创建1.SimpleExecutor描述：最基本的执行器，每次查询都会创建新的语句对象，并且不会缓存任何结果。特点：每次查询都会创建新的PreparedStatement对象。不支持一级缓存。适用于简单的查询操作，不需要缓存的情况。2.ReuseExecutor描述：复用型执行器，会复用PreparedStatements。特点：通过缓存PreparedStatement对象来提高性能。
吴冰_hogan·2025-01-19 01:36

Flink 使用 Kafka 作为数据源时遇到了偏移量提交失败的问题

具体的错误日志21:43:57.069[KafkaFetcherforSource:CustomSource->Map->Filter(1/1)#2]ERRORorg.apache.kafka.clients.consumer.internals.ConsumerCoordinator-[ConsumerclientId=consumer-my-group-6,groupId=my-group]O
java我跟你拼了·2025-01-18 23:19

2、Flink 在 DataStream 和 Table 之间进行转换

1.概述TableAPI和DataStreamAPI都可以处理有界流和无界流。DataStreamAPI提供了流处理的基础（时间、状态和数据流管理）；TableAPI抽象了许多内部内容，并提供了一个结构化和声明性的API；在处理历史数据时，需要管理有边界的流；无边界流出现在实时处理场景中，这些场景可能需要先使用历史数据进行初始化。为了高效执行，这两个API都以优化的批处理执行模式处理有界流。由于批
猫猫爱吃小鱼粮·2025-01-18 22:10

智能合约安全之重入攻击

攻击者利用这个漏洞，将攻击代码插入到合约执行流程中，使得攻击者可以在合约还未完成之前再次调用某个函数
·2025-01-18 22:15

Flink 常见面试题

1、Flink的四大特征（基石）checkpoint:基于Chandy-Lamport算法，实现了分布式一致性快照，提供了一致性的语义。State:丰富的StateAPI。
知否&知否·2025-01-18 16:14

大数据-257 离线数仓 - 数据质量监控 监控方法 Griffin架构

已更完）MapReduce（已更完）Hive（已更完）Flume（已更完）Sqoop（已更完）Zookeeper（已更完）HBase（已更完）Redis（已更完）Kafka（已更完）Spark（已更完）Flink
武子康·2025-01-18 10:29

【0x001E】HCI_Write_Inquiry_Scan_Activity详解

Inquiry_Scan_Interval2.2.2.Inquiry_Scan_Window2.3.示例三、响应事件及参数说明3.1.HCI_Command_Complete事件3.2.Status四、命令执行流程
byte轻骑兵·2025-01-18 02:31

Apache Flink 2.0-preview released

ApacheFlink社区正在积极准备Flink2.0，这是自Flink1.0发布8年以来的首次大版本发布。
·2025-01-18 00:58

2024年最新Python：Page Object设计模式_python page object，BTAJ大厂最新面试题汇集

知识体系：含编程语言、算法、大数据生态圈组件（Mysql、Hive、Spark、Flink）、数据仓库、Python、前端等等。网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是
m0_60707708·2025-01-17 20:36

2024年总结：大转向

职业转向今年我在职业上尝试做了一个转向，具体的结果可能需要比较长的时间来检验我选择是否正确，所以转向的细节我就不全部展开了，可以确定是我依然会专注在Infra和BigData，比如今年我发布了SparkSQL和FlinkSQL
·2025-01-17 20:11

Flink 批作业如何在 Master 节点出错重启后恢复执行进度？

摘要：本文撰写自阿里云研发工程师李俊睿（昕程），主要介绍Flink1.20版本中引入了批作业在JMfailover后的进度恢复功能。
·2025-01-17 19:30

读Flink源码谈设计：Metric

版本日期备注1.02021.10.8文章首发1.12022.3.9fixtypo1.22022.7.3fixtypo0.前言前阵子笔者涉及了些许监控相关的开发工作，在开发过程中也碰到过些许问题，便翻读了Flink
·2025-01-17 19:28

Flink CDC 在阿里云实时计算Flink版的云上实践

摘要：本文整理自阿里云高级开发工程师，ApacheFlinkCommitter阮航老师在FlinkForwardAsia2024生产实践（三）专场中的分享，主要分为以下四个方面：一、FlinkCDC&实时计算
·2025-01-17 15:17

Apache PAIMON 学习

新一代实时数据湖技术，ApachePAIMON兼容ApacheFlink、Spark等主流计算引擎，并支持流批一体化处理、快速查询和性能优化，成为加速AI转型的重要工具。
潇锐killer·2025-01-16 22:54

狂飙 50 倍丨TiDB DDL 框架优化深度解析

在TiDBv8版本中，我们对TiDBDDL语句执行流程进行了进一步的优化和重构，显著提升了框架的可扩展性和语句的执行效率，为未来实现TiDBDDL的真正分布式执行奠定了坚实基础。
·2025-01-16 14:00

nosql数据库技术与应用知识点

Nosql知识回顾大数据处理流程数据采集(flume、爬虫、传感器)数据存储(本门课程NoSQL所处的阶段)Hdfs、MongoDB、HBase等数据清洗(入仓)Hive等数据处理、分析(Spark、Flink
皆过客，揽星河·2024-09-16 08:42

全面指南：用户行为从前端数据采集到实时处理的最佳实践

本文将详细介绍如何通过前端JavaScript代码采集用户行为数据、利用API和Kafka进行数据传输、通过Flink实时处理数据的完整流程。
数字沉思·2024-09-15 11:28

Mybatis实现员工管理系统

编程思路3.案例源码4.小结1.案例需求在上次做的父子模块的maven以及Ajax实现人工管理系统的基础上使用Mybatis实现员工管理系统的增删改查，具体运行效果如下：2.编程思路Mybatis框架的一般执行流程
wu1113_·2024-09-15 08:32

详解 Flink 的常见部署方式

一、常见部署模式分类1.按是否依赖外部资源调度1.1Standalone模式独立模式(Standalone)是独立运行的，不依赖任何外部的资源管理平台，只需要运行所有Flink组件服务1.2Yarn模式
文刀小桂·2024-09-15 07:31

大数据之flink与hive

其实吧我不太想写flink，因为线上经验确实不多，这也是我需要补的地方，没有条件创造条件，先来一篇吧flink：高性能低延迟流批一体的分布式计算框架基于事件时间对实时数据精准处理快速响应支持批处理，高效离线分析和数据挖掘数据仓库的引擎丰富数据源
星辰_mya·2024-09-14 21:17

一条sql是如何执行的详解

sql是如何执行的详解1.SQL解析（Parsing）2.查询重写（QueryRewrite）3.查询规划（QueryPlanning）4.查询执行（QueryExecution）5.结果返回示例：查询执行流程总结边走
听忆.·2024-09-14 20:11

Java中的大数据处理框架对比分析

本文将重点介绍ApacheHadoop、ApacheSpark、ApacheFlink和ApacheStorm这四种流行的
省赚客app开发者·2024-09-14 20:41

Linux 调试器 GDB 使用指南

GDB能够让你在程序运行时暂停，查看内存和变量的状态，甚至修改程序的执行流程，是开发人员不可或缺的调试工具之一。
方歧·2024-09-14 19:29

一文搞懂 Flink Task 数据交互之数据写源码

一文搞懂FlinkTask数据交互之数据写源码1.RecordWriterOutput2.RecordWriter3.数据分区器ChannelSelector4.数据输出模型ResultPartition5
mn_kw·2024-09-14 15:39
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他