flink流计算

Hadoop、Spark、Flink Shuffle对比

一、Hadoop的shuffle前置知识：Map任务的数量由Hadoop框架自动计算，等于分片数量，等于输入文件总大小/分片大小，分片大小为HDFS默认值128M，可调Reduce任务数由用户在作业提交时通过Job.setNumReduceTasks(int)设置数据分配到Reduce任务的时间点，在Map任务执行期间，通过Partitioner（分区器）确定每个键值对的目标Reduce分区。默认
逆袭的小学生·2025-03-09 10:55

大数据Flink（六十四）：Flink运行时架构介绍_flink中涉及到的大数据组件

从以Greenplum为代表的MPP（MassivelyParallelProcessing，大规模并行处理）架构，到Hadoop、Spark为代表的批处理架构，再到Storm、Flink为代表的流处理架构
2401_84181942·2025-03-09 03:39

大数据运维实战指南：零基础入门与核心技术解析（第一篇）

零基础入门与核心技术解析（第一篇）系列文章目录第一篇：大数据运维概述与核心技能体系第二篇：Hadoop生态体系与集群部署实战第三篇：分布式存储系统运维与优化第四篇：资源调度框架YARN/K8s深度解析第五篇：实时计算框架Flink
emmm形成中·2025-03-09 01:19

快慢指针【等分链表、判断链表中是否存在环】

实现classListNode{intval;ListNodenext;ListNode(intval){this.val=val;this.next=null;}}publicclassMiddleOfLinkedList
山风wind·2025-03-07 22:07

flink入门

flink安装flink本地安装demo运行本地模式安装|ApacheFlinkflink1.13.1为例:cd/optwgethttps://mirrors.advancedhosters.com/apache
Thomas2143·2025-03-07 19:36

Apache Flink详解：流处理与批处理的强大框架

ApacheFlink详解：流处理与批处理的强大框架ApacheFlink是一个开源的流处理框架，旨在处理大规模数据流。Flink能够处理实时流数据和批处理数据，具有高吞吐量、低延迟、容错等特性。
微笑听雨。·2025-03-07 19:36

Flink的市场竞争力：大数据浪潮中的“潜力股”还是“青铜”？

Flink的市场竞争力：大数据浪潮中的“潜力股”还是“青铜”？嘿，各位小伙伴！今天咱来聊聊Flink在市场中的竞争力这个超有意思的话题。
狮歌~资深攻城狮·2025-03-07 19:26

【Flink】（二）详解 Flink 运行架构_flink的运行架构负荷分担是什么

因为Flink是用Java和Scala实现的，所以所有组件都会运行在Java虚拟机上。
2301_82242724·2025-03-07 18:24

flink分发策略详解

一、分发策略核心逻辑与分类Flink的数据分发策略决定了数据在算子间上下游的传输方式，直接影响作业的并行度利用、负载均衡、网络开销。
24k小善·2025-03-07 18:53

【Flink银行反欺诈系统设计方案】1.短时间内多次大额交易场景的flink与cep的实现

【flink应用系列】1.Flink银行反欺诈系统设计方案1.经典案例：短时间内多次大额交易1.1场景描述1.2风险判定逻辑2.使用Flink实现2.1实现思路2.2代码实现2.3使用Flink流处理3
*星星之火*·2025-03-07 18:20

【Flink银行反欺诈系统设计方案】4.Flink CEP 规则表刷新方式

【Flink银行反欺诈系统设计方案】4.FlinkCEP规则表刷新方式概要1.**实现思路**2.**代码实现**2.1定义POJO2.2规则加载与动态更新2.3动态规则更新与CEP模式匹配3.
*星星之火*·2025-03-07 17:16

TiDB系列之：使用Flink TiDB CDC Connector采集数据

TiDB系列之：使用FlinkTiDBCDCConnector采集数据一、依赖项二、Maven依赖三、SQLClientJAR四、如何创建TiDBCDC表五、连接器选项六、可用元数据七、特征一次性处理启动阅读位置多线程读取
快乐骑行^_^·2025-03-06 18:41

SpringBoot集成Flink-CDC

FlinkCDCCDC相关介绍CDC是什么?CDC是ChangeDataCapture(变更数据获取)的简称。
whiteBrocade·2025-03-06 18:10

flink重启策略

一、重启策略核心意义Flink重启策略（RestartStrategy）是容错机制的核心组件，用于定义作业在发生故障时如何恢复执行。其核心目标为：最小化停机时间：快速恢复数据处理，降低业务影响。
24k小善·2025-03-06 17:35

学习Flink：一场大数据世界的奇妙冒险

学习Flink：一场大数据世界的奇妙冒险嘿，朋友们！
狮歌~资深攻城狮·2025-03-06 17:29

基于 Flink CDC YAML 的 MySQL 到 Kafka 流式数据集成

这篇教程将展示如何基于FlinkCDCYAML快速构建MySQL到Kafka的流式数据集成作业，包含整库同步、表结构变更同步的演示和特色功能的介绍。
·2025-03-05 16:47

Databend 产品月报（2025年2月）

从MySQL迁移到DatabendDatabend推荐使用db-archiver进行MySQL批量迁移，使用FlinkCDC进行实时变更数据捕获（CDC）迁移。
·2025-03-05 15:15

Flink CDC + Oracle Demo

本文用于说明Flink集成oraclecdc的方式pom.xml1.13.32.12org.apache.flinkflink-java${flink.version}provided-->org.apache.flinkflink-clients
缘上寒山·2025-03-05 12:53

Flink CEP原理与代码实例讲解

FlinkCEP原理与代码实例讲解1.背景介绍1.1什么是复杂事件处理CEP复杂事件处理(ComplexEventProcessing,CEP)是一种用于分析事件流的技术。
AI天才研究院·2025-03-05 11:20

【Flink银行反欺诈系统设计方案】反欺诈系统全生命周期设计

【Flink银行反欺诈系统设计方案】反欺诈系统全生命周期设计概要：1.事前反欺诈准备核心模块与架构：2.事中反欺诈发现与告警核心模块与架构：3.事后反欺诈事件分析核心模块与架构：4.反欺诈闭环架构设计整体技术栈
*星星之火*·2025-03-05 11:49

Flink Oceanbase Connector详解

FlinkOceanBaseConnector是ApacheFlink提供的一个用于连接OceanBase数据库的插件。
24k小善·2025-03-05 11:17

小白进阶高手：使用Flink开发实时数仓的经验与技巧（理论结合超多实例）

Flink作为一种流处理框架，在实时数仓的开发中发挥着关键作用。它能够处理大量实时数据流，支持复杂的事件处理、实时计算和监控，具有高吞吐、低延迟的优势。
大模型大数据攻城狮·2025-03-05 11:43

Flink学习方法

如果你正打算学习Flink，或者刚刚开始接触Flink，别担心，很多人都是从这个阶段走过来的今天我就来给大家分享一些学习Flink的建议，希望能帮到你一、了解Flink是什么在正式开始学习之前，我们得先搞清楚
狮歌~资深攻城狮·2025-03-05 10:41

FlinkCEP社区资源指南：学习与交流平台

FlinkCEP社区资源指南：学习与交流平台1.背景介绍ApacheFlink是一个开源的分布式大数据处理引擎,支持有状态计算和准确一次的流处理语义。
AI大模型应用之禅·2025-03-05 10:09

深入探秘FlinkCDC：实时数据处理的新利器

在这样的大背景下，FlinkCDC应运而生，它作为一种强大的实时数据同步与处理工具，为大数据处理带来了全新的解决方案，在大数据生态体系中占据着举足轻重的地位。FlinkCDC，即FlinkCha
lucky_syq·2025-03-05 10:08

Flink keyBy 算子源码与设计理念分析

今天我们来探究一下Flink使用keyBy算子的时候到底发生了什么，看完这篇文章，你会豁然开朗。
·2025-03-05 03:27

Flink----常见故障排除

目录常见故障排除1非法配置异常2Java堆空间异常3直接缓冲存储器异常4元空间异常5网络缓冲区数量不足6超出容器内存异常7Checkpoint失败7.1CheckpointDecline7.2CheckpointExpire8Checkpoint慢SourceTriggerCheckpoint慢：使用增量Checkpoint：作业存在反压或者数据倾斜：Barrier对齐慢主线程太忙，导致没机会做s
天冬忘忧·2025-03-04 21:23

Flink SQL的Top-N实战

Flink使用OVER窗口条件和过滤条件相结合以进行Top-N查询。利用OVER窗口的PARTITIONBY子句的
听挽风讲大数据·2025-03-04 20:18

数栈基于Flink CEP与规则热更新扩展的深度解析

本文通过实际案例深入探讨了FlinkCEP在复杂事件处理中的核心作用，详细分析了其优缺点，并探讨了在实时计算平台中规则热更新的重要性和创新实现方式，旨在帮助读者更好地理解和应用FlinkCEP。
·2025-03-04 18:11

【大数据专题】Flink题库

1.简述什么是ApacheFlink？ApacheFlink是一个开源的基于流的有状态计算框架。
我思故我在6789·2025-03-04 18:37

14个Flink SQL性能优化实践分享

在大数据处理领域，ApacheFlink以其流处理和批处理一体化的能力，成为许多企业的首选。然而，随着数据量的增长，性能优化变得至关重要。
快乐非自愿·2025-03-04 15:40

Flink SQL 底层封装的原理

ApacheFlink是一个分布式流处理引擎，而FlinkSQL是其提供的一个SQL层，允许用户通过标准SQL查询对流式或批量数据进行查询和分析。
goTsHgo·2025-03-04 02:36

Flink如何做流计算？大数据世界的“实时魔法”

Flink如何做流计算？大数据世界的“实时魔法”揭秘✨嘿，各位小伙伴！今天咱们来聊聊Flink是怎么做流计算的。
狮歌~资深攻城狮·2025-03-04 02:05

Flink SQL的使用

文章目录一、FlinkSQL简介1.1FlinkSQL特点1.2工作原理1.3应用场景二、FlinkSQL语法2.1CREATEcreate语句2.2SELECTselect语句2.2.1简单查询2.2.2
超人在良家-阿启·2025-03-04 02:05

Kafka 迁移 AutoMQ 时 Flink 位点管理的挑战与解决方案

凭借其与Kafka的完全兼容性可以与用户已有的Flink等大数据基础设施进行轻松整合。Flink是重要的流处理引擎，与Kafka有着密切的关系。
·2025-03-03 17:20

Flink同步数据mysql到doris问题合集

Flink同步数据mysql到doris官方同步流程Doris安装下载地址导入镜像启动配置Flink-cdc安装（自制）下载地址导入镜像启动命令启动问题修复Flink报错Couldnotacquiretheminimumrequiredresources
土豆沒加·2025-03-02 05:28

Flink架构体系：深入解析Apache Flink的架构与工作原理

Flink架构体系：深入解析ApacheFlink的架构与工作原理ApacheFlink是一种高性能、分布式、流式处理引擎，被广泛应用于大数据处理和实时分析场景。
雨中徜徉的思绪漫溢·2025-03-02 05:25

Flink的架构体系

Flink中的重要角⾊JobManager处理器JobManager处理器也称之为Master，用于协调分布式执行，它们用来调度task，协调检查点，协调失败时恢复等。
GDDGHS_·2025-03-02 05:25

Streampark 入门到生产实践

.StreamPark初探1.1什么是StreamPark1.2Features1.3架构2.环境安装要求如何插入一段漂亮的代码片3.安装apache-streampark最新版4.使用教程4.1配置Flink_home4.2git
大数据学习爱好者·2025-03-02 04:53

Flink——部署StreamPark

环境准备提前部署好了Flink1.18，官方要求1.12及以上jdk1.8Mysql5.7，官方要求5.6及以上，也可省略，系统自带h2Step1：通过streampark官网下载安装包Step2：跟着官网的
penghaichao·2025-03-02 04:52

Flink K8s Application任务的使用

FlinkK8sApplication任务的使用FlinkK8sApplication任务的使用构键k8s集群提供flink运行任务的环境下载flink客户端任务编程任务jar生成过程k8sApplication
老哥哥-老刘·2025-03-02 04:52

【Apache Paimon】-- 13 -- 利用 paimon-flink-action 同步 mysql 表数据

mysql表结构和数据1、背景信息在Paimon诞生以前，若mysql/pg等数据源的表结构发生变化时，我们有几种处理方式（1）人工通知（比如常规的使用邮件），然后运维人员手动同步到数据仓库中（2）使用flink
oo寻梦in记·2025-03-02 04:51

StreamPark发布：Flink迎来首个Apache版本

这一版本的发布标志着StreamPark与ApacheFlink的融合迈出了重要的一步，为用户提供了更好的流处理体验。
MfvShell·2025-03-02 04:49

Flink CDC

数据库中读取配置数据,我以前没接触这个技术之前是定时从数据库中获取数据,但是将数据间隔设置太小就会出现问题,所以达不到纯实时的效果.下面开始介绍一下准备工作:支持的数据库(下面是官方的建议:MySQL|ApacheFlinkCDC
LonelyProgramme·2025-03-02 04:49

Doris、ClickHouse 和 Flink 这三个技术典型的应用场景

Doris、ClickHouse和Flink这三个技术在不同业务场景下有各自的成功落地方案，主要用于数据分析、实时计算和高性能查询。
每天瞎忙的农民工·2025-03-02 04:19

使用 Flink CDC 实现 MySQL 数据,表结构实时入 Apache Doris

背景现有数据库：mysql数据：库表较多，每个企业用户一个分库，每个企业下的表均不同，无法做到聚合,且表可以被用户随意改动，增删改列等，增加表分析：用户自定义分析，通过拖拽定义图卡，要求实时，点击确认即出现相应结果，其中有无法预判的过滤问题：随业务增长，企业用户越来越多，mysql压力越来越大，已经出现一些图卡加载过慢[mysqlsql]同步流程脚本读取mysql中需要同步的企业，在获取需要同步的
一天两晒网·2025-03-01 18:42

Streaming ELT 同步 MySQL 到 StarRocks

StreamingELT同步MySQL到StarRocks这篇教程将展示如何基于FlinkCDC快速构建MySQL到StarRocks的StreamingELT作业，包含整库同步、表结构变更同步和分库分表同步的功能
慧一居士·2025-03-01 17:39

阿里架构师推荐的消息中间件万字文档：RocketMQ+RabbitMQ+KafKa

RocketMQ思路起源于Kafka，它对消息的可靠传输及事务性做了优化，目前在阿里集团被广泛应用于交易、充值、流计算、消息推送、日志流式处理、binglog分发等场景市面上真正适合学习的RocketMQ
xiaohao718·2025-02-28 14:53

kafka stream对比flink

KafkaStreams和ApacheFlink虽然都支持实时计算，但它们的定位、架构和适用场景存在显著差异。选择哪一个取决于具体的需求、场景和技术栈。
后季暖·2025-02-28 14:23

Spark技术系列（一）：初识Apache Spark——大数据处理的统一分析引擎

的局限性：磁盘迭代计算、中间结果落盘导致的性能瓶颈Spark诞生背景：UCBerkeleyAMPLab实验室为解决复杂迭代计算需求研发（2010年开源）技术定位：基于内存的通用分布式计算框架（支持批处理、流计算
数据大包哥·2025-02-28 09:06
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他