大数据计算-Flink 第2页

常见的实时数仓方案

实时部分以消息队列的方式实时增量消费，一般以Flink+Kafka的组合实现，维度表存在关系型数据库或者HBase；离线部分一般采用T+1周期调度分析历史存量数据，每天凌晨产出，更新覆盖前一天的结果数据

北极冰雨·2024-08-30 05:27

Flink的窗口聚合

Flink在开启窗口后，经常会对数据进行聚合操作，本文介绍一下Flink的窗口聚合。Flink的窗口聚合的分类分为两类：全量聚合和增量聚合。

蜗牛@漫步·2024-08-29 12:32

Flink任务的失败恢复

在我们写完Flink程序并部署服务器上后，我们希望程序会一直运行下去。但总会有很多情况会导致全部或部分任务出现异常而导致程序中止，这个时候就希望任务能够自动处理这些异常情况。

蜗牛@漫步·2024-08-29 12:02

Flink的Savepoint机制

Flink有检查点（checkpoint）和保存点（savepoint），他们有很多相似的地方，但作用却不相同。Checkpoints的主要目的是在意外的作业失败的情况下提供一种恢复机制。

蜗牛@漫步·2024-08-29 12:02

（十四）基于 Flink SQL 应用案例

基于上面的应用场景，结合FlinkSQL，完成技术方案设计，并输出实现代码。目录问题1详解问题2详解问题1详解基于问题一，主要

springk·2024-08-28 07:44

10、Flink 动态表之更新和追加查询详解

更新和追加查询虽然这两个示例查询看起来非常相似（都计算分组计数聚合），但它们在一个重要方面不同：第一个查询更新先前输出的结果，即定义结果表的changelog流包含INSERT和UPDATE操作。第二个查询只附加到结果表，即结果表的changelog流只包含INSERT操作。一个查询是产生一个只追加的表还是一个更新的表区别：产生更新更改的查询通常必须维护更多的状态。将append-only的表转换

猫猫爱吃小鱼粮·2024-08-28 07:43

Flink SQL w/ Blink Planner执行流程解析（上篇）

Foreword大数据领域SQL化的风潮方兴未艾(所谓"EverybodyknowsSQL")，Flink自然也不能“免俗”。

码农老K·2024-08-27 17:44

大数据计算-SQL优化手段(CBO)-以Flink为例

文章目录背景理论知识示例结果展示结果解释背景大数据计算中，SQL生成的执行计划第一轮会经过固定规则的优化，第二轮会根据原计划，生成多条结合成本的的执行计划，根据cost进行排序，选出最优的执行计划。

wending-Y·2024-08-27 17:12

flink&paimon开发之一：创建catalog

开发环境IDEAFlink1.17.1Paimon0.5正式本地或HDFS存储参考链接paimonjavaAPIhttps://paimon.apache.org/docs/master/api/flink-api

leichangqing·2024-08-27 16:10

（二十）Flink Paimon

数据湖、湖仓一体是当前大数据领域技术发展的重要趋势。近几年开源数据湖技术如ApacheHudi、ApacheIceberg、ApachePaimon、DeltaLake等不断涌现，基于湖仓一体架构的统一元数据管理、数据治理也越来越受到关注。从传统数仓到数据湖、湖仓一体架构，从流批一体计算到基于数据湖的流批一体存储，越来越多的企业基于开源技术，在集成、计算、存储、查询分析等方面不断优化，建设形成适合

springk·2024-08-27 16:38

flink报错找不到类java.lang.NoClassDefFoundError: org/apache/flink/streaming/api/datastream/DataStream

问题：解决方法：把这个Adddependencieswith"provided"scopetoclasspath勾选上

搞数据的小杰·2024-08-26 23:22

2024年最新Flink教程,从基础到就业，大家一起学习--Flink DataStream API-第一篇+源码讲解

本文涉及到大量的底层原理知识，包括运行机制图解都非常详细，还有一些实战案例，所以导致本篇文章会比较长，内容比较多，由于内容太多，很多目录可能展示不出来，需要去细心的查看，非常适合深入了解学习flink的小伙伴们

长风清留扬·2024-08-26 22:19

（十三）Flink SQL

目录DDL操作DML操作查询语句1.SELECTDISTINCT2.窗口函数3.窗口聚合4.OVER聚合5.连接操作6.TOP-NFlink对SQL的支持基于实现了SQL标准的ApacheCalcite

springk·2024-08-26 16:59

Flink 内存管理机制

序：Flink的内存管理机制也是Flink的一大亮点。Flink在JVM内部实现了自己的内存管理。

lvwenyuan_1·2024-08-26 16:58

（十五）Flink 内存管理机制

本章我们通过对Flink内存模型、JobManag

springk·2024-08-26 16:27

flink 状态参数设置

前提代码示例，通过flink消费kafka，查看list状态中的数据，确定参数的具体含义kafka的代码：发送两个key值，一秒发送一次for(inti=0;isource=KafkaSource.builder

陪你一起捡蛋壳·2024-08-26 13:36

（十九）Flink CDC

FlinkCDC(FlinkChangeDataCapture)是基于数据库的日志CDC技术，实现了全增量一体化读取的数据集成框架。

springk·2024-08-26 12:01

Flink内存调优

Flink内存调优JVM我们知道Flink是基于JobManager和TaskManager管理和运行任务，而他们都是以Java进程的形式运行的，所以在了解Flink内存时，我们需要先了解一下Java运行时环境

HHoao·2024-08-26 10:44

（十）Flink Table API 和 SQL 基本概念

ApacheFlink有两种关系型API来做流批统一处理：TableAPI和SQL。

springk·2024-08-25 21:56

（九）基于 Flink DataStream API 应用案例

在11.11购物节大促活动中，天猫、京东等商家会对外发布购物节对应的交易金额、单量等信息，下面我们以2023.11.11购物节大促为背景，完成如下任务的计算：问题1：每隔1秒统计购物节当日从零点开始，截止到当前时间总交易额。问题2：基于销售的商品，按照品牌分类，每小时统计对应品牌下的总订单量。基于上面的应用场景，结合DataStreamAPI，完成技术方案设计，并输出实现代码。目录问题1详解问题2

springk·2024-08-25 21:55

flink 状态

状态（State）是一个重要的概念，它允许Flink在处理流数据时跟踪和存储中间结果。这对于实现复杂的计算逻辑和满足应用需求至关重要。

王小工·2024-08-25 21:54

9、Flink SQL 流式概念之Compiled Plan详解

生成CompiledPlan配置过程首先会使用COMPILEPLAN语句生成一个JSON文件，它表示了序列化后的执行计划。COMPILEPLAN不支持查询语句SELECT...FROM...。执行COMPILEPLAN语句TableEnvironmenttableEnv=TableEnvironment.create(EnvironmentSettings.inStreamingMode());t

猫猫爱吃小鱼粮·2024-08-25 20:53

（十六）Flink 状态管理

分类状态有效期（TTL）过期数据的清理OperatorStateBroadcastState状态存储StateBackends分类设置StateBackendRocksDBStateBackend详解在Flink

springk·2024-08-25 20:22

Flink CDC Standalone模式部署及Flink CDC Job提交

目录部署规划FlinkCDC下载FlinkCDC安装安装包解压添加connector包添加MySQL驱动提交FlinkCDC任务独立模式（Standalonemode）是Flink最简单的部署模式。

L（刘二宝）·2024-08-24 13:41

从零到一建设数据中台 - 关键技术汇总

数据中台关键技术汇总语言框架：Java、Maven、SpringBoot数据分布式采集：Flume、Sqoop、kettle数据分布式存储：HadoopHDFS离线批处理计算：MapReduce、Spark、Flink

我码玄黄·2024-08-24 12:09

Flink 流转表，表转流，watermark设置

流转表首先创建一个流@Data@AllArgsConstructor@NoArgsConstructorpublicstaticclassNan{privateStringxing;privateStringname;privateLongts;}StreamExecutionEnvironmentenv=StreamExecutionEnvironment.getExecutionEnviron

qzWsong·2024-08-24 02:59

通俗易懂理解Flink水位线

理解水位线之前，我们先得理解Flink中的时间语义。

SunnyRivers·2024-08-23 16:29

Flink 开发语言选择 —— Java vs Scala

引言ApacheFlink是一个用于处理无界和有界数据流的开源分布式计算框架。随着Flink的日益流行，越来越多的开发者开始考虑使用哪种编程语言来进行Flink应用程序的开发。

不知名靓仔·2024-08-22 07:04

Apache Paimon：实时湖仓架构构建工具

ApachePaimon：实时湖仓架构构建工具paimonApachePaimonisalakeformatthatenablesbuildingaRealtimeLakehouseArchitecturewithFlinkandSparkforbothstreamingandbatchoperations

乔如黎·2024-08-22 03:15

探索实时湖仓架构的新星：Apache Paimon

探索实时湖仓架构的新星：ApachePaimonpaimonApachePaimonisalakeformatthatenablesbuildingaRealtimeLakehouseArchitecturewithFlinkandSparkforbothstreamingandbatchoperations

幸愉旎Jasper·2024-08-22 03:39

大数据存储

龙哥vw·2024-08-22 02:32

flink经典实战案例

一、java版flink-wordcount-离线计算版1.1maven构建flink，加入依赖org.apache.flinkflink-java${flink.version}provided-->

不爱吃肉肉·2024-08-21 20:59

Flink中的SQL Client和SQL Gateway

Flink中的SQLClient和SQLGateway对比目录定义基本原理适用场景主要区别常用运维命令示例官方链接正文1.定义SQLClient：FlinkSQLClient是一种用于提交和执行FlinkSQL

BigDataMLApplication·2024-03-29 14:20

Flink算子通用状态应用测试样例

Flink算子通用状态应用测试样例1.获取Flink执行环境finalStreamExecutionEnvironmentenv=StreamExecutionEnvironment.getExecutionEnvironment

公子乂·2024-03-27 05:23

关于HDP的20道高级运维面试题

HDP（HortonworksDataPlatform）的主要组件包括Hadoop框架、HDFS、MapReduce、YARN以及Hadoop生态系统中的其他关键工具，如Spark、Flink、Hive

编织幻境的妖·2024-03-26 15:34

Flink 面试题总结及答案

基础state的分类keystate和operatestatestate的重分布Flink状态管理详解：KeyedState和OperatorListState深度解析-掘金checkpoint和savepointhttps

wending-Y·2024-03-22 08:55

Flink 批作业消费kafka

文章目录示例代码原理总是kafka数据源可以是有界数据源，也可以是无界数据源示例代码publicstaticvoidmain(String[]args){StreamExecutionEnvironmentenv=StreamExecutionEnvironment.getExecutionEnvironment();env.setParallelism

wending-Y·2024-03-22 08:25

Flink源码-6-JobMaster 启动任务

JobMasterjobmaster负责执行整个任务入口类org.apache.flink.runtime.jobmaster.JobMasterpublicCompletableFuturestart

wending-Y·2024-03-22 08:25

【大数据面试题】014 Flink CDC 用过吗，请简要描述

FlinkCDC的诞生背景FlinkCDC的全称是ChangeDataCapture（变更数据捕获）每一项技术的诞生都是为了解决某个问题，某个痛点。

Jiweilai1·2024-03-20 04:43

pyflink1.18.0 报错 TypeError: cannot pickle ‘_thread.lock‘ object

完整报错Traceback(mostrecentcalllast):File"/Users//1.py",line851,inds1=my_datastream.key_by(lambdax:x[0]).process(MyProcessFunction())#返回元组即:f0f1f2三列File"/Users/thomas990p/bigdataSoft/minicondaarm/minicon

Thomas2143·2024-03-19 18:31

【Flink SQL】Flink SQL 基础概念（五）：SQL 时区问题

《FlinkSQL基础概念》系列，共包含以下5篇文章：FlinkSQL基础概念（一）：SQL&Table运行环境、基本概念及常用APIFlinkSQL基础概念（二）：数据类型FlinkSQL基础概念（三

G皮T·2024-03-19 13:24

【大数据】Flink SQL 语法篇（五）：Regular Join、Interval Join

《FlinkSQL语法篇》系列，共包含以下10篇文章：FlinkSQL语法篇（一）：CREATEFlinkSQL语法篇（二）：WITH、SELECT&WHERE、SELECTDISTINCTFlinkSQL

G皮T·2024-03-19 07:16

大数据开发（Kafka面试真题-卷一）

5、Flinkcheckpoint和Kafkaoffset的关联是什么？

Key-Key·2024-03-18 23:05

linux安装单机版spark3.5.0

一、spark介绍是一种通用的大数据计算框架，正如传统大数据技术Hadoop的MapReduce、Hive引擎，以及Storm流式实时计算引擎等.Spark主要用于大数据的计算二、spark下载spark3.5.0

爱上雪茄·2024-03-17 18:57

flink: 自定义表函数的用法

packagecn.edu.tju.demo3;importorg.apache.flink.api.common.functions.MapFunction;importorg.apache.flink.api.java.tuple.Tuple2

amadeus_liu2·2024-03-17 03:37

flink:自定义函数的简单用法

packagecn.edu.tju.demo3;importorg.apache.flink.api.common.functions.MapFunction;importorg.apache.flink.streaming.api.datastream.DataStream

amadeus_liu2·2024-03-17 03:07

flink状态后端和检查点的关系

在ApacheFlink中，检查点（Checkpoints）和状态后端（StateBackend）是两个核心概念，它们之间有着紧密的联系。为了更好地理解这种联系，我们首先需要分别了解这两个概念。

后季暖·2024-03-16 08:12

Flink异步io关联Hbase

主程序publicstaticvoidmain(String[]args)throwsException{//1.获取流执行环境StreamExecutionEnvironmentenv=StreamExecutionEnvironment.getExecutionEnvironment();env.setParallelism(1);SimpleDateFormatformatter=newSi

//承续缘_纪录片·2024-03-16 05:06

flink重温笔记（十五）： flinkSQL 顶层 API ——实时数据流转化为SQL表的操作

Flink学习笔记前言：今天是学习flink的第15天啦！

那就学有所成吧(˵¯͒¯͒˵)·2024-03-13 09:32

FlinkCDC快速搭建实现数据监控

引入依赖4.0.0com.sandflinkcdc1.0-SNAPSHOTjarFlinkQuickstartJobUTF-81.17.11.14.4-->1.82.12${target.java.version

tianqi11·2024-03-12 05:20

推荐频道

大数据计算-Flink