大数据框架flink

【Flink-Kafka-To-Hive】使用 Flink 实现 Kafka 数据写入 Hive

【Flink-Kafka-To-Hive】使用Flink实现Kafka数据写入Hive1）导入相关依赖2）代码实现2.1.resources2.1.1.appconfig.yml2.1.2.log4j.properties2.1.3
bmyyyyyy·2023-12-21 07:51

Flink 窗口（1）—— 基础概念

这就相当于将无界流的聚合转化为了有界数据集的聚合Flink“存储桶”在Flink中，窗口可以把流切割成有限大小的多个“存储桶”（bucket)；每个数据都会分发到对应的桶中，当到达窗口结束时间时，就对每个桶中收集的数据进行计算处理窗口处理过程
THE WHY·2023-12-21 07:48

FlinkSQL

动态表是Flink在TableAPI和SQL中的核心概念，它为流数据处理提供了表和SQL支持。
Stephen6Yang·2023-12-21 07:40

Spring 6（一）【Spring 入门】

Flink按说应该是大数据学习的主线任务，但是长时间学一门技术还是心累的。正好之前对Java注解有了进一步的熟悉，一直想着熟悉巩固。
让线程再跑一会·2023-12-21 07:05

Flink（十）【处理函数】

今天学习Flink处理函数，学完这一块就剩状态管理、容错机制和FlinkSQL了，坚持坚持。学完再好好回顾回顾，最后就是把剩余的一些框架（Kafka、Flume等）补齐
让线程再跑一会·2023-12-21 07:30

Flink消费Redis Stream数据

前言对于流处理，感觉flink近乎苛刻的只对kafka友好。当然我对kafka也有天然的好感，但是相对于redis而言，kafka还是稍显复杂了一些。我们的生产环境中没有kafka，只有redis。
iFence·2023-12-21 06:08

Flink学习1——运行时架构(standalone模式)

本篇主要讲述FlinkStandalone模式下的运行时架构以及各个组件负责的功能，Flink的运行方式有很多，但都大同小异，本文基本可以满足对flink运行时架构的学习。
iFence·2023-12-21 06:07

Flink join（流流）详解（一）

本文基于flink1.11进行测试。前言这里所说的join是两个或者多个流的join，涉及流批join的内容或者批批join会另写一篇文章专门说。
iFence·2023-12-21 06:37

Flink process function使用详解

前言processfunction是flink中比较底层的函数。能够实现一些高层函数无法实现的功能。
iFence·2023-12-21 06:37

Flink SQL流表与维表join实践

想要使用FlinkSQL的方式join两张表，静态维表的作用类似一张字典表。流表源源不断的来数据，然后去内存中查询字典将流表的数据更新然后插入到MySQL数据库中。
iFence·2023-12-21 06:37

Flink 流表与维表join（流批join）——使用异步IO（async io）实现

前言之前的文章中讲过了Flink流流join也讲过了翻车版本的流批join。为什么翻车了，那篇文章也说了。如果事实表和维度表进行join，Flink会认为这是一个批处理程序。也就是说程序会自己暂停。
iFence·2023-12-21 06:37

flink 1.11 广播状态（Broadcast State）的使用

flink的join算子也是基于广播状态来实现的。需求这里使用flink逛网提供的需求：一个流中包含的事件Item，Item中包含两个属性，一个为Color，一个为Shape。
iFence·2023-12-21 06:07

Flink累加器、计数器的使用

Flink累加器的结果只能在作业结束以后才能得到。这就意味着，如果是一个一直不间断执行的流处理程序是无法得到累加器结果的。只有批处理成功，也就是会结束的flink程序才能得到累加器结果。
iFence·2023-12-21 06:07

【已解决 Flink Java API问题】The return type of function ‘xxx‘ could not be determined automatically

FlinkJavaAPI不像ScalaAPI可以随便写lambda表达式，写完以后需要使用returns方法显式指定返回值类型，否则会报下面错误，大概意思就是说Java的lambda表达式不能提供足够的类型信息
iFence·2023-12-21 06:07

Flink1.11 事件时间（event time）、watermark、watermarkstrategy使用详细案例

前言flink1.11中有了新版的指定watermark和watermarkstrategyAPI。
iFence·2023-12-21 06:37

Flink利用process算子进行分流操作

需求kafka中存有从metricbeat收集的各种数据系统指标数据存到同一个topic中，但是各种指标数据不尽相同，这时候需要将相同结构的数据收集到一起分开处理，就用到了Flink的分流操作。
iFence·2023-12-21 06:36

flink sql1.18.0连接SASL_PLAINTEXT认证的kafka3.3.1

如下：version:"2.2"services:jobmanager:image:flink:1.18.0-scala_2.12container_name:jobmanagerports:-"7081
iFence·2023-12-21 06:33

Flink Table API 与 SQL 编程整理

FlinkAPI总共分为4层这里主要整理TableAPI的使用TableAPI是流处理和批处理通用的关系型API，TableAPI可以基于流输入或者批输入来运行而不需要进行任何修改。
程序猿进阶·2023-12-21 05:49

Flink CDC 系列（2）—— Flink CDC 源码编译

FlinkCDC系列文章：《FlinkCDC系列（1）——什么是FlinkCDC》《FlinkCDC系列（2）——FlinkCDC源码编译》《FlinkCDC系列（3）——FlinkCDCMySQLConnector
修破立生·2023-12-21 01:08

「Java工具类」BeanCopyUtil对象复制工具类

通用工具类的分享；以及springboot+springcloud+Mybatisplus+druid+mysql+redis+swagger+maven+docker等集成框架的技术分享；datax、kafka、flink
程序员阿宁·2023-12-21 01:37

Flink CDC

一、什么是CDC?  CDC是ChangeDataCapture（变更数据获取）的简称。核心思想是，监测并捕获数据库的变动（包括数据或数据表的插入、更新以及删除等），将这些变更按发生的顺序完整记录下来，写入到消息中间件中以供其他服务进行订阅及消费。二、CDC种类  CDC主要分为基于查询和基于Binlog两种方式，我们主要了解一下这两种之间的区别：基于查询的CDC基于Binlog的CDC开源产品S
满床清梦覆星河·2023-12-21 01:06

Flink系列之：基于Flink CDC2.0实现海量数据的实时同步和转换

Flink系列之：基于FlinkCDC2.0实现海量数据的实时同步和转换一、CDC技术二、FlinkCDC技术三、传统数据集成方案的痛点1.传统数据入仓架构1.02.传统数据入仓架构2.03.传统CDCETL
最笨的羊羊·2023-12-20 23:48

Iceberg （一、presto和trino实践——行级更新）

为什么先讲述presto和trino引擎操作，主要是这两个组件没有找到详细介绍的文档，另外关于spark/flink会有更多的文章
yyoc97·2023-12-20 23:18

Flink CDC 3.0 正式发布，详细解读新一代实时数据集成框架

01FlinkCDC概述FlinkCDC是基于数据库日志CDC（ChangeDataCapture）技术的实时数据集成框架，支持了全增量一体化、无锁读取、并行读取、表结构变更自动同步、分布式架构等高级特性
Apache Flink·2023-12-20 23:16

Flink CDC 系列 - 同步 MySQL 分库分表，构建 Iceberg 实时数据湖

这篇教程将展示如何使用FlinkCDC构建实时数据湖来应对这种场景，本教程的演示基于Docker，只涉及SQL，无需一行Java/Scala代码，也无需安装IDE，你可以很方便地在自己的
四月天03·2023-12-20 23:16

Flink CDC同步 MySQL 分库分表分片数据

只需要在创建flink源表时在数据库和表名上使用正则匹配即可。
shy_snow·2023-12-20 23:16

Flink cdc3.0同步实例（动态变更表结构、分库分表同步）

文章目录前言准备flink环境docker构建mysql、doris环境数据准备通过FlinkCDCcli提交任务整库同步同步变更路由变更路由表结构不一致无法同步结尾前言最近FlinkCDC3.0发布，
yyoc97·2023-12-20 23:39

Flink高可用集群搭建

部署flink的准备工作flink版本的选择需要考虑hadoop的版本，本集群hadoop的版本为2.7.4,flink的版本为flink-1.7.2-bin-hadoop27-scala_2.11.tgzflink
NikolasNull·2023-12-20 23:44

Flink系列之：监控Checkpoint

Flink系列之：监控Checkpoint一、概览二、概览（Overview）选项卡三、历史记录（History）选项卡四、历史记录数量配置五、摘要信息（Summary）选项卡六、配置信息（Configuration
最笨的羊羊·2023-12-20 22:21

Flink系列之：JDBC SQL 连接器

Flink系列之：JDBCSQL连接器一、JDBCSQL连接器二、依赖三、创建JDBC表四、连接器参数五、键处理六、分区扫描七、LookupCache八、幂等写入九、JDBCCatalog十、JDBCCatalog
最笨的羊羊·2023-12-20 21:24

Flink系列之：State Time-To-Live (TTL)

Flink系列之：StateTime-To-LiveTTL一、TTL二、TTL实现代码三、过期状态的清理一、TTLFlink的TTL（Time-To-Live）是一种数据过期策略，用于指定数据在流处理中的存活时间
最笨的羊羊·2023-12-20 21:47

Flink系列之：Apache Kafka SQL 连接器

Flink系列之：ApacheKafkaSQL连接器一、ApacheKafkaSQL连接器二、依赖三、创建Kafka表四、可用的元数据五、连接器参数六、特性七、Topic和Partition的探测八、起始消费位点九
最笨的羊羊·2023-12-20 17:19

Flink系列之：Upsert Kafka SQL 连接器

Flink系列之：UpsertKafkaSQL连接器一、UpsertKafkaSQL连接器二、依赖三、完整示例四、可用元数据五、键和值格式六、主键约束七、一致性保证八、为每个分区生成相应的watermark
最笨的羊羊·2023-12-20 17:19

Flink系列之：窗口Top-N

Flink系列之：窗口Top-N一、窗口Top-N二、示例：在窗口聚合后进行窗口Top-N三、在窗口表值函数后进行窗口Top-N四、限制一、窗口Top-N适用于流、批一体窗口Top-N是特殊的Top-N
最笨的羊羊·2023-12-20 17:47

Flink SQL填坑记2：Flink和MySQL的Bigdata类型不同导致ClassCastException报错

最近在开发FlinkSQL的时候，需要关联Kafka事实表和MySQL维表，得到的数据写入Phoenix表中，但是其中有个字段，Kafka表、MySQL表和Phoenix表都是BigData类型，但是在实现的时候却报
IT源哥·2023-12-20 17:17

flink 读取 apache paimon表,查看source的延迟时间 消费堆积情况

paimonsource查看消费的数据延迟了多久如果没有延迟则显示0官方文档Metrics|ApachePaimon
Thomas2143·2023-12-20 15:49

Flink-容错机制checkpoint

所以在Flink中，检查点的保存是周期性触发的，间隔时间可以进行设置。保存的时间点我们应该在所有任务（算子）都恰好处理完一个相同的输入数据的时候，将它们的状态保存下来。这样做可以实现一个数据被
Stephen6Yang·2023-12-20 11:42

Flink和Kafka连接时的精确一次保证

端到端的精确一次性保证既然是端到端的exactly-once，我们可以从三个组件的角度来进行分析：（1）Flink内部Flink内部可以通过检查点机制保证状态和处理结果的exactly-once语义。
Stephen6Yang·2023-12-20 11:09

flink kafka

Mac下Kafka安装与启动https://www.jianshu.com/p/a581372f07b4https://github.com/wangzhiwubigdata/God-Of-BigData
夏天_edbf·2023-12-20 11:15

Flink实时电商数仓（二）

初始推送后完全保护”设置.gitignore文件，项目配置文件等其他非通用代码无需提交安装gitlabproject2020插件点击shareprojectongitlab即可将项目上传到gitlab中Flink
十七✧ᐦ̤·2023-12-20 08:50

Flink-状态后端

Flink中提供了两类不同的状态后端，一种是“哈希表状态后端”（HashMapStateBackend），另一种是“内嵌RocksDB状态后端”（EmbeddedRocksDBStateBackend）
Stephen6Yang·2023-12-20 08:20

掌握实时数据流：使用Apache Flink消费Kafka数据

导读：使用Flink实时消费Kafka数据的案例是探索实时数据处理领域的绝佳方式。不仅非常实用，而且对于理解现代数据架构和流处理技术具有重要意义。
昊昊该干饭了·2023-12-20 08:14

Flink CEP SQL案例

描述：现在的任务是找出一个单一股票价格不断下降的时期。一、Maven项目pom.xml二、测试数据输入：+----+--------------------------------+-------------------------+----------------------+----------------------+|op|symbol|rt|price|tax|+----+-------
Anthons·2023-12-20 06:17

2018-11-09

leetcode876.MiddleoftheLinkedListGivenanon-empty,singlylinkedlistwithheadnodehead,returnamiddlenodeoflinkedlist.Iftherearetwomiddlenodes
pythonpy·2023-12-20 06:18

FFA 2023｜字节跳动 7 项议题入选

FlinkForward是由Apache官方授权的ApacheFlink社区官方技术大会，作为最受ApacheFlink社区开发者期盼的年度峰会之一，FFA2023将持续集结行业最佳实践以及Flink最新技术动态
字节跳动云原生计算·2023-12-20 06:09

基于 Flink 构建实时数据湖的实践

本文整理自火山引擎云原生计算研发工程师王正和闵中元在本次CommunityOverCodeAsia2023数据湖专场中的《基于Flink构建实时数据湖的实践》主题演讲。
字节跳动云原生计算·2023-12-20 06:39

Flink系列之：Over聚合

Flink系列之：Over聚合一、Over聚合二、ORDERBY三、PARTITIONBY四、范围（RANGE）定义五、RANGE间隔六、ROW间隔适用于流、批一、Over聚合OVER聚合通过排序后的范围数据为每行输入计算出聚合值
最笨的羊羊·2023-12-20 06:39

【大数据面试】Flink面试题附答案

目录Flink架构Flink的窗口了解哪些，都有什么区别，有哪几种?如何定义?
话数Science·2023-12-20 05:12

Flink系列之：Table API Connectors之Debezium

Flink系列之：TableAPIConnectors之Debezium一、Debezium二、依赖三、使用DebeziumFormat四、可用元数据五、Format参数六、重复的变更事件七、消费DebeziumPostgresConnector
最笨的羊羊·2023-12-20 02:41

Flink系列之：Print SQL连接器

Flink系列之：PrintSQL连接器一、PrintSQL连接器二、创建一张基于Print的表三、连接器参数一、PrintSQL连接器Print连接器允许将每一行写入标准输出流或者标准错误流。
最笨的羊羊·2023-12-20 02:41
上一页 22 23 24 25 26 27 28 29 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他