Flink入门实战

Apache Calcite原理极简入门

ApacheCalcite是独立于存储与执行的SQL解析、优化引擎，广泛应用于各种离线、搜索、实时查询引擎，如Drill、Hive、Kylin、Solr、flink、Samza等。
longLiveData·2024-01-25 00:14

PiflowX-JdbcCatalog组件

JdbcCatalog组件组件说明通过JDBC协议将Flink连接到关系数据库,目前支持PostgresCatalog和MySQLCatalog。
PiflowX·2024-01-24 22:48

139MongoDB 数据库入门实战--数据的备份与恢复

数据的备份与恢复实验准备打开实验环境，在终端输入如下命令启动MongoDB服务，进入命令行交互客户端：$cd$sudoservicemongodbstart$mongo这里打开交互客户端是为了验证数据迁移的结果。数据库的备份与恢复在MongoDB客户端中查看目前有哪些数据库：>showdbsadmin0.000GBchallenge0.000GBconfig0.000GBlearn0.000GBl
Jachin111·2024-01-24 12:49

IDEA报错：No hostname could be resolved for the IP address 127.0.0.1, using IP address as host name.

idea编辑flink连接kafka读取数据时报错：NohostnamecouldberesolvedfortheIPaddress127.0.0.1,usingIPaddressashostname.Localinputsplitassignment
唯一2333·2024-01-24 09:09

Flink编程——最小程序MiniProgram

最小程序MiniProgram前面我们已经搭建起了Flink的基础环境，这一节我们就在上一节的基础上，进行编写我们的第一个Flink程序，开始之前我们先看一下一个完整的Flink程序是什么样的Flink
不二人生·2024-01-24 08:41

Flink运行架构以及容错机制

Flink运行架构以及容错机制1.Flink的角色区分1.1JM1.2TM1.3SLOT2.Flink-Cluster模式的任务提交流程2.1FlinkOnYarn的任务提交流程2.1.1yarn相关概念
李姓门徒·2024-01-24 07:42

【极数系列】Flink 初相识（01）

#【极数系列】Flink初相识（01）引言Flink官网：https://flink.apache.org/Flink版本：https://flink.apache.org/blog/Flink文档：https
浅夏的猫·2024-01-24 07:18

【极数系列】Flink环境搭建（02）

【极数系列】Flink环境搭建（02）引言1.linux直接在linux上使用jdk11+flink1.18.0版本部署2.docker使用容器部署比较方便，一键启动停止，方便参数调整3.windows
浅夏的猫·2024-01-24 07:18

【Flink-1.17-教程】-【四】Flink DataStream API（5）转换算子（Transformation）【分流】

【Flink-1.17-教程】-【四】FlinkDataStreamAPI（5）转换算子（Transformation）【分流】1）使用filter简单实现2）使用侧输出流实现所谓“分流”，就是将一条数据流拆分成完全独立的两条
bmyyyyyy·2024-01-24 07:48

Flink多流转换（1）—— 分流&合流

目录分流代码示例使用侧输出流合流联合（Union）连接（Connect）简单划分的话，多流转换可以分为“分流”和“合流”两大类目前分流的操作一般是通过侧输出流（sideoutput）来实现，而合流的算子比较丰富，根据不同的需求可以调用union、connect、join以及coGroup等接口进行连接合并操作分流将一条数据流拆分成完全独立的两条、甚至多条流。也就是基于一个DataStream，得到
THE WHY·2024-01-24 07:47

flink-java使用介绍，flink，java

1、环境准备文档：https://nightlies.apache.org/flink/flink-docs-release-1.18/zh/仓库：https://github.com/apache/flink
raoxiaoya·2024-01-24 07:47

Flink（十五）【Flink SQL Connector、savepoint、CateLog、Table API】

1、常用Connector读写之前我们已经用过了一些简单的内置连接器，比如'datagen'、'print'，其它的可以查看官网：Overview|ApacheFlink环境准备：#1.先启动hadoopmyhadoopstart
让线程再跑一会·2024-01-24 07:17

记一次Flink通过Kafka写入MySQL的过程

一、前言总体思路：source-->transform-->sink,即从source获取相应的数据来源，然后进行数据转换，将数据从比较乱的格式，转换成我们需要的格式，转换处理后，然后进行sink功能，也就是将数据写入的相应的数据库DB中或者写入Hive的HDFS文件存储。思路：pom部分放到最后面。二、方案及代码实现2.1Source部分Source部分构建一个web对象用于保存数据等操作，代码
梦痕长情·2024-01-24 07:17

spark-flink设计思想之吸星大法-1

Spark和Flink都是大数据处理框架，它们的设计思想有一些不同之处。以下是对它们设计思想的简要对比：数据模型和计算模型：Spark：Spark使用弹性分布式数据集（RDD）作为其核心数据结构。
{BOOLEAN}·2024-01-24 07:47

【极数系列】Flink项目入门搭建（03）

【极数系列】Flink项目入门搭建（03）引言gitee地址：https://gitee.com/shawsongyue/aurora.git源码直接下载可运行，模块：aurora_flinkFlink
浅夏的猫·2024-01-24 07:16

Streaming -- Operators -- Windows

本文档主要介绍在Flink中如何执行窗口，以及程序员如何从它提供的功能中获得最大的好处。窗口Flink程序的一般结构如下所示。第一个片段引用键控流，而第二个片段引用非键控流。
qing_feng·2024-01-24 06:33

10.Flink实时项目之订单维度表关联

1.维度查询在上一篇中，我们已经把订单和订单明细表join完，本文将关联订单的其他维度数据，维度关联实际上就是在流中查询存储在hbase中的数据表。但是即使通过主键的方式查询，hbase速度的查询也是不及流之间的join。外部数据源的查询常常是流式计算的性能瓶颈，所以我们在查询hbase维度数据的基础上做一些优化及封装。phoenix查询封装phoenix作为hbase的一个上层sql封装，或者叫
选手一号位·2024-01-24 04:46

Flink 架构--官网译文(v1.11)

Flink是一个分布式系统，需要有效分配和管理计算资源才能执行流应用程序。
LQC_gogogo·2024-01-24 02:53

Flink 源码：TM 端恢复及创建 KeyedState 的流程

本文仅为笔者平日学习记录之用，侵删原文：https://mp.weixin.qq.com/s/eaALnpd_qHQg6fxI12fQjg本文会详细分析TM端恢复及创建KeyedState的流程，恢复过程会分析RocksDB和Fs两种StateBackend的恢复流程，创建流程会介绍Checkpoint处恢复的State如何与代码中创建的State关联起来。一、RocksDBKeyedStateB
longLiveData·2024-01-24 01:08

Flink基础系列32-Table API和Flink SQL之窗口

一.窗口  时间语义，要配合窗口操作才能发挥作用。最主要的用途，当然就是开窗口、根据时间段做计算了。下面我们就来看看TableAPI和SQL中，怎么利用时间字段做窗口操作。  在TableAPI和SQL中，主要有两种窗口：GroupWindows和OverWindows1.1分组窗口（GroupWindows）  分组窗口（GroupWindows）会根据时间或行计数间隔，将行聚合到有限的组（Gr
只是甲·2024-01-24 00:52

RabbitMQ入门实战

RabbitMQ是一个开源的消息中间件，实现了高级消息队列协议（AMQP），用于在分布式系统中进行消息传递。它能够在应用之间传递消息，解耦应用组件，提高系统的可伸缩性和可维护性。RabbitMQ使用高级消息队列协议（AMQP），这是一种开放的、标准化的协议，定义了消息格式、交换方式、队列管理等规范。拥有强大的社区支持，提供了广泛的文档和示例。它还支持插件机制，可以根据实际需求进行扩展。下面就对ra
Memory_2020·2024-01-24 00:37

【大数据精讲】全量同步与CDC增量同步方案对比

目录背景名词解释问题与挑战FlinkCDCDataX工作原理调度流程五、DataX3.0六大核心优势性能优化背景名词解释CDCCDC又称变更数据捕获（ChangeDataCapture），开启cdc的源表在插入
话数Science·2024-01-23 20:44

I.Flink中的 状态

目录前言:Flink中的状态Flink是一个框架和分布式处理引擎，用于对无边界和有边界的数据流进行有状态的计算。
莫噶·2024-01-23 18:29

Flink---处理函数

目录前言一、基本处理函数1.1处理函数的功能和使用1.1.1功能1.1.2使用1.2ProcessFunction解析1.2.1抽象方法.processElement()1.2.2非抽象方法.onTimer()1.2.3处理函数的分类（1）ProcessFunction（2）KeyedProcessFunction（3）ProcessWindowFunction（4）ProcessAllWindo
莫噶·2024-01-23 18:29

报错Caused by: org.apache.kafka.common.errors.TimeoutException: Timeout of 60000ms expired before the

Exceptioninthread"main"org.apache.flink.runtime.client.JobExecutionException:Jobexecutionfailed.atorg.apache.flink.runtime.jobmaster.JobResult.toJobExecutionResult
莫噶·2024-01-23 18:58

Flink 算子：数据处理的魔法师

这部分内容将描述FlinkDataStreamAPI中基本的数据转换API，数据转换后各种数据分区方式，以及算子的链接策略。数据流转换1.Map：输入一个元素同时输出一个元素。
莫噶·2024-01-23 18:58

II.Flink中的 状态

目录按键分区状态（KeyedState）1.1值状态（ValueState）1.2列表状态（ListState）1.3归约状态（ReducingState）1.5聚合状态（AggregatingState）1.5Map状态（MapState）算子状态（OperatorState）CheckpointedFunction这篇文章是详细化上一篇文章按键分区状态（KeyedState）按键分区状态（Ke
莫噶·2024-01-23 18:27

DataStream API(源算子)

目录源算子1，从集合中读取数据2，从文件读取数据3，从Socket读取数据4，从Kafka读取数据5，自定义源算子6，Flink支持的数据类型6.1Flink支持多种数据类型，包括但不限于：6.2对于POJO
佛系爱学习·2024-01-23 16:17

使用Flink处理Kafka中的数据

目录使用Flink处理Kafka中的数据前提：一，使用Flink消费Kafka中ProduceRecord主题的数据具体代码为（scala）执行结果二，使用Flink消费Kafka中ChangeRecord
佛系爱学习·2024-01-23 16:46

大数据系列——Flink理论

概述Flink是一个对有界和无界数据流进行有状态计算的分布式处理引擎和框架，既可以处理有界的批量数据集，也可以处理无界的实时流数据，为批处理和流处理提供了统一编程模型，其代码主要由Java实现，部分代码由
mql007007·2024-01-23 16:11

剑指大数据——Flink学习精要（Java版）

剑指大数据——Flink学习精要（Java版）写在前面本书内容读者对象本书作者程序员硬核技术丛书。
小术晓术·2024-01-23 16:41

Flink 从0到1学习—— Flink 不可以连续 Split(分流)？

前言今天上午被Flink的一个算子困惑了下，具体问题是什么呢？
zhisheng_blog·2024-01-23 16:40

Flink基础介绍

Flink基础介绍学习目标Flink基本介绍大数据发展历史Flink性能比较Flink在阿里的现状Flink集群安装伪分布式安装StandAlone模式安装StandAlone的高可用模式Yarn模式Yarn-SessionFlink
Baby 看你们浪。·2024-01-23 16:10

搭建Flink编程f的开发环境

职业技能大赛训练学习#搭建Flink编程f的开发环境Flink是一个以java和scala作为开发语言的开源大数据的一个项目对于我们初次使用者来说javamavengit这三个辅助工具必不可少java安装步骤
YaoYan..·2024-01-23 16:40

Flink编程——基础环境搭建

启动集群步骤3：提交作业（Job）步骤4：停止集群总结准备环境搭建我们先把电脑的准备环境给安装好，这样后面才能顺利的学习和时间因为后面可能用到的有：Kafka、MySQL、ElasticSearch等，另外像Flink
不二人生·2024-01-23 16:40

大数据学习之Flink算子、了解（Source）源算子（基础篇二）

Source源算子（基础篇二）目录Source源算子（基础篇二）二、源算子（source）1.准备工作2.从集合中读取数据可以使用代码中的fromCollection()方法直接读取列表也可以使用代码中的fromElements()方法直接列出数据获取3.从文件中读取数据说明：4.从Socket读取数据（1）编写StreamWordCount（2）在Linux环境的主机bigdata1上，执行下列
十二点的泡面·2024-01-23 14:22

大数据学习之Flink算子、了解（Transformation）转换算子（基础篇三）

Transformation转换算子（基础篇三）目录Transformation转换算子（基础篇三）三、转换算子（Transformation）1.基本转换算子1.1映射（Map）1.2过滤（filter）1.3扁平映射（flatmap）1.4基本转换算子的例子2.聚合算子（Aggregation）2.1按键分区（keyBy）2.2简单聚合2.3归约聚合（reduce）3.用户自定义函数（UDF）
十二点的泡面·2024-01-23 14:22

大数据学习之Flink算子、了解DataStream API（基础篇一）

DataStreamAPI（基础篇）注：本文只涉及DataStream原因：随着大数据和流式计算需求的增长，处理实时数据流变得越来越重要。因此，DataStream由于其处理实时数据流的特性和能力，逐渐替代了DataSet成为了主流的数据处理方式。目录DataStreamAPI（基础篇）前摘：一、执行环境1.创建执行环境2.执行模式3.触发程序执行二、源算子（source）三、转换算子（Trans
十二点的泡面·2024-01-23 14:51

用flinkcdc debezium来捕获数据库的删除内容

我在用flinkcdc把数据从sqlserver写到doris正常情况下sqlserver有删除数据，doris是能捕获到并很快同步删除的。
后季暖·2024-01-23 11:17

flink学习之窗口处理函数

窗口处理函数什么是窗口处理函数Flink本身提供了多层API，DataStreamAPI只是中间的一环，在更底层，我们可以不定义任何具体的算子（比如map()，filter()，或者window()），
吃草料的羊·2024-01-23 10:16

Spring SpEL在Flink中的应用-SpEL详解

前言Spring表达式语言SpringExpressionLanguage（简称SpEL）是一个支持运行时查询和操做对象图的表达式语言。语法相似于EL表达式，但提供了显式方法调用和基本字符串模板函数等额外特性。SpEL在许多组件中都得到了广泛应用，如SpringData、SpringSecurity、SpringWebFlow等。它提供了一种非常灵活的方式来查询和操作对象图，从而简化了复杂的业务逻
shandongwill·2024-01-23 10:16

Flink中的容错机制

一.容错机制在Flink中，有一套完整的容错机制来保证故障后的恢复，其中最重要的就是检查点。
- Hola -·2024-01-23 09:08

flink1.18 广播流 The Broadcast State Pattern 官方案例scala版本

对应官网https://nightlies.apache.org/flink/flink-docs-master/docs/dev/datastream/fault-tolerance/broadcast_state
Thomas2143·2024-01-23 08:49

Flink对接Kafka的topic数据消费offset设置参数

scan.startup.mode是Flink中用于设置消费Kafkatopic数据的起始offset的配置参数之一。
墨子白·2024-01-23 07:48

大数据学习之Flink、比较不同框架的容错机制

第一章、Flink的容错机制第二章、Flink核心组件和工作原理第三章、Flink的恢复策略第四章、Flink容错机制的注意事项第五章、Flink的容错机制与其他框架的容错机制相比较目录第五章、Flink
十二点的泡面·2024-01-23 07:07

大数据学习之Flink、Flink容错机制的注意事项

第一章、Flink的容错机制第二章、Flink核心组件和工作原理第三章、Flink的恢复策略第四章、Flink容错机制的注意事项第五章、Flink的容错机制与其他框架的容错机制相比较目录第四章、Flink
十二点的泡面·2024-01-23 07:06

大数据学习之Flink、搞懂Flink的恢复策略

第一章、Flink的容错机制第二章、Flink核心组件和工作原理第三章、Flink的恢复策略第四章、Flink容错机制的注意事项第五章、Flink的容错机制与其他框架的容错机制相比较目录第三章、Flink
十二点的泡面·2024-01-23 07:36

38、Flink 的CDC 格式：canal部署以及示例

Flink系列文章一、Flink专栏Flink专栏系统介绍某一知识点，并辅以具体的示例进行说明。1、Flink部署系列本部分介绍Flink的部署、配置相关基础内容。
一瓢一瓢的饮 alanchanchn·2024-01-23 07:02

聊聊flink Table的groupBy操作

序本文主要研究一下flinkTable的groupBy操作Table.groupByflink-table_2.11-1.7.0-sources.jar!
go4it·2024-01-23 06:35

Flink之Transformation

一个Flink程序的核心，其实就是所有的转换操作，它们决定了处理的业务逻辑。基本转换算子映射（map）map()是大家非常熟悉的大数据操作算子，主要用于将数据流中的数据进行转换，形成新的数据流。
不加班程序员·2024-01-23 06:55
上一页 9 10 11 12 13 14 15 16 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他