flink技术原理

【极数系列】docker环境搭建Flink1.18版本（04）

Docker1.安装yum-utils软件包2.安装docker3.启动docker4.设置docker自启动5.配置Docker使用systemd作为默认Cgroup驱动6.重启docker02docker部署Flink1.18
浅夏的猫·2024-01-29 06:11

记一次Flink自带jar包与第三方jar包依赖冲突解决

flink版本1.14.5hadoop2.6.0为了实现flink读取hive数据写入第三方的数据库，写入数据库需要调用数据库的SDK，当前SDK依赖的protobuf-java-3.11.0.jar，
一枚小刺猬·2024-01-29 06:10

【大数据】Flink 架构（五）：检查点 Checkpoint（看完即懂）

《Flink架构》系列（已完结），共包含以下6篇文章：Flink架构（一）：系统架构Flink架构（二）：数据传输Flink架构（三）：事件时间处理Flink架构（四）：状态管理Flink架构（五）：检查点
G皮T·2024-01-29 06:37

【大数据】Flink 架构（五）：检查点 Checkpoint（看完即懂）

《Flink架构》系列（已完结），共包含以下6篇文章：Flink架构（一）：系统架构Flink架构（二）：数据传输Flink架构（三）：事件时间处理Flink架构（四）：状态管理Flink架构（五）：检查点
G皮T·2024-01-29 06:06

【大数据】Flink 架构（六）：保存点 Savepoint

《Flink架构》系列（已完结），共包含以下6篇文章：Flink架构（一）：系统架构Flink架构（二）：数据传输Flink架构（三）：事件时间处理Flink架构（四）：状态管理Flink架构（五）：检查点
G皮T·2024-01-29 06:06

【大数据】Flink 架构（四）：状态管理

《Flink架构》系列（已完结），共包含以下6篇文章：Flink架构（一）：系统架构Flink架构（二）：数据传输Flink架构（三）：事件时间处理Flink架构（四）：状态管理Flink架构（五）：检查点
G皮T·2024-01-29 06:36

【大数据】Flink 架构（二）：数据传输

《Flink架构》系列（已完结），共包含以下6篇文章：Flink架构（一）：系统架构Flink架构（二）：数据传输Flink架构（三）：事件时间处理Flink架构（四）：状态管理Flink架构（五）：检查点
G皮T·2024-01-29 06:35

【大数据】Flink 架构（三）：事件时间处理

《Flink架构》系列（已完结），共包含以下6篇文章：Flink架构（一）：系统架构Flink架构（二）：数据传输Flink架构（三）：事件时间处理Flink架构（四）：状态管理Flink架构（五）：检查点
G皮T·2024-01-29 06:35

【大数据】Flink 架构（一）：系统架构

《Flink架构》系列（已完结），共包含以下6篇文章：Flink架构（一）：系统架构Flink架构（二）：数据传输Flink架构（三）：事件时间处理Flink架构（四）：状态管理Flink架构（五）：检查点
G皮T·2024-01-29 06:05

【极数系列】Flink详细入门教程 & 知识体系 & 学习路线（01）

文章目录01引言02Flink是什么2.1Flink简介2.2Flink架构2.3Flink应用场景2.4Flink运维03Flink环境搭建3.1Flink服务端环境搭建3.2Flink部署模式3.3Flink
浅夏的猫·2024-01-29 06:34

【极数系列】Flink配置参数如何获取？（06）

文章目录gitee码云地址简介概述01配置值来自.properties文件1.通过路径读取2.通过文件流读取3.通过IO流读取02配置值来自命令行03配置来自系统属性04注册以及使用全局变量05Flink
浅夏的猫·2024-01-29 06:34

flink源码分析 - 简单解析命令行参数

flink版本:flink-1.11.2提取主类代码位置:org.apache.flink.api.java.utils.MultipleParameterTool#fromArgs代码逻辑比较简单，此处不再赘述
zxfBdd·2024-01-29 06:04

flink源码分析 - jar包中提取主类和第三方依赖

flink版本:flink-1.11.2提取主类代码位置:org.apache.flink.client.program.PackagedProgram#getEntryPointClassNameFromJar
zxfBdd·2024-01-29 06:03

【大数据】Flink 架构（六）：保存点 Savepoint

《Flink架构》系列（已完结），共包含以下6篇文章：Flink架构（一）：系统架构Flink架构（二）：数据传输Flink架构（三）：事件时间处理Flink架构（四）：状态管理Flink架构（五）：检查点
G皮T·2024-01-29 06:32

【傻呱呱】Tailscale 搭建derp中继节点（无需域名）

首先感谢@韩风大佬提供的方法大佬B站主页：韩风Talk的个人空间-韩风Talk个人主页-哔哩哔哩视频打洞原理详解：[译]NAT穿透是如何工作的：技术原理及企业级实践（Tailscale,2020）前期准备
啥都不会难搞·2024-01-28 21:26

Flink 的 API

Flink为开发流式/批处理应用程序提供了不同级别的抽象。最低级别的抽象只是提供有状态和及时的流处理。是的通过流程嵌入到DataStreamAPI中功能。
m0_66520412·2024-01-28 20:00

flink词汇表

Flink应用集群#Flink应用集群是一个专用的Flink集群，只从一个Flink执行Flink作业应用程序。Flink的生命周期集群绑定了Flink应用的生命周期。
m0_66520412·2024-01-28 20:00

flink窗口（Window）

一、什么是窗口（窗口的概念）Flink是一种流式计算引擎，主要是来处理无界数据流的，数据源源不断、无穷无尽。
m0_66520412·2024-01-28 20:30

flink通过状态快照实现容错

状态后端#Flink管理的键控状态是一种分片的键/值存储，以及每个键/值存储的工作副本键控状态的项保留在负责该键的TaskManager的本地某个位置。算子state也是需要它的计算机的本地状态。
m0_66520412·2024-01-28 20:30

流分析&活动时间和水印

使用事件时间#如果要使用事件时间，还需要提供时间戳提取器和水印Flink将用于跟踪事件时间进度的生成器。这将在下面关于使用水印的部分，但首先我们应该解释什么是水印。
m0_66520412·2024-01-28 20:30

flink架构

Flink是一个分布式系统，需要有效的分配和管理计算资源，以便执行流式处理应用程序。
m0_66520412·2024-01-28 20:29

AI时代你需要知道的：知识图谱技术原理（必读）

知识图谱是什么？知识图谱最早由谷歌发布，为了提升搜索引擎返回答案的质量以及用户查询的效率，在知识图谱辅助下，搜索引擎可以洞察到用户查询背后的一个语义信息，然后返回更为精准结构化的信息，从而更大可能的去满足用户的一个查询需求。当我们进行搜索时，搜索结果右侧的联想，来自于知识图谱技术的应用。我们几乎每天都会接收到各种各样的推荐信息，从新闻、购物到吃饭、娱乐。个性化推荐作为一种信息过滤的重要手段，可以依
安全牛课堂牛油果·2024-01-28 16:22

大数据——Flink 知识点整理

目录1.Flink的特点2.Flink和SparkStreaming的对比3.Flink和Blink、Alink之间的关系4.JobManager和TaskManager的职责5.Flink集群部署有哪些模式
Vicky_Tang·2024-01-28 06:17

【大数据】详解 Flink 中的 WaterMark

详解Flink中的WaterMark1.基础概念1.1流处理1.2乱序1.3窗口及其生命周期1.4KeyedvsNon-Keyed1.5Flink中的时间2.Watermark2.1案例一2.2案例二2.3
G皮T·2024-01-28 06:13

【大数据】Flink 中的状态管理

Flink中的状态管理1.算子状态2.键值分区状态3.状态后端4.有状态算子的扩缩容4.1带有键值分区状态的算子4.2带有算子列表状态的算子4.3带有算子联合列表状态的算子4.4带有算子广播状态的算子在前面的博客中我们指出
G皮T·2024-01-28 06:13

web网站加速之CDN(Content Delivery Network)技术原理

在不同地域的用户访问网站的响应速度存在差异,为了提高用户访问的响应速度、优化现有Internet中信息的流动,需要在用户和服务器间加入中间层CDN.使用户能以最快的速度，从最接近用户的地方获得所需的信息，彻底解决网络拥塞，提高响应速度，是目前大型网站使用的流行的应用方案.1.CDN概述CDN的全称是ContentDeliveryNetwork，即内容分发网络。其目的是通过在现有的Internet中
曹元_·2024-01-28 04:06

万字图解 | 深入揭秘TCP工作原理

文章首发于微信公众号：云舒编程关注公众号获取：1、大厂项目分享2、各种技术原理分享3、部门内推前言想必不少同学在面试过程中，会遇到「在浏览器中输入www.baidu.com后，到网页显示，其间发生了什么
云舒编程·2024-01-28 01:28

万字图解 | 深入揭秘IP层工作原理

文章首发于微信公众号：云舒编程关注公众号获取：1、大厂项目分享2、各种技术原理分享3、部门内推前言想必不少同学在面试过程中，会遇到「在浏览器中输入www.baidu.com后，到网页显示，其间发生了什么
云舒编程·2024-01-28 01:27

迟到数据处理 和 基本时间的合流

WatermarkStrategy.forBoundedOutOfOrderness(Duration.ofSeconds(10));2.设置窗口延迟关闭Flink的窗口，也允许迟到数据。
莫噶·2024-01-27 22:20

函数类（Function Classes）和 富函数类（Rich Function Classes）

目录函数类（FunctionClasses）富函数类（RichFunctionClasses）函数类（FunctionClasses）Flink暴露了所有UDF函数的接口，具体实现方式为接口或者抽象类，
莫噶·2024-01-27 22:47

Chatgpt的崛起之路

Chatgpt的崛起之路背景与发展历程背景发展历程技术原理第一阶段：训练监督策略模型第二阶段：训练奖励模型第三阶段：采用强化学习来增强模型的能力。
Sirius·Black·2024-01-27 21:00

JVM系列-9.性能调优

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪·2024-01-27 21:19

37、Flink 的CDC 格式：debezium部署以及mysql示例（完整版）

Flink系列文章一、Flink专栏Flink专栏系统介绍某一知识点，并辅以具体的示例进行说明。1、Flink部署系列本部分介绍Flink的部署、配置相关基础内容。
一瓢一瓢的饮 alanchanchn·2024-01-27 20:08

大语言模型分布式训练技术原理

分布式训练技术原理数据并行FSDPFSDP算法是由来自DeepSpeed的ZeroRedundancyOptimizer技术驱动的，但经过修改的设计和实现与PyTorch的其他组件保持一致。
三更科技公社·2024-01-27 19:52

深度解读RoCE v2网络技术

本文将深度解读RoCEv2的核心技术原理、配套网卡设备，并对比分析其与InfiniBand技术的差异。什么是RoCEv2技术
audrey-luo·2024-01-27 19:41

【华为 ICT & HCIA & eNSP 习题汇总】——题目集10

A、IS-ISB、RIPngC、BGP4+D、OSPFv3考点：路由技术原理解析：（A）IS-ISv6是在IPv6环境下，IS-IS协议进行了相应的扩展和改进，以适应IPv6网络的需求。
晚风(●•σ )·2024-01-27 15:13

flink TaskManager 内存模型(二)

抛开JVM内存模型，单从TaskManager内存的主要使用方式来看，TaskManager的内存主要分为三个部分：NetworkBuffers：一定数量的MemorySegment,主要用于网络传输。在TaskManager启动时分配，通过NetworkEnvironment和NetworkBufferPool进行管理ManagedMemory：由MemoryManager管理的一组Memory
邵红晓·2024-01-27 13:09

跨链技术，链链通如结蛛网

图片发自App区块链技术原理啃得泪哗哗，似懂非懂，还是坚持自己配图。图片发自App图片发自App
手绘者焕新·2024-01-27 11:46

Flink On K8s 集群原理

FlinkOnK8s架构image.pngFlink任务在Kubernetes上运行的步骤有：●首先往Kubernetes集群提交了资源描述文件后，会启动Master和Worker的container。
fat32jin·2024-01-27 10:18

【华为 ICT & HCIA & eNSP 习题汇总】——题目集9

A、10s，40sB、40s，10sC、30s，20sD、20s，30s考点：①路由技术原理②OSPF解析：（A）OSPF协议中Hello（问候分组报文），用于发现和维持邻居路由器的可达性，其组播地址为
晚风(●•σ )·2024-01-27 08:27

Flink实现数据写入MySQL

先准备一个文件里面数据有：a,1547718199,1000000b,1547718200,1000000c,1547718201,1000000d,1547718202,1000000e,1547718203,1000000f,1547718204,1000000g,1547718205,1000000h,1547718210,1000000i,1547718210,1000000j,15477
莫噶·2024-01-27 08:23

Flink问题解决及性能调优-【Flink根据不同场景状态后端使用调优】

Flink实时groupby聚合场景操作时，由于使用的是rocksdb状态后端，发现CPU的高负载卡在rocksdb的读写上，导致上游算子背压特别大。
PONY LEE·2024-01-27 08:21

Flink面试题

0.思维导图1.简单介绍一下Flink♥♥  Flink是一个分布式的计算框架，主要用于对有界和无界数据流进行有状态计算，其中有界数据流就是值离线数据，有明确的开始和结束时间，无界数据流就是指实时数据，
韩顺平的小迷弟·2024-01-27 08:51

flink-cdc实战之oracle问题记录01

记录问题，温暖你我，上台欢迎点赞留言关注2024-01-2611:02:56,168ERROROracle|oracle_logminer|streamingMiningsessionstoppedduetothe{}[io.debezium.connector.oracle.logminer.LogMinerHelper]io.debezium.DebeziumException:Supplem
大大蚊子·2024-01-27 08:45

Flink max maxby区别

max只会显示指定字段的大小变化，而maxBy会显示其他字段的变化。max：取指定字段的当前的最大值，如果有多个字段，其他非比较字段，以第一条为准。maxBy：取指定字段的当前的最大值，如果有多个字段，其他字段以最大值那条数据为准。这种比较符合常识。举例，原始数据，如下：stock_277,22.3760055422398,SYSStock,1631002964777stock_277,1.141
core512·2024-01-27 08:12

Flink生产环境相关问题

1.Flink+Kafka保证精确一次消费相关问题？Fink的检查点和恢复机制和可以重置读位置的source连接器结合使用，比如kafka，可以保证应用程序不会丢失数据。
大数据左右手·2024-01-27 08:09

JVM系列-8.GC调优

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪·2024-01-27 08:06

JVM系列-7内存调优

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪·2024-01-27 08:32

Flink-Task启动源码

1.总结1.1submitTaskTaskExecutor#submitTask开始，主要有4个工作：首先将TaskSlot的状态修改为Active，然后取消Slot的使用超时任务:Timeout从BlobService下载Task执行需要的各种资源构造Task对象newTask封装一个Task信息对象TaskInfo，(TaskInfo,JobInfo，JobMasterInfo)初始化Resu
yangguanghaozi·2024-01-27 07:47

flink系列--flinksql cdc源码分析

前言关于cdc（changedatacapture）不知道的小伙伴们可以去百度一下，简单来说就是对于数据库的变更进行一个探测，因为数据库的更改对于客户端来说是没有感知的，你需要开启线程去查询，才知道数据有没有更新，但是就算是查询，如果是直接select*from....,这样获取的结果还要和上次获取的结果对比，才知道数据有没有发生变化，耗时大，一个简单的思路是在要查询的表中添加一个updateTi
鲸失·2024-01-27 07:17
上一页 8 9 10 11 12 13 14 15 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他