flink集群搭建

PiflowX-DorisRead组件

计算引擎flink有界性目前DorisSource是有界流，不支持CDC方式读取。
暗影八度·2024-01-14 12:47

PiflowX-DorisWrite组件

计算引擎flink组件分组doris端口Inport：默认端口outport：默认端口组件属性名称展示名称默认值允许值是否必填描述例子fenodesFenodes“”无是DorisFEhttp地址，支持多个地址
暗影八度·2024-01-14 12:15

Nacos和Eureka比较、统一配置管理、Nacos热更新、多环境配置共享、Nacos集群搭建步骤

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、Nacos和eureka的对比二、统一配置管理二、Nacos热更新方式一方式二三、多环境配置共享四、Nacos集群搭建步骤
༶626·2024-01-14 09:51

Doris集群搭建——2.0.1.1版本

目录一、启动Doris二、配置并分发doris安装包和环境变量1.分发doris安装包2.解压安装包3.分发环境变量4.修改对应的配置文件(1)修改be的配置(2)修改fe的配置三、be的扩容与缩容(一)be扩容1.添加be节点3.另外两个节点启动be4.重新查看be节点状态(二)be缩容四、broker的扩容与缩容(一)broker扩容1.每台节点启动broker2.客户端添加broker节点3
雷神乐乐·2024-01-14 06:31

美团点评实时数仓平台演进与实践

1.摘要数据仓库的建设是“数据智能”必不可少的一环，也是大规模数据应用中必然面临的挑战，而Flink实时数仓在数据链路中扮演着极为重要的角色。
笔名辉哥·2024-01-14 02:50

FlinkCEP - Flink的复杂事件处理

FlinkCEP-Flink的复杂事件处理FlinkCEP是在Flink上层实现的复杂事件处理库。它可以让你在无限事件流中检测出特定的事件模型，有机会掌握数据中重要的那部分。
左美美 ￣　　·2024-01-14 00:04

Flink窗口（2）—— Window API

目录窗口分配器时间窗口计数窗口全局窗口窗口函数增量聚合函数全窗口函数（fullwindowfunctions）增量聚合和全窗口函数的结合使用WindowAPI主要由两部分构成：窗口分配器（WindowAssigners）和窗口函数（WindowFunctions）stream.keyBy().window()//指明窗口的类型.aggregate()//定义窗口具体的处理逻辑在window()方法
THE WHY·2024-01-13 23:36

Flink 源码之OperatorChain

Flink源码分析系列文档目录请点击：Flink源码分析系列文档目录前言OperatorChain是Flink中一个很重要的优化措施，能够将尽可能多的满足条件的数据处理操作在一个slot中串联完成，从而最小化线程执行上下文切换和网络通信
AlienPaul·2024-01-13 20:35

Flink面试题

1、Flink如何保证精确一次性消费Flink保证精确一次性消费主要依赖于两种Flink机制1、Checkpoint机制2、二阶段提交机制Checkpoint机制主要是当Flink开启Checkpoint
思旭�·2024-01-13 13:02

Flink maven日志配置

Flinkmaven日志配置maven配置1.7.30org.slf4jslf4j-api${slf4j.version}org.slf4jslf4j-log4j12${slf4j.version}org.apache.logging.log4jlog4j-to-slf4j2.14.0log4j.properties
老鼠扛刀满街找猫@·2024-01-13 11:15

Flink 2.0 状态管理存算分离架构演进

Flink2.0状态管理存算分离架构演进flink现有状态访问线程模型首先简单来说一下，flink2.0做存算分离，最最主要的一点是解决，大状态的问题，例如一个超过50T的物流数据，大状态恢复可能就要1
Direction_Wind·2024-01-13 11:16

Flink Sink Mysql 简单实现

FlinkSinkMysql简单实现环境解析完整代码源码下载环境简单实现从一个数据源获取数据，根据特定标识字段，将数据sink到不同mysql表中。
这都不是事er·2024-01-13 10:07

Flink 实现Mysql的数据同步 Mysql Sink Mysql

FlinkSinkMysql简单实现环境需求解析完整代码源码下载附：flink-cdc环境组件版本scala2.12netcat*kafka*mysql*flink1.13.3需求监听mysql某个表的动态
这都不是事er·2024-01-13 10:07

Flink SQL - OVER windows‘ ordering in stream mode must be defined on a time attribute.

OVERwindows'orderinginstreammodemustbedefinedonatimeattribute.看着网上flinksql的帖子较少，刚才这个问题查了好久，现在贴下完整源码。
这都不是事er·2024-01-13 10:37

Flink: 如何使用 docker-compose 来启动和测试服务？

ApacheFlink是一款著名的流式计算引擎，但是它的使用docker-compose的教学文档写得不是很清晰，导致我花了几个小时才搞明白如何使用docker-compose来运行例子程序。
surfirst·2024-01-13 10:10

【高级应用】Flink Cep模式匹配

在流式数据中（事件流），筛选出符合条件的一系列动作（事件）【复杂事件处理】什么是Flink-Cep？FlinkCep库Api【实时操作】官方文档什么是Pattern？
不进大厂不改名二号·2024-01-13 10:21

如何基于Flink实现定制化功能的开发

而对于自定义开发功能，Flink则提供了这样的SDK接口能力。本文将从定制化功能需求分析和如何基于Flink构建定制化功能两个方面讲述。一、定制化功能开发的思考2.1为什么要学会定制化功能的开发？
i7杨·2024-01-13 10:21

flink创建表报错

flink创建表报错前言使用flink在读取rabbitmq消息队列创建表：前言提示：这里可以添加本文要记录的大概内容：例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习
～四时春～·2024-01-13 10:50

Flink生产环境依赖

Flink生产环境依赖版本如下：881.14.61.82.12org.apache.flinkflink-java${flink.version}org.apache.flinkflink-streaming-java
公子乂·2024-01-13 10:19

Flink CDC 实时抽取 Oracle 数据-排错&调优

前言FlinkCDC于2021年11月15日发布了最新版本2.1，该版本通过引入内置Debezium组件，增加了对Oracle的支持。
Denny辉·2024-01-13 09:48

Flink

一、Flink发展第一代：Storm低延迟，无法保证准确性以及很难实现高吞吐量。
928-y·2024-01-13 09:15

Flink算子简单测试样例

Flink算子简单测试样例1.创建执行环境//创建执行环境StreamExecutionEnvironmentenv=StreamExecutionEnvironment.getExecutionEnvironment
公子乂·2024-01-13 09:13

Flink集成Hive之Hive Catalog

流程流程:Flink消费Kafka,逻辑处理后将实时流转换为表视图,利用HiveCataLog创建Hive表,将实时流表insert进Hive,注意分区时间字段需要为yyyy-MM-dd形式,否则抛出异常
实时即未来·2024-01-13 09:44

微服务自动化 etcd集群搭建

静态部署(前提)它需要开多个虚拟机那我们就找到你使用的那个虚拟机复制（强调两个主机都已经安装好了etcd服务并且能够正常运行）不是复制就可以使用我们需要把里面的不是vmdk和vmx的文件删了然后再回到我们的虚拟机，鼠标右键选择打开然后启动虚拟机它会提示我们是否已知虚拟机被复制选择已知复制该虚拟机就行（选第一个就会默认IP一样的）进来输入ifconfig查看IP再到外部进行连接连接之后我们在两个里面
巴枝子·2024-01-13 07:27

Spark Streaming

人们对于大数据的实时性处理要求也在不断提高，传统的MapReduce等批处理框架在某些特定领域，例如实时用户推荐、用户行为分析这些应用场景上逐渐不能满足人们对实时性的需求，因此诞生了一批如S3、Samza、Storm、Flink
奋斗的蛐蛐·2024-01-13 06:13

Flink

GoogleFileSystemBigTableMapReduceHDFSHBaseHadoopHadoop基于硬盘，可以处理海量数据；Spark基于内存，性能提高百倍，微批（500ms）；Flink基于
三半俊秀·2024-01-13 01:53

Flink State 和 Fault Tolerance（一）

Overview有状态函数（Statefulfunction）和算子（Operator）在处理独立的数据或事件时存储数据，使得状态（State）成为任何复杂算子中的关键部分，例如：当应用检索特定的事件模式，State将存储到接收到的事件的序列当按照分钟/小时/天的唯独聚合事件时，状态将保留待处理的聚合状态当在流数据上进行机器学习的模型训练时，状态保存模型当前版本的参数当需要管理历史数据时，状态允许
Alex90·2024-01-12 22:29

这次在搞不定 Redis 集群搭建！你来找我~~

Redis集群简介下载&安装Redis搭建Redis集群手动方式搭建自动方式搭Redis集群简介RedisCluster即Redis集群，是Redis官方在3.0版本推出的一套分布式存储方案。完全去中心化，由多个节点组成，所有节点彼此互联。Redis客户端可以直接连接任何一节点获取集群中的键值对，不需要中间代理，如果该节点不存在用户所指定的键值，其内部会自动把客户端重定向到键值所在的节点。Redi
码农开花·2024-01-12 20:42

Flink会话集群docker-compose一键安装

spm=1001.2014.3001.55012、flink-conf.yamlflink-conf.yaml放在/home/flink/conf/job、/home/flink/conf/task下面
core512·2024-01-12 17:30

准备数据集用于flink学习

GitHubhttps://github.com/zq2599/blog_demos内容：所有原创文章分类汇总及配套源码，涉及Java、Docker、Kubernetes、DevOPS等；在学习和开发flink
程序员欣宸·2024-01-12 16:35

Hbase2.1 集群搭建

Hbase在大数据的体系中扮演着DB角色，不得不说是重要的一员，在上一篇，大猪已经给大家演示了Hadoop3.2集群搭建了，本次我们将继续紧接着搭建Hbase集群。
kikiki2·2024-01-12 15:31

Flink SQL CDC 实践以及一致性分析

摘要：本文由民生银行王健、文乔分享，主要介绍民生银行FlinkSQLCDC实践以及一致性分析。
Apache Flink·2024-01-12 15:10

自定义Flink SourceFunction定时读取数据库

文章目录前言一、自定义FlinkSourceFunction定时读取数据库二、java代码实现总结前言Source是Flink获取数据输入的地方，可以用StreamExecutionEnvironment.addSource
shandongwill·2024-01-12 15:08

flink 保存点测试

首先需要去flinkui上找到自己的jobid，ui端口默认是8081执行命令flinkcancel--withSavepoint/flinkCDC/saveeaf2a70b59827948a1cef7ecc9723206
向他一样rap·2024-01-12 14:07

Mysql集群搭建学习02 2018-08-30

了解MySQLCluster主流MySQL集群框架对比主从复制框架MHAMasterHighAvailabilityManagerandToolsforMySQL日本专家采用Perl语言编写目的：维持Master主库的高可用性及数据的一致性特点：可以修复多个Slave之间的差异日志，使所有Slave保持数据一致，然后从中选择一个Slave数据库作为新的Maser，并将其它Slave指向它。当Mas
夏_未至·2024-01-12 13:34

Github 2024-01-12Java开源项目日报 Top10

根据开发语言中项目的数量，汇总情况如下：开发语言项目数量Java项目10Vue项目3ApacheFlink:开源流处理框架创建周期：3506天开发语言：Java协议类型：ApacheLicense2.0Star
孙琦Ray·2024-01-12 12:49

深入理解 Flink（七）Flink Slot 管理详解

2.Flink的资源管理机制资源调度的大体流程如下：a.TaskExecutor注册Register：当TaskExecutor启动之后，会向Resource
我很ruo·2024-01-12 11:23

【大数据面试】Flink面试题附答案

目录1、背压问题2、Flink是如何支持批流一体的3、Flink任务延迟高，想解决这个问题，你会如何入手4、Flink的监控页面，有了解吗，主要关注那些指标？5、你们之前Flink集群规模有多大？
话数Science·2024-01-12 11:51

深入理解 Flink（六）Flink Job 提交和 Flink Graph 详解

FlinkProgram编程套路回顾1、获取执行环境对象StreamExecutionEnvironmentenv=StreamExecutionEnvironment.getExecutionEnvironment
我很ruo·2024-01-12 10:48

java编写flink连接kafka常见问题总结

文章目录控制台输出问题没有执行计划问题不能执行sql问题动态表转为动态流问题控制台输出问题问题描述代码运行一会就结束，没有错误提示，也没有运行结果解决方法两种情况第一种日志没配好添加依赖org.apache.logging.log4jlog4j-slf4j-impl${log4j.version}org.apache.logging.log4jlog4j-api${log4j.version}or
一只小呆呆·2024-01-12 10:44

【hudi】hudi表 常用字段类型SQL api测试

一、flinksqlapidroptablemy_db.hudi_type_flink;CREATETABLEmy_db.hudi_type_flink(boolean_tboolean,tinyint_ttinyint
lisacumt·2024-01-12 09:39

Flink异步IO

本文讲解Flink用于访问外部数据存储的异步I/OAPI。对于不熟悉异步或者事件驱动编程的用户，建议先储备一些关于Future和事件驱动编程的知识。
大数据技术派·2024-01-12 07:00

Zookeeper+Hadoop+Spark+Flink+Kafka+Hbase+Hive

说明Zookeeper+Hadoop+Spark+Flink+Kafka+Hbase+Hive完全分布式高可用集群搭建下载https://archive.apache.org/dist/我最终选择Zookeeper3.7.1
nsa65223·2024-01-12 06:08

Kubernetes集群搭建

入职之前闲置在学校，跟着尚硅谷视频分别在云服务器和本地虚拟机各搭建了一套k8s集群（云服务器有点小贵），这里对搭建步骤做个总结。参考文档：https://www.yuque.com/leifengyang/oncloud/ghnb83[前置操作]安装docker1、移除以前的docker安装包sudoyumremovedocker\docker-client\docker-client-lates
青草再次仰望·2024-01-12 05:12

数据同步工具chunjun(flinkx)-1.12.7 使用tips

目录本文旨在记录chunjun使用过程中的tips，并且记录与官网描述不符的地方，以减少学习成本1、在编写json的时候推荐使用在线json编辑器：2、类似MySQLMySQL这种需要编写带jdbcUrl的任务，注意reader和writer中jdbcUrl类型不一致3、以kafka—>mysql举例解释字段间的映射关系4、kafka—>mysql，当kafka输入脏数据时，mysql会写入空行5
省略号的搬运工·2024-01-12 01:36

kafka查看Topic列表及消费状态等常用命令

/kafka-topics--zookeeper166.188.xx.xx--create--topicflink_source--partitions1--replication-factor1replication-factor
码农九珍·2024-01-12 00:45

Kafka - Topic 消费状态常用命令

/kafka-topics--zookeeper166.188.xx.xx--create--topicflink_source--partitions1--replication-factor1replication-factor
放羊的牧码·2024-01-12 00:13

Spark完全分布式集群搭建

环境准备服务器集群我用的CentOS-6.6版本的4个虚拟机，主机名为hadoop01、hadoop02、hadoop03、hadoop04，另外我会使用hadoop用户搭建集群(生产环境中root用户不是可以任意使用的)spark安装包下载地址：https://mirrors.aliyun.com/apache/spark/我用的spark-2.2.0-bin-hadoop2.7.tgz要根据自
小猪Harry·2024-01-12 00:41

MongoDB分片集群搭建

MongoDB有三种集群架构模式，分别为主从复制（Master-Slaver）、副本集（ReplicaSet）和分片（Sharding）模式。Master-Slaver是一种主从复制的模式，目前已经不推荐使用ReplicaSet模式取代了Master-Slaver模式，是一种互为主从的关系。ReplicaSet将数据复制多份保存，不同服务器保存同一份数据，在出现故障时自动切换，实现故障转移。Mon
不吃稻米的熊·2024-01-12 00:39

Mongodb Replica Sets 副本集群搭建

ReplicaSets复制集搭建MongoDB有三种集群架构模式，分别为主从复制（Master-Slaver）、副本集（ReplicaSet）和分片（Sharding）模式。Master-Slaver是一种主从复制的模式，目前已经不推荐使用ReplicaSet模式取代了Master-Slaver模式，是一种互为主从的关系。ReplicaSet将数据复制多份保存，不同服务器保存同一份数据，在出现故障
不吃稻米的熊·2024-01-11 23:01
上一页 17 18 19 20 21 22 23 24 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他