flink集群

配置集群时间同步

配置集群时间同步:1.时间服务器配置(必须root用户)检查ntp是否安装[root@hadoop102桌面]#rpm-qa|grepntpntp-4.2.6p5-10.el6.centos.x86_64fontpackages-filesystem
sixleaves·2024-02-08 14:49

kubernetes 集群搭建(二进制方式)

kubeadm是官方社区推出的一个用于快速部署kubernetes集群的工具。
萧兮_瑾琛·2024-02-08 14:59

java技术--单体应用，分布式，微服务，集群

1.单体应用程序：（1）把所有的功能集中在同一系统中实现，应用程序的全部功能被一起打包作为单个单元或应用程序（2）这个单元可以是JAR、WAR、EAR,或其他一些归档格式，运行在同一个tomcat进程中（3）其全部集成在一个单一的单元.（4）优点：3点方便调试，代码都在一起易于部署，所有服务都在本地容器内中小型项目可以快速迭代，不需要太多资源（5）缺点：4点可复用性差：服务被打包在应用中，功能不易
梦断若水·2024-02-08 13:32

Analyze the taxi ride event stream with Apache Flink

Forthedemoapplication,wegenerateastreamoftaxirideeventsfromapublicdatasetoftheNewYorkCityTaxiandLimousineCommission(TLC).ThedatasetconsistsofrecordsabouttaxitripsinNewYorkCityfrom2009to2015.Wetooksome
生活的探路者·2024-02-08 13:11

flink 从savepoint、checkpoint中恢复数据

二、如何从savepoint/checkpoint中恢复数据1.flinksql流作业2.查看flinkwebui3.手动停止作业并设置savepoint4.查看生成的文件5.添加参数，进行作业恢复前言提示
但行益事莫问前程·2024-02-08 13:13

『运维备忘录』之 Kubernetes（K8S） 常用命令速查

kubernetes是基于容器技术的分布式架构解决方案，具有完备的集群管理能力，包括多层次的安全防护和准入机制，多租户应用支持能力，透明的服务注册和服务发现机制，内建智能负载均衡器，强大的故障发现和自我修复能力
流浪字节π·2024-02-08 12:27

网站高性能架构设计——高性能数据库集群

关注微信公众号掌握更多技术动态---------------------------------------------------------------一、高性能数据库简介1.高性能数据库方式读写分离：将访问压力分散到集群中的多个节点
编程广角镜·2024-02-08 12:46

什么是容器服务

容器服务简化了容器管理集群的搭建工作，整合了阿里云虚拟化、存储、网络和安全能力，打造云端最佳容器运行环境。
有事找叮当·2024-02-08 12:15

云服务器和VPS有什么区别？

而云服务器则是从分布于各地的多个服务器集群构成的云计算中分离出来的一个类似VPS的虚拟主机。从稳定性上来说要高于VPS。
CDNCloud-JJ·2024-02-08 12:31

史上最全OLAP对比

目录1.什么是OLAP2.OLAP引擎的常见操作3.OLAP分类MOLAP的优点和缺点ROLAP的优点和缺点4.并发能力与查询延迟对比5.执行模型对比5.OLAP引擎的主要特点5.2SparkSQL、FlinkSQL5.3Clickhouse5.4Elasticsearch5.5Presto5.6Impala5.7Doris5.8Druid5.9Kylin
只会写demo的程序猿·2024-02-08 11:04

《Redis开发与运维》学习笔记3:主从复制，哨兵和集群

这篇主要整理第六章，第九章和第十章的内容，聚焦于Redis的分布式和集群部分，转载注明出处：https://blog.csdn.net/Koikoi12复制复制可以在分布式系统中实现相同数据的多个Redis
Koikoi123·2024-02-08 10:50

Redis核心技术与实战【学习笔记】 - 30.番外篇：Redis学习资料、运维说明及使用规范建议

1.1经典书籍在学习Redis时，场景的需求有三个方面：日常使用操作：比如常见的命令和配置，集群搭建等关键技术原理：比如IO模型、AOF和RDB机制等在实际使用时的经验教训，比如Redis响应变慢了怎么办
陈建111·2024-02-08 10:20

类比

可用来搭建一套高性能的文件服务器集群提供文件上传、下载等服务类比：提供借书、还书服务FastDFS架构包括Trackerserver和Storageserver，客户端请求Trackerserver进行文件上传
lzb30·2024-02-08 10:07

Flink Checkpoint过程

Checkpoint使用了Chandy-Lamport算法流程1.正常流式处理（尚未Checkpoint）如下图，Topic有两个分区，并行度也为2，根据奇偶数我们假设任务从Kafka的某个Topic中读取数据，该Topic有2个Partition，故任务的并行度为2。根据读取到数据（下面的数据是offset的值，同时我们把它直接当成数据）的奇偶性，将数据分发到两个task进行SumSource1
orange大数据技术探索者·2024-02-08 09:49

Flink大状态和Checkpoint调优

文章迁移，待整理2.状态和Checkpoint调优2.1大状态调优我们生产大多数会使用fsState，memState程序挂了状态就丢了，应该没人会在生产使用，但是涉及到一些大状态，fsState效率很低，这时候会选择rocksDbState1.RocksDb为什么效率高基于LSMTree实现，类似Hbase的读写方式，state.backend.local-recovery:true写数据内存即
orange大数据技术探索者·2024-02-08 09:18

Flink Format系列(2)-CSV

Flink的csv格式支持读和写csv格式的数据，只需要指定'format'='csv'，下面以kafka为例。
sf_www·2024-02-08 09:48

大数据毕业设计PySpark+PyFlink航班预测系统 飞机票航班数据分析可视化大屏 机票预测 机票爬虫 飞机票推荐系统 大数据毕业设计 计算机毕业设计

博主介绍：✌全网粉丝100W+,前互联网大厂软件研发、集结硕博英豪成立工作室。专注于计算机相关专业毕业设计项目实战6年之久，选择我们就是选择放心、选择安心毕业✌由于篇幅限制，想要获取完整文章或者源码，或者代做，可以给我留言或者找我聊天。感兴趣的可以先收藏起来，还有大家在毕设选题，项目以及论文编写等相关问题都可以给我留言咨询，希望帮助更多的人。1.DrissionPage自动化Python爬虫工具采
B站计算机毕业设计超人·2024-02-08 09:17

RabbitMQ高可用架构涉及常用功能整理

RabbitMQ高可用架构涉及常用功能整理1.rabbitmq的集群模式2.镜像模式高可用系统架构和相关组件3.rabbitmq的核心参数3.1镜像策略3.2新镜像同步策略3.3从节点晋升策略3.4主队列选择策略
李姓门徒·2024-02-08 09:44

Springboot整合Redis使用RedisTemplate操作redis五大类型用法详解

redis之后，提供了操作redis的简便方式通过通用对象redisTemplate方式操作String,Hash,List,SetSortSet五大数据类型本案例中使用springboot连接Redis集群的方式操作
雾林小妖·2024-02-08 09:48

【项目实战】Flink+InfluxDB+Grafana实现对YARN集群队列资源进行画像

一、Flink实时计算第一章：Flink快速入门1.Flink架构2.Flink应用场景3.FlinkVSSpark4.实时计算技术选型第二章：Flink项目构建与测试1.快速构建Flink项目2.第一个
大数据研习社·2024-02-08 08:56

涤生大数据实战：基于Flink+ODPS历史累计计算项目分析与优化（上）

涤生大数据实战：基于Flink+ODPS历史累计计算项目分析与优化（一）1.前置知识ODPS（OpenDataPlatformandService）是阿里云自研的一体化大数据计算平台和数据仓库产品，在集团内部离线作为离线数据处理和存储的产品
涤生大数据·2024-02-08 08:55

flink-redis-connector实现

分享一个项目flink-redis-connector，功能如下：支持FlinkSQL写Redis支持FlinkSQL读Redis维表（高时效性&提供缓存，非定期全量load的allcache方式）一：
knowfarhhy·2024-02-08 08:06

HDFS执行balance报错：hdfs balance java.io.IOException: Another Balancer is running.. Exiting

现象：1、大数据Hadoop集群，HDFS扩容后，为了使各节点数据均衡，执行balance操作。2、启动hdfsbalance时，一直出现其他的balance在执行中，其实并没有执行。
不会吐丝的蜘蛛侠。·2024-02-08 08:29

RocketMQ（二）

消息消费者4.主题(Topic)5.代理服务器(BrokerServer)6.名字服务(NameServer)7.拉取式消费8.推动式消费9.生产者组10.消费者组（ConsumerGroup）11.集群消费
etcEriksen·2024-02-08 07:47

Flink on Yarn的两种模式

FlinkonYarn模式部署始末：Flink的Standalone和onYarn模式都属于集群运行模式，但是有很大的不同，在实际环境中，使用FlinkonYarn模式者居多。
GOD_WAR·2024-02-08 07:22

使用 Kubernetes，基础设施层面如何优化？分享一些解决方案

Kubernetes服务、分布式存储、Kubernetes原生存储等产品，用户既可基于SmartX超融合构筑全栈Kubernetes基础设施，也可选择为部署在裸金属、其他虚拟化平台或混合环境的Kubernetes集群提供持久化存储支持
志凌海纳SmartX·2024-02-08 07:51

【大数据】Flink 如何处理背压

Flink如何处理背压1.什么是背压2.Flink中的背压3.结论⭐推荐阅读：《Flink架构（二）：数据传输》人们经常会问Flink是如何处理背压（backpressure）效应的。
G皮T·2024-02-08 07:16

flink on yarn

文章目录使用flinksqlclientonyarnsession模式Per-JobCluster模式flinkrunflinkrunapplication-tyarn-application配置任务退出时保留
枪枪枪·2024-02-08 07:46

【大数据】Flink on YARN，如何确定 TaskManager 数

FlinkonYARN，如何确定TaskManager数1.问题2.并行度（Parallelism）3.任务槽（TaskSlot）4.确定TaskManager数1.问题在Flink1.5ReleaseNotes
G皮T·2024-02-08 07:43

打造业界规模最大的云边协同集群

Rancher2.4全新特性一览：边缘集群部署场景的延展性、零宕机升级集群、安全性增强以及全新的托管选项，为用户提供从数据中心到云端到边缘的海量Kubernetes集群一站式管理体验2020年4月1日，
RancherLabs·2024-02-08 07:27

Elasticsearch 安装和配置脚本文档

脚本包括了创建集群、配置节点、安装Java环境、以及设置必要的系统和ES参数。执行脚本后，将会完成E
刀鋒偏冷·2024-02-08 07:30

flink反压及解决思路和实操

1.反压原因反压其实就是task处理不过来，算子的sub-task需要处理的数据量>能够处理的数据量，比如：当前某个sub-task只能处理1wqps的数据，但实际上到来2wqps的数据，但是实际只能处理1w条，从而反压常见原因有：数据倾斜：数据分布不均，个别task处理数据过多算子性能问题：可能某个节点逻辑很复杂，比如sink节点很慢，lookupjoin热查询慢流量陡增，比如大促时流量激增，或
orange大数据技术探索者·2024-02-08 07:28

FlinkSql通用调优策略

历史文章迁移，稍后整理使用DataGenerator提前进行压测，了解数据的处理瓶颈、性能测试和消费能力开启minibatch："table.exec.mini-batch.enabled","true"开启Local+Global两阶段聚合："table.exec.mini-batch.enabled","true"解决数据倾斜问题：流式倾斜，开启minibatch窗口类有界操作，传统的两阶段聚
orange大数据技术探索者·2024-02-08 07:28

Flink 2.0 状态存算分离改造实践

本文整理自阿里云智能Flink存储引擎团队兰兆千在FFA2023核心技术（一）中的分享，内容关于Flink2.0状态存算分离改造实践的研究，主要分为以下四部分：Flink大状态管理痛点阿里云自研状态存储后端
Apache Flink·2024-02-08 07:28

Flink流式数据倾斜

1.流式数据倾斜流式处理的数据倾斜和Spark的离线或者微批处理都是某一个SubTask数据过多这种数据不均匀导致的，但是因为流式处理的特性其中又有些许不同2.如何解决2.1窗口有界流倾斜窗口操作类似Spark的微批处理，直接两阶段聚合的方式来解决就可以selectdate,type,sum(pv)aspvfrom(selectdate,type,sum(count)aspvfromtablegr
orange大数据技术探索者·2024-02-08 07:58

FlinkSql 窗口函数

WindowingTVF以前用的是GroupedWindowFunctions（分组窗口函数），但是分组窗口函数只支持窗口聚合现在FlinkSql统一都是用的是WindowingTVFs（窗口表值函数）
orange大数据技术探索者·2024-02-08 07:28

详述FlinkSql Join操作

FlinkSql的JoinFlink官网将其分为了Joins和WindowJoins两个大类，其中里面又分了很多Join方式参考文档：Joins|ApacheFlinkWindowJOIN|ApacheFlinkJoins
orange大数据技术探索者·2024-02-08 07:28

【Flink入门修炼】1-3 Flink WordCount 入门实现

本篇文章将带大家运行Flink最简单的程序WordCount。先实践后理论，对其基本输入输出、编程代码有初步了解，后续篇章再对Flink的各种概念和架构进行介绍。
大数据王小皮·2024-02-08 07:54

【大数据面试题】005 谈一谈 Flink Watermark 水印

使用WaterMark一般有以下几个步骤：定义时间特性（Flink1.12已废弃，默认使用事件时
Jiweilai1·2024-02-08 07:54

【flink状态管理（2）各状态初始化入口】状态初始化流程详解与源码剖析

文章目录1.状态初始化总流程梳理2.创建StreamOperatorStateContext3.StateInitializationContext的接口设计。4.状态初始化举例：UDF状态初始化在TaskManager中启动Task线程后，会调用StreamTask.invoke()方法触发当前Task中算子的执行，在invoke()方法中会调用restoreInternal()方法，这中间包括
roman_日积跬步-终至千里·2024-02-08 06:14

SeaTunnel 与 DataX 、Sqoop、Flume、Flink CDC 对比

产品概述ApacheSeaTunnel是一个非常易用的超高性能分布式数据集成产品，支持海量数据的离线及实时同步。每天可稳定高效同步万亿级数据，已应用于数百家企业生产，也是首个由国人主导贡献到Apache基金会的数据集成顶级项目。SeaTunnel主要解决数据集成领域的常见问题：*数据源多样：常用的数据源有数百种，版本不兼容。随着新技术的出现，出现了更多的数据源。用户很难找到能够全面快速支持这些数据
浪尖聊大数据-浪尖·2024-02-08 06:38

大数据系列—数据迁移(Sqoop,Flume,DataX)对比学习（stage3）

个人大数据技术栈：DataX,Sqoop,Hadoop,Hive,Spark,Flink,Hbase,Kafka,Kettle,Azkaban,Airflow,Tableau…个人在学习领域：Python
道-闇影·2024-02-08 06:07

Zookeeper搭建集群步骤

环境配置描述服务器：Centos6.564bit软件：Vmware12.0使用虚拟机创建三台服务器作为Zookeeper集群的节点服务器，分别配置hosts文件，IP地址。
qq_22019789·2024-02-08 06:37

SpringCloud SpringBoot uniapp vue b2b2c 微服务 多商家入驻直播带货商城 电商之12.0 Zookeeper 数据同步流程

消息广播崩溃恢复消息广播Zookeeper使用单一的主进程Leader来接收和处理客户端所有事务请求，并采用ZAB协议的原子广播协议，将事务请求以Proposal提议广播到所有Follower节点，当集群中有过半的
企业软件定制·2024-02-08 06:06

zookeeper安装

1.0Zookeeper教程|菜鸟教程(runoob.com)1.0Zookeeper教程2.0Zookeeper安装配置3.0Zookeeperlinux服务端集群搭建步骤4.0ZookeeperJava
riabai·2024-02-08 06:34

数据同步工具对比——SeaTunnel 、DataX、Sqoop、Flume、Flink CDC

本文将对比五种流行的数据处理工具：SeaTunnel、DataX、Sqoop、Flume和FlinkCDC，从它们的设计理念、使用场景、优缺点等方面进行详细介绍。
大数据_苡~·2024-02-08 06:33

12.0 Zookeeper 数据同步流程

消息广播崩溃恢复消息广播Zookeeper使用单一的主进程Leader来接收和处理客户端所有事务请求，并采用ZAB协议的原子广播协议，将事务请求以Proposal提议广播到所有Follower节点，当集群中有过半的
二当家的素材网·2024-02-08 06:02

Kubernetes（k8s）核心知识点总结

这些核心概念还有个高大上的名字叫做：资源对象，他们是通过K8s提供的Kubectl工具或者是API调用进行工作的，然后保存在ectd里；先来对K8s来个大体印象K8s的总体架构一图胜千言：K8S的总体架构K8s集群主要有两个
文晓武·2024-02-08 02:39

FolkMQ “单线程“消息中间件（开源） v1.0.32 发布

简介采用“单线程”+“多路复用”+“内存运行”+“快照持久化”+“Broker集群模式”（可选）基于Socket.D网络应用协议开发。全新设计，自主架构！
组合缺一·2024-02-08 01:05

Flink CDC 基于mysql binlog 实时同步mysql表

环境说明：flink1.15.2mysql版本5.7注意：需要开启binlog，因为增量同步是基于binlog捕获数据windows11IDEA本地运行先上官网使用说明和案例：MySQLCDCConnector—FlinkCDCdocumentation1
彩虹豆·2024-02-08 01:29
上一页 21 22 23 24 25 26 27 28 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他