flink集群

kubernetes集群下部署kafka+zookeeper单机部署方案

背景：注：在kubernetes集群上部署单机版的zookeeper+kafka服务，是采用了kubernetes中的deploment组件+service组件+pvc存储组件1、部署zookeeper
jiang0615csdn·2024-09-07 12:17

Apache Flink 替换 Spark Stream的架构与实践( bilibili 案例解读)_streamsparkflink加载udf(1)

bilibili早期使用的引擎是SparkStreaming，后期扩展了Flink，在开发架构中预留了一部分引擎层的扩展。最下层是状态存储
2401_84165953·2024-09-07 12:44

linux搭建ceph集群

linux三节点搭建ceph集群主机IP主机名称172.26.50.75node1172.26.50.112node2172.26.50.228node3ceph-mon，ceph-mgr，ceph-mds
浓黑的daidai·2024-09-07 11:05

部署EFK

1.安装JDK，配置JAVA环境2.安装配置Tomcat3.Tomcat配置说明4.启动Tomcat5.优化Tomcat启动速度四、配置Elasticsearch环境五、安装elasticsearch集群
m0_59430185·2024-09-07 10:35

大数据系列 | Kafka架构分析及应用

大数据系列|Kafka架构分析及应用1.消息系统介绍2.Kafka原理分析3.Kafka架构分析4.Kafka的安装与配置4.1.Zookeeper集群安装配置4.2.安装Kafka集群4.3.配置kafka
降世神童·2024-09-07 07:42

Python处理大数据，如何提高处理速度

一、利用大数据分析工具Dask：https://dask.org/Dask简介：Dask支持Pandas的DataFrame和NumpyArray的数据结构，并且既可在本地计算机上运行，也可以扩展到在集群上运行
RS&·2024-09-07 07:08

k8s｜组件基本概念

kubernetes是一个可移植的，可扩展的开源平台，是Google开源的容器集群管理系统（谷歌内部:Borg)，用于管理容器化的工作负载和服务，可促进声明式配置和自动化。
yygr·2024-09-07 05:55

3. ceph-mimic版本部署

环境规划2、系统基础环境准备2.1关闭防火墙、SELinux2.2确保所有主机时间同步2.3所有主机ssh免密2.4添加所有主机解析3、配置ceph软件仓库4、安装ceph-deploy工具5、ceph集群初始化
Martin_wjc·2024-09-07 03:11

mysql连接oceanbase数据库集群+租户

useUnicode=true&characterEncoding=UTF-8&serverTimezone=UTC//其他参数根据需求设置username:[用户名]@[租户名]#[集群名]password
AE_·2024-09-07 02:36

为什么需要分布式数据库

令人“头都大了”的分库分表中间件10多年前阿里因此原因不得不把淘宝后台系统从OracleRAC切换到数百个MySQL集群构成的分库分表集群，不过那时的淘宝仅仅使用一个分库分表中间件，名为tddl（又名：
KunlunBase 昆仑数据库·2024-09-06 21:08

如何搭建一个渲染农场

在影视特效、动画制作、建筑设计等领域，渲染农场作为高性能计算集群的应用，扮演着至关重要的角色。它通过将大量的渲染任务分配到多个计算节点上并行处理，极大地提升了渲染效率，缩短了项目周期。
炫云云渲染·2024-09-06 20:01

在Conda环境中高效使用Kubernetes：跨平台容器化实践指南

本文将探讨如何在Conda环境中使用Kubernetes，包括设置Conda环境、容器化应用程序以及在Kubernetes集群中部署和管理这些应用程序。
liuxin33445566·2024-09-06 20:59

redis cluster

文章目录节点CLUSTERMEET命令的实现槽指派传播节点的槽指派信息复制与故障转移故障检测故障转移选举新的主节点节点一个Redis集群通常由多个节点（node）组成，在刚开始的时候，每个节点都是相互独立的
黑夜无路人·2024-09-06 20:27

Kubectl：Kubernetes 的强大命令行工具

它就像是一位全能的指挥官，让用户能够与Kubernetes集群进行高效而直接的交互。无论是管理容器化应用的部署、监控资源的使用情况，还是处理故障排查等任务，kubectl都发挥着不可或缺的作用。
编程点滴·2024-09-06 19:55

大数据秋招面经之spark系列

3.repartition与coalesce4.spark的oom问题怎么产生的以及解决方案5.storm与flink,sparkstreaming之间的区别6.spark的几种部署方式：7.复习spark
wq17629260466·2024-09-06 19:54

第04课：基于 Redis 的分布式缓存实现及加固策略

本文将从Redis-Cluster搭建切入，详解集群的创建原理和加固策略。之后，分析集群所存在的几种可靠性问题并给出解决方案，最后，介绍一个集群运维软件的实现方案。
Jin_Kwok·2024-09-06 18:13

027、架构_资源_GTM

系统级GTM：默认的GTM，当创建分片集群时，如果不创建实例级GTM，则会用系统级GTM本章节主要介绍GTM集群的新增、删除、配置、绑定等管理操作。
数哥·2024-09-06 18:41

PolarDB for PostgreSQL 内核解读：HTAP架构介绍

存储计算分离的架构基础上我们研发了基于共享存储的MPP架构步具备了HTAP的能力，对一套TP的数据支持两套执行引擎：单机执行引擎用于处理高并发的OLTPMPP跨机分布式执行引擎用于复杂的OLAP查询，发挥集群多个
阿里云技术·2024-09-06 16:28

81.MySQL-PXC高可用集群

[OK]当前集群只有一个节点。my
戒掉贪嗔痴(薛双奇)·2024-09-06 15:58

mysql8.0使用PXC实现高可用

使用PXC实现高可用1.概述官方文档:PerconaXtradbCluster8.0DocumentationPXC（PerconaXtraDBCluster）是一个开源的高可用性、高性能的MySQL集群解决方案
帽子运维笔记·2024-09-06 15:24

k8s安装test

k8s集群部署准备工作三台centos7虚拟机（内存每个节点4G）[root@master~]#cat/etc/redhat-releaseCentOSLinuxrelease7.9.2009(Core
qBeautifulBoy·2024-09-06 15:23

Kafka 如何保证数据不丢失？不重复

缺点：这样保证了高可用，但是这会导致集群的吞吐量不是很高，因为数据发送到broker之后，leader要将数据同步到fllower上，如果网
优秀后端工程师·2024-09-06 15:23

MySQL 高可用--PXC

1.PXC(PerconaXtradbCluster)Percona：基于MySQL数据库已二次开发的数据库产品xtradb：存储引擎Cluster：集群1.1概念：PXC是属于一套比较完美的MySQL
行走的猫儿·2024-09-06 15:52

Spark一些个人总结

一、Spark是什么Spark是一个用来实现快速，通用的集群
易逑实战数据·2024-09-06 09:39

Kafka-设计原理

ControllerLeader-PartitionRebalance消息发布机制HW与LEO日志分段ControllerKafka核心总控制器Controller：在Kafka集群中会有一个或者多个broker
姜希成·2024-09-06 07:59

芯擎SEC1000支持摄像头和屏幕的数量根据分辨率和帧率详细计算

1.CPU集群4×Cortex-A76和4×Cortex-A55:Cor
空间机器人·2024-09-06 06:53

Apache Flink 运行时架构

Flink运行时架构Flink整个系统由两个主要部分组成JobManager和TaskManager，Flink架构也遵循Master-Slave架构设计原则，JobManager为Master节点，TaskManager
生病的毛毛虫·2024-09-06 04:44

k8s pod container内存指标说明

一、问题描述我司平台研发的devops平台底层采用k8s实现，k8s自带cadvisor进行集群指标收集，根据官网，我们选用了container_memory_working_set_bytes（容器的工作集使用量
yifeiliu338·2024-09-06 04:43

Flink生态与未来

本文为《Flink大数据项目实战》学习笔记，想通过视频系统学习Flink这个最火爆的大数据计算框架的同学，推荐学习课程：Flink大数据项目实战：http://t.cn/EJtKhaz核心组件栈Flink
weixin_30394333·2024-09-06 02:00

python分布式集群ray_GitHub - Leesire-Python/jd_spider: 两只蠢萌京东的分布式爬虫.

实现scrapy-redis对进行url的去重以及调度，利用redis的高效和易于扩展能够轻松实现高效率下载：当redis存储或者访问速度遇到瓶颈时，可以通过增大redis集群数和爬虫集群数量改善版本支持现在支持
weixin_39781930·2024-09-06 00:17

云计算之云数据库

云数据库：架构在云端数据库集群上，通过云服务的方式让关系型数据库的可靠性更高，免去繁琐的维护工作，节约硬件成本，其具备以下特点：云数据库特点：1：管理方便：可以自动备份、弹性扩展。
weixin_34320724·2024-09-06 00:17

字节跳动10万节点HDFS集群多机房架构演进之路(1)

如何高效运维如此超大规模的集群要回答这些问题需要HDFS从多个方向迭代优化，例如DanceNN的上线、运维平台的建设等，本文不会介绍字节跳动HDFS所有的演进方案，而是聚焦在HDFS多机房架构的演进策略上
2401_84122782·2024-09-05 21:23

GBase 8c 分布式核心技术—CDC数据同步

作为一款分布式数据库，GBase8c可轻松实现例如两地三中心架构的集群异地灾备。GBase8c异地灾备集群间的不同节点采用各自对应的高可用部署方式，两地间采用同步或者异步复制的备份方式。
manhuai2022·2024-09-05 19:11

TiDB备份与恢复简介

本文档介绍如何对Kubernetes上的TiDB集群进行数据备份和数据恢复。备份与恢复中所使用的工具有Dumpling、TiDBLightning和BR。
每天读点书学堂·2024-09-05 18:31

腾讯，干掉 Redis 项目，正式开源、太牛逼啦

集群架构Tendis使用去中心化集群架构，每个数据节点都拥有全部的路由信息，用户可以访问集
六月·飞雪·2024-09-05 17:53

腾讯云数据库（Redis）监控最佳指南

云数据库Redis服务兼容Redis2.8、Redis4.0、Redis5.0版本协议，提供标准和集群两大架构版本。
Tencent_Monitor·2024-09-05 16:21

K8s介绍及离线安装

Kubernetes是Google开源的容器集群管理系统，使用Golang开发，其提供应用部署、维护、扩展机制等功能，利用Kubernetes能方便地管理跨机器运行容器化的应用，其主要功能如下：使用Docker
wang5798·2024-09-05 16:51

1+X云计算运维与开发(中级)实战案例——Kafka集群部署

前言Kafka是一种开源的流处理平台和消息系统，被设计用于构建实时数据管道和流式应用程序，可以处理大规模的实时数据流，并提供高吞吐量、持久性存储和分布式处理能力。在实时数据处理、日志聚合、指标监控、事件驱动架构等场景下，Kafka有着广泛的应用。它的高性能、可扩展性以及丰富的功能使其成为了大数据领域中的重要工具之一。Kafka中发布订阅的对象是topic。用户可以为每类数据创建一个topic，把向
kuuuugua·2024-09-05 15:41

ORACLE之RAC集群常用命令

ORACLE之RAC集群常用命令RAC的守护进程/etc/init.d/init.ohasdRAC的日常管理命令1）节点层2）网络层3）集群层4）应用层节点层olsnodes-n-p-i--这个命令用来显示集群点列表检查集群节点
XiaoHG_CSDN·2024-09-05 13:01

Spark

Spark是一个快速的、通用的集群计算系统，主要用于大规模数据处理。它最早由加州大学伯克利分校的AMPLab开发，并于2010年开源，后来由Apache软件基金会管理。
傲雪凌霜，松柏长青·2024-09-05 11:20

Hadoop-MapReduce机制原理

Reduce阶段步骤：7、MapReduce阶段图1、MapReduce概述  HadoopMapReduce是一个分布式计算框架，用于轻松编写分布式应用程序，这些应用程序以可靠，容错的方式并行处理大型硬件集群
H.S.T不想卷·2024-09-05 11:46

Flink实践场景-通过DataStream KeyedProcessFunction统计每小时的出租车司机的收入

一、场景说明以及依赖请查看上一篇介绍Flink实践场景-通过DataStreamApi统计每小时的出租车司机的收入-CSDN博客二、KeyedProcessFunction介绍在Flink中，KeyedProcessFunction
似水_逆行·2024-09-05 10:12

kafka消费者重复消费同一个topic

场景是sparkstreaming消费kafka数据在这里sparkstream和kafka都是单节点的集群模式。同时起两个不同的groupid的应用，发现会发生后起来的应用消费不到数据。
小琳ai·2024-09-05 10:06

k8s访问外部mysql_Kubernetes连接外部数据源

Kubernetes架构下比较核心的问题是数据如何persistance,虽然提供了Persistentvolumn的方式，但是对于像数据库之类的产品在kubernetes集群环境中运行和管理还是很有难度的
健玮·2024-09-05 08:24

负载均衡的详细说明

当一台服务器的性能达到极限时，我们可以使用服务器集群来提高网站的整体性能。那么，在服务器集群中，需要有一台服务器充当调度者的角色，用户的
submarineas·2024-09-05 08:23

2、mysql-canal-zk-kafka-es数据同步

方案总体介绍：通过zookeeper管理canal和kafka集群,zk本身也做集群配置；通过canal作为mysql的从库实时读取binlog，然后将数据以json格式发送到kafka平台，会有一个专门消费
kobe0429·2024-09-05 08:01

k8s调度器Scheduler

k8s调度器SchedulerKubernetesScheduler（简称k8sScheduler）是Kubernetes集群中的一个核心组件，它负责将Pod调度到合适的Node上运行，以实现集群资源的优化分配和负载均衡
条纹布鲁斯·2024-09-05 07:51

大数据生态圈里的一致性算法

Paxos选举算法Paxos是最先解决拜占庭将军问题的算法，利用过半选举的机制，保证了集群数据副本的一致性（微服务中服务注册与发
宇宙湾·2024-09-05 07:35

学习笔记：服务器的负载均衡

服务器集群•处理业务的服务器组成服务器集群，对外体现为一台逻辑上的服务器，由FW决定如何分配流量给各个服务器。服务器负载均衡技术的一
TKE_yinian·2024-09-05 07:50

centos安装k8s集群（kubeadm方式）

目录前言生产环境部署k8s集群的两种方式服务器初始化、环境准备使用kubeadm安装k8s（本篇讲解使用kubeadm安装k8s）后记-k8s使用外部etcd集群前言环境：centos7.9docker-ce
MssGuo·2024-09-05 07:20
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他