E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
蚂蚁集群
大数据系列 | Kafka架构分析及应用
大数据系列|Kafka架构分析及应用1.消息系统介绍2.Kafka原理分析3.Kafka架构分析4.Kafka的安装与配置4.1.Zookeeper
集群
安装配置4.2.安装Kafka
集群
4.3.配置kafka
降世神童
·
2024-09-07 07:42
大数据技术专栏
大数据
kafka
架构
Python处理大数据,如何提高处理速度
一、利用大数据分析工具Dask:https://dask.org/Dask简介:Dask支持Pandas的DataFrame和NumpyArray的数据结构,并且既可在本地计算机上运行,也可以扩展到在
集群
上运行
RS&
·
2024-09-07 07:08
#
python
python
大数据
pandas
k8s|组件基本概念
kubernetes是一个可移植的,可扩展的开源平台,是Google开源的容器
集群
管理系统(谷歌内部:Borg),用于管理容器化的工作负载和服务,可促进声明式配置和自动化。
yygr
·
2024-09-07 05:55
容器化
kubernetes
docker
容器
选对参照物,幸福人生从此开挂
小草跟大树比它很渺小,跟
蚂蚁
比,它又很高大。小树跟参天大树比它很弱小,跟小草比它又是高不可攀的。
杨润秋
·
2024-09-07 04:19
3. ceph-mimic版本部署
环境规划2、系统基础环境准备2.1关闭防火墙、SELinux2.2确保所有主机时间同步2.3所有主机ssh免密2.4添加所有主机解析3、配置ceph软件仓库4、安装ceph-deploy工具5、ceph
集群
初始化
Martin_wjc
·
2024-09-07 03:11
7
存储
ceph
chrome
前端
mysql连接oceanbase数据库
集群
+租户
useUnicode=true&characterEncoding=UTF-8&serverTimezone=UTC//其他参数根据需求设置username:[用户名]@[租户名]#[
集群
名]password
AE_
·
2024-09-07 02:36
数据库
mysql
oceanbase
蚂蚁
VS甲虫
我走着走着,发现地上有一块糖,上面围着一群
蚂蚁
,我顿时想到了一个法子。先把糖在甲虫身上抹了一下。然后把糖丢掉,在把甲虫放进
蚂蚁
堆里。这样
蚂蚁
会以为甲虫吃了他们的糖。果不其然,
蚂蚁
群开始攻击甲虫。
杨蔡恒
·
2024-09-06 21:48
为什么需要分布式数据库
令人“头都大了”的分库分表中间件10多年前阿里因此原因不得不把淘宝后台系统从OracleRAC切换到数百个MySQL
集群
构成的分库分表
集群
,不过那时的淘宝仅仅使用一个分库分表中间件,名为tddl(又名:
KunlunBase 昆仑数据库
·
2024-09-06 21:08
KunlunBase
postgresql
数据库
mysql
分布式存储
数据库开发
如何搭建一个渲染农场
在影视特效、动画制作、建筑设计等领域,渲染农场作为高性能计算
集群
的应用,扮演着至关重要的角色。它通过将大量的渲染任务分配到多个计算节点上并行处理,极大地提升了渲染效率,缩短了项目周期。
炫云云渲染
·
2024-09-06 20:01
渲染农场
渲染解决方案
在Conda环境中高效使用Kubernetes:跨平台容器化实践指南
本文将探讨如何在Conda环境中使用Kubernetes,包括设置Conda环境、容器化应用程序以及在Kubernetes
集群
中部署和管理这些应用程序。
liuxin33445566
·
2024-09-06 20:59
conda
redis cluster
文章目录节点CLUSTERMEET命令的实现槽指派传播节点的槽指派信息复制与故障转移故障检测故障转移选举新的主节点节点一个Redis
集群
通常由多个节点(node)组成,在刚开始的时候,每个节点都是相互独立的
黑夜无路人
·
2024-09-06 20:27
redis
redis
数据库
缓存
Kubectl:Kubernetes 的强大命令行工具
它就像是一位全能的指挥官,让用户能够与Kubernetes
集群
进行高效而直接的交互。无论是管理容器化应用的部署、监控资源的使用情况,还是处理故障排查等任务,kubectl都发挥着不可或缺的作用。
编程点滴
·
2024-09-06 19:55
云原生
kubernetes
容器
云原生
第04课:基于 Redis 的分布式缓存实现及加固策略
本文将从Redis-Cluster搭建切入,详解
集群
的创建原理和加固策略。之后,分析
集群
所存在的几种可靠性问题并给出解决方案,最后,介绍一个
集群
运维软件的实现方案。
Jin_Kwok
·
2024-09-06 18:13
分布式中间件实践之路
架构
分布式
中间件
027、架构_资源_GTM
系统级GTM:默认的GTM,当创建分片
集群
时,如果不创建实例级GTM,则会用系统级GTM本章节主要介绍GTM
集群
的新增、删除、配置、绑定等管理操作。
数哥
·
2024-09-06 18:41
GoldenDB
goldendb
PolarDB for PostgreSQL 内核解读:HTAP架构介绍
存储计算分离的架构基础上我们研发了基于共享存储的MPP架构步具备了HTAP的能力,对一套TP的数据支持两套执行引擎:单机执行引擎用于处理高并发的OLTPMPP跨机分布式执行引擎用于复杂的OLAP查询,发挥
集群
多个
阿里云技术
·
2024-09-06 16:28
架构
postgresql
系统架构
81.MySQL-PXC高可用
集群
[OK]当前
集群
只有一个节点。my
戒掉贪嗔痴(薛双奇)
·
2024-09-06 15:58
数据库运维-MySQL
mysql
数据库
mysql8.0使用PXC实现高可用
使用PXC实现高可用1.概述官方文档:PerconaXtradbCluster8.0DocumentationPXC(PerconaXtraDBCluster)是一个开源的高可用性、高性能的MySQL
集群
解决方案
帽子运维笔记
·
2024-09-06 15:24
数据库
运维
mysql
数据库
k8s安装test
k8s
集群
部署准备工作三台centos7虚拟机(内存每个节点4G)[root@master~]#cat/etc/redhat-releaseCentOSLinuxrelease7.9.2009(Core
qBeautifulBoy
·
2024-09-06 15:23
kubernetes
容器
云原生
Kafka 如何保证数据不丢失?不重复
缺点:这样保证了高可用,但是这会导致
集群
的吞吐量不是很高,因为数据发送到broker之后,leader要将数据同步到fllower上,如果网
优秀后端工程师
·
2024-09-06 15:23
Java程序员
kafka
linq
分布式
MySQL 高可用--PXC
1.PXC(PerconaXtradbCluster)Percona:基于MySQL数据库已二次开发的数据库产品xtradb:存储引擎Cluster:
集群
1.1概念:PXC是属于一套比较完美的MySQL
行走的猫儿
·
2024-09-06 15:52
MySQL
Spark一些个人总结
一、Spark是什么Spark是一个用来实现快速,通用的
集群
易逑实战数据
·
2024-09-06 09:39
大数据
spark
big
data
scala
黑
蚂蚁
欣欣(92):鹞子显威
蜘蛛又采取声东击西的战法。蜘蛛总司令硬壳率天战蛛对第一防线发起全线佯攻,而队长橄榄核率天战蛛精锐,与偷袭送食的天战蛛内外合击欣欣指挥所。战斗打响了。硬壳所部越过第二防线,以迅雷不及掩耳之势冲向了特战蚁。由于特战蚁提前进入了战斗状态,硬壳所部遭到阻击。几经激战仍未能夺回防线,他索性罢战与特战蚁对峙着,反正他们是佯攻的。以此同时,橄榄核所部则是下足了功夫,对欣欣的指挥所实行合击。可他们万万没想到却扑了
以科_da36
·
2024-09-06 09:02
Kafka-设计原理
ControllerLeader-PartitionRebalance消息发布机制HW与LEO日志分段ControllerKafka核心总控制器Controller:在Kafka
集群
中会有一个或者多个broker
姜希成
·
2024-09-06 07:59
Kafka
kafka
芯擎SEC1000支持摄像头和屏幕的数量根据分辨率和帧率详细计算
1.CPU
集群
4×Cortex-A76和4×Cortex-A55:Cor
空间机器人
·
2024-09-06 06:53
自动驾驶
k8s pod container内存指标说明
一、问题描述我司平台研发的devops平台底层采用k8s实现,k8s自带cadvisor进行
集群
指标收集,根据官网,我们选用了container_memory_working_set_bytes(容器的工作集使用量
yifeiliu338
·
2024-09-06 04:43
k8s
kubernetes
容器
云原生
python分布式
集群
ray_GitHub - Leesire-Python/jd_spider: 两只蠢萌京东的分布式爬虫.
实现scrapy-redis对进行url的去重以及调度,利用redis的高效和易于扩展能够轻松实现高效率下载:当redis存储或者访问速度遇到瓶颈时,可以通过增大redis
集群
数和爬虫
集群
数量改善版本支持现在支持
weixin_39781930
·
2024-09-06 00:17
python分布式集群ray
云计算之云数据库
云数据库:架构在云端数据库
集群
上,通过云服务的方式让关系型数据库的可靠性更高,免去繁琐的维护工作,节约硬件成本,其具备以下特点:云数据库特点:1:管理方便:可以自动备份、弹性扩展。
weixin_34320724
·
2024-09-06 00:17
数据库
字节跳动10万节点HDFS
集群
多机房架构演进之路(1)
如何高效运维如此超大规模的
集群
要回答这些问题需要HDFS从多个方向迭代优化,例如DanceNN的上线、运维平台的建设等,本文不会介绍字节跳动HDFS所有的演进方案,而是聚焦在HDFS多机房架构的演进策略上
2401_84122782
·
2024-09-05 21:23
程序员
hdfs
架构
hadoop
GBase 8c 分布式核心技术—CDC数据同步
作为一款分布式数据库,GBase8c可轻松实现例如两地三中心架构的
集群
异地灾备。GBase8c异地灾备
集群
间的不同节点采用各自对应的高可用部署方式,两地间采用同步或者异步复制的备份方式。
manhuai2022
·
2024-09-05 19:11
GBase
8c
数据库
服务器
java
TiDB备份与恢复简介
本文档介绍如何对Kubernetes上的TiDB
集群
进行数据备份和数据恢复。备份与恢复中所使用的工具有Dumpling、TiDBLightning和BR。
每天读点书学堂
·
2024-09-05 18:31
大数据
数据库架构
数据库
数据库开发
运维
腾讯,干掉 Redis 项目,正式开源、太牛逼啦
集群
架构Tendis使用去中心化
集群
架构,每个数据节点都拥有全部的路由信息,用户可以访问集
六月·飞雪
·
2024-09-05 17:53
架构
redis
开源
数据库
腾讯云数据库(Redis)监控最佳指南
云数据库Redis服务兼容Redis2.8、Redis4.0、Redis5.0版本协议,提供标准和
集群
两大架构版本。
Tencent_Monitor
·
2024-09-05 16:21
前端
数据库
javascript
戴花环的小
蚂蚁
一天,小
蚂蚁
和妹妹一起编花环。小
蚂蚁
负责到外面山坡上摘小花朵,妹妹负责编花环。小
蚂蚁
的爸爸从外面回来,特意买了一些糖果作为奖励,小
蚂蚁
和他的哥哥,妹妹都分到两块。
崔星原
·
2024-09-05 16:16
K8s介绍及离线安装
Kubernetes是Google开源的容器
集群
管理系统,使用Golang开发,其提供应用部署、维护、扩展机制等功能,利用Kubernetes能方便地管理跨机器运行容器化的应用,其主要功能如下:使用Docker
wang5798
·
2024-09-05 16:51
kubernetes
docker
蠼螋 [qú sōu]
蠼螋[qúsōu]由左到右触角、甲壳、肢体、尾巴触角触角类型、须类型、
蚂蚁
、蚱蜢、跳蚤、探头、弹簧甲壳甲壳虫、七龙珠-比萨大魔王、龟仙人、短笛、瓢虫、乌龟、甲鱼、胸甲、甲胄、骑士、肌肉、腹肌、头盔、铁板
控期待的蛋
·
2024-09-05 16:39
1+X云计算运维与开发(中级)实战案例——Kafka
集群
部署
前言Kafka是一种开源的流处理平台和消息系统,被设计用于构建实时数据管道和流式应用程序,可以处理大规模的实时数据流,并提供高吞吐量、持久性存储和分布式处理能力。在实时数据处理、日志聚合、指标监控、事件驱动架构等场景下,Kafka有着广泛的应用。它的高性能、可扩展性以及丰富的功能使其成为了大数据领域中的重要工具之一。Kafka中发布订阅的对象是topic。用户可以为每类数据创建一个topic,把向
kuuuugua
·
2024-09-05 15:41
1+X云计算运维与开发(中级)
云计算
运维
kafka
我是一棵大树
蚂蚁
在我脚下搭窝儿,小鸟在我臂膀上生活,蝉在我身上唱歌。夏天,雨水滋润着我的身体。冬天,雪花给我光秃秃的身子做装饰。四季姑娘给我拿漂亮的衣裳,风轻轻吹着我。
暖暖小时光
·
2024-09-05 13:13
ORACLE之RAC
集群
常用命令
ORACLE之RAC
集群
常用命令RAC的守护进程/etc/init.d/init.ohasdRAC的日常管理命令1)节点层2)网络层3)
集群
层4)应用层节点层olsnodes-n-p-i--这个命令用来显示
集群
点列表检查
集群
节点
XiaoHG_CSDN
·
2024-09-05 13:01
oracle
数据库
Spark
Spark是一个快速的、通用的
集群
计算系统,主要用于大规模数据处理。它最早由加州大学伯克利分校的AMPLab开发,并于2010年开源,后来由Apache软件基金会管理。
傲雪凌霜,松柏长青
·
2024-09-05 11:20
后端
大数据
spark
大数据
分布式
Hadoop-MapReduce机制原理
Reduce阶段步骤:7、MapReduce阶段图1、MapReduce概述 HadoopMapReduce是一个分布式计算框架,用于轻松编写分布式应用程序,这些应用程序以可靠,容错的方式并行处理大型硬件
集群
H.S.T不想卷
·
2024-09-05 11:46
大数据
hadoop
mapreduce
大数据
[武侠]秋风凉|第二卷宫阙惊变(32)
王公公在密库里面的时间比徐大千想象的要短很多,就在他数完第七百五十三只
蚂蚁
的时候,大门上方的铜铃突然摇晃了起来。
寸草945
·
2024-09-05 10:02
kafka消费者重复消费同一个topic
场景是sparkstreaming消费kafka数据在这里sparkstream和kafka都是单节点的
集群
模式。同时起两个不同的groupid的应用,发现会发生后起来的应用消费不到数据。
小琳ai
·
2024-09-05 10:06
大数据
kafka
重复消费
consumer
k8s访问外部mysql_Kubernetes连接外部数据源
Kubernetes架构下比较核心的问题是数据如何persistance,虽然提供了Persistentvolumn的方式,但是对于像数据库之类的产品在kubernetes
集群
环境中运行和管理还是很有难度的
健玮
·
2024-09-05 08:24
k8s访问外部mysql
负载均衡的详细说明
当一台服务器的性能达到极限时,我们可以使用服务器
集群
来提高网站的整体性能。那么,在服务器
集群
中,需要有一台服务器充当调度者的角色,用户的
submarineas
·
2024-09-05 08:23
django
2、mysql-canal-zk-kafka-es数据同步
方案总体介绍:通过zookeeper管理canal和kafka
集群
,zk本身也做
集群
配置;通过canal作为mysql的从库实时读取binlog,然后将数据以json格式发送到kafka平台,会有一个专门消费
kobe0429
·
2024-09-05 08:01
k8s调度器Scheduler
k8s调度器SchedulerKubernetesScheduler(简称k8sScheduler)是Kubernetes
集群
中的一个核心组件,它负责将Pod调度到合适的Node上运行,以实现
集群
资源的优化分配和负载均衡
条纹布鲁斯
·
2024-09-05 07:51
kubernetes
容器
云原生
大数据生态圈里的一致性算法
Paxos选举算法Paxos是最先解决拜占庭将军问题的算法,利用过半选举的机制,保证了
集群
数据副本的一致性(微服务中服务注册与发
宇宙湾
·
2024-09-05 07:35
学习笔记:服务器的负载均衡
服务器
集群
•处理业务的服务器组成服务器
集群
,对外体现为一台逻辑上的服务器,由FW决定如何分配流量给各个服务器。服务器负载均衡技术的一
TKE_yinian
·
2024-09-05 07:50
centos安装k8s
集群
(kubeadm方式)
目录前言生产环境部署k8s
集群
的两种方式服务器初始化、环境准备使用kubeadm安装k8s(本篇讲解使用kubeadm安装k8s)后记-k8s使用外部etcd
集群
前言环境:centos7.9docker-ce
MssGuo
·
2024-09-05 07:20
kubernetes
centos
kubernetes
Linux运维
Kubernetes学习指南:保姆级实操手册05——配置
集群
HA负载均衡
五、Kubernetes学习指南:保姆级实操手册05——配置
集群
HA负载均衡简介:Keepalived提供VRRP实现,并允许您配置Linux机器使负载均衡,预防单点故障。
小黑_深呼吸
·
2024-09-05 07:17
Kubernetes学习指南
kubernetes
负载均衡
容器
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他