2007集群

用 Docker 搭建 Spark 集群

简介Spark是Berkeley开发的分布式计算的框架，相对于Hadoop来说，Spark可以缓存中间结果到内存而提高某些需要迭代的计算场景的效率，目前收到广泛关注。熟悉Hadoop的同学也不必担心，Spark很多设计理念和用法都跟Hadoop保持一致和相似，并且在使用上完全兼容HDFS。但是Spark的安装并不容易，依赖包括Java、Scala、HDFS等。通过使用Docker，可以快速的在本地

yeasy·2025-01-26 00:22

rockylinux9.4单master节点k8s1.28集群部署

kubernetes集群部署常见的k8s部署方式包括：二进制包、kubeadm工具、云服务提供商、或通过一些开源的工具搭建，例如：sealos、kuboard、Runcher、kubeSphere。

大白菜和MySQL·2025-01-25 23:48

华为云云原生王者之路集训营（黄金-第五章)

在Kubernetes中，Pod代表的是集群上处于运行状态的一组容器。四种负载：无状态工作负载：管理的Pod集合是相互等价的，需要的时候可

※网络笨猪※·2025-01-25 23:16

Redis集群的高可用架构及维护

Redis集群作为一款开源内存键值存储数据库，在高性能、易用性等方面都给予了开发者更高的满意度。

AI天才研究院·2025-01-25 22:40

mha mysql 两台机器_MySQL主从复制（8）MHA实现主从高可用

MHA由管理节点(Manager)和数据节点(Node)组成，一套MHAManager可以管理多套MySQL集群。

日签君AIUX·2025-01-25 16:24

基于MySQL8.0安装部署MHA集群（一主两从）

写在前面之前搭建过MySQL5.7版本的MHA集群，因为一些需要，现进行MySQL8.0版本的MHA集群搭建，搭建步骤基本与5.7版本相似，所以某些测试部分、问题解决、安装包、mha的IP漂移配置文件可以参照我之前写的博文

收买神的欢心·2025-01-25 16:53

mysql8 MHA集群部署

服务器环境系统主机名IPcentos7.9mha-master192.168.200.41、192.168.200.45（vip）centos7.9mha-slave01192.168.200.42centos7.9mha-slave02192.168.200.43centos7.9mha-monitor192.168.200.40SSH互信mha-master、mha-slave01、mha-s

L白眸·2025-01-25 15:52

redis原理

RESP持久化持久化具体实现1.RDB(RedisDataBase)2.AOF(AppendOnlyFile)事务相关命令主从复制拓扑结构同步过程部分复制实时复制哨兵（Sentinel）哨兵选取主节点流程集群数据分片主节点宕机集群扩容缓存缓存更新缓存预热

小哲会嘿魔法·2025-01-25 15:47

浅谈 redis

可以集群部署，数据在各个机器上都有备份，挂了一台机器，可以从其他机器上找到数据。集群带来主从节点机制，一般至少需要3个节点来选举出主节点，也可以指定主节点。主从同步问题，会导致数据不一致。

BigDeng_2014·2025-01-25 13:06

kafka内部工作机制

集群中成员关系kafka使用zookeeper来维护成员信息。

一只叫狗的猫·2025-01-25 13:03

python做并行计算_python做并行计算可以吗

角动量不守恒·2025-01-25 13:31

python并行计算

系统可以直观地与本地或网络的计算节点集群进行交互，而不管集群的实现方式如何。这种易于交互使用帮助IPython和Python

weixin_30894389·2025-01-25 12:00

Zookeeper（26）Zookeeper的ZAB协议是什么？

它的设计目标是确保在任何时候，集群中的所有节点都能看到相同的事务更新顺序，从而保证数据的一致性。

辞暮尔尔-烟火年年·2025-01-25 12:58

【Kafka：概念、架构与应用】

2.2消费者（Consumer）2.3主题（Topic）2.4分区（Partition）2.5消息偏移量（Offset）2.6消费组（ConsumerGroup）Kafka的架构设计3.1Broker与集群

三日看尽长安花·2025-01-25 12:28

Kafka：架构与核心机制

1.Kafka的架构1.1组件概述Kafka的架构由多个组件构成，主要包括以下部分：Broker：Kafka集群中的服务器，每个Broker存储一部分消息。

J老熊·2025-01-25 11:49

DigitalOcean Kubernetes现已支持VPC natvie集群

DigitalOceanKubernetes(DOKS)的VPCnatvie集群功能现已正式上线！

DO_Community·2025-01-25 09:37

利用Kubespray安装生产环境的k8s集群-排错篇

利用Kubespray安装生产环境的k8s集群-排错Ansible排错Ansible安装后需要加入到PATH，以便能够直接运行。

超级阿飞·2025-01-25 08:30

不同hive集群中基于表的数据一致性比对

前阵子博主遇到一个需求，因对hadoop集群进行数据迁移，数据迁移完毕后进行两个hive库的数据一致性的比对，不仅对源表数据进行比对，而且要同时使用两个集群加工相同数据，对加工后的数据进行数据一致性比对

AA赵师傅·2025-01-25 07:19

Hadoop、Hive、Hbase集群间的数据迁移

一、hadoop集群间拷贝数据：迁移之前需要把两个集群的所有节点都互通/etc/hosts文件（重要，包括各个数据节点）两个集群版本不相同hadoopdistcphftp://192.168.57.73

这个操蛋的人生！！！·2025-01-25 07:18

Hive之数据迁移方案(实测)

文章目录Hive的迁移涉及两个技术点：1.仅迁移元数据2.元数据及Hive数据全量迁移2.1全表迁移2.1.1旧集群2.1.2新集群2.2仅部分分区迁移（主要步骤）2.1.1旧集群2.1.2新集群2.3beeline

南风知我意丿·2025-01-25 06:11

16 分布式session和无状态的会话

如果以集群的方式部署，用户登录的session存储在该次登录的服务器节点上，如果下次访问服务端的请求落到其他节点上就需要重新生成session，这样用户需要频繁的登录。

40岁的系统架构师·2025-01-25 06:09

openresty+lua+kafka 日志采集

根据业务把不同的日志发送到不同主题中数据实时性高性能保证方案一自己写个接收程序转发到kafka方案二采用nginx+lua方案采用方案二，原因是nginx高性能，编写代码少，维护少，满足业务场景实施步骤线上请求到nginx后，使用lua组装json格式日志，异步发送到kafka集群根据不同业务日志

CHENYANG123·2025-01-25 03:50

redis+spring面试题

redis使用场景缓存热点数据分布式锁存储token存储短信验证码计数器全局唯一数排行榜限流购物车关注粉丝缓存失效缓存穿透缓存空结果布龙过滤器缓存击穿全局锁设置永不过期缓存雪崩设置高可用集群设置不同的过期时间本地二级缓存

·2025-01-25 01:51

2024 年最新基于 Spring Cloud 的微服务架构分析

如果Eureka以集群模式部署，当集群中有分片出现故障时，那

2401_83916326·2025-01-24 17:02

如何部署 Flask 应用程序到生产环境？

部署方式适用场景说明Gunicorn+Nginx适合中小型项目轻量级，性能稳定uWSGI+Nginx高性能并发、生产环境推荐生产级别，支持异步工作Docker+Kubernetes容器化部署，微服务架构适合大规模微服务集群

Channing Lewis·2025-01-24 15:15

CDH日志清理

备注:CDH版本:6.3.1背景CDH集群运行了2个多月了，根目录磁盘使用率接近80%了，需要清理CDH日志。一.查看问题CDH的日志文件一般在如下几个目录，可以通过如下代码进行查看。

只是甲·2025-01-24 14:13

Spark运行模式及Spark on Yarn两种运行模式的区别

Spark运行模式1.Standalone模式描述：Standalone模式是Spark的独立集群模式，Spark自己管理资源和调度任务。适合小型集群或个人开发环境。特点：简单易用，适合开发和测试。

DataCrafter·2025-01-24 13:03

Kubernetes入门

Kubernetes的工作原理Kubernetes通过将应用打包到容器中，并在集群中运行这些容器来实现应用的部署和管理。容器是轻量级的、可移植的、自包含的软

I~Lucky·2025-01-24 13:01

【大数据入门核心技术-Hive】（十六）hive表加载csv格式数据或者json格式数据

一、环境准备hive安装部署参考：【大数据入门核心技术-Hive】（三）Hive3.1.2非高可用集群搭建【大数据入门核心技术-Hive】（四）Hive3.1.2高可用集群搭建二、hive加载Json格式数据

forest_long·2025-01-24 12:27

Kubernetes网络

Kubernetes网络Kubernetes网络模型相关概念链接Kubernetes网络模型Kubernetes网络模型由多个关键部分构建而成：在Kubernetes集群中，每个Pod都会被分配一个独一无二的

qichengzong_right·2025-01-24 10:43

y98.第六章微服务、服务网格及Envoy实战 -- 集群管理(九)

8.集群管理8.0本节话题集群管理器与服务发现机制主动健康状态检测与异常点探测负载均衡策略分布式负载均衡负载均衡算法：加权轮询、加权最少连接、环哈希、磁悬浮和随机等；区域感知路由全局负载均衡位置优先级位置权重均衡器子集熔断和连接池

Raymond运维·2025-01-24 08:53

TiDB架构特性

TiDBServerPDServerTiKVServerTiSparkTiDBOperatorTiDB核心特性水平扩展高可用TiDB存储和计算能力存储能力-TiKV-LSM计算能力-TiDBServer总结TiDB整体架构 TiDB集群主要包括三个核心组件

·2025-01-24 05:24

TiDB分布式数据库架构与核心原理

本文从整体架构、集群设计、

AI天才研究院·2025-01-24 04:21

大数据学习（七）Python3操作livy（使用pylivy模块）

pylivy是Livy的Python客户端，可以在Spark集群上轻松实现远程代码执行。安装$pipinstall-Ulivy请注意，pylivy需要Python3.6或更高版本。

猪笨是念来过倒·2025-01-24 04:46

Kubectl常用命令操作

kubectl命令格式：kubectlcommandtypenamecommand:表示子命令，用于操作kubernetes的集群资源对象，如：createdeletedescribegetapplytype

_Eden_·2025-01-24 03:11

Zookeeper（23）Zookeeper的选举机制是什么？

Zookeeper的选举机制是确保在集群中始终有一个唯一的Leader。Leader负责处理所有的写请求和协调事务的提交，而Follower负责处理读请求和转发写请求给Leader。

辞暮尔尔-烟火年年·2025-01-24 02:06

在K8S中，如果后端NFS存储的IP发送变化如何解决？

Dusk_橙子·2025-01-24 01:58

cascading 入门（一）

它抽象了集群拓扑结构和配置来快速开发复杂分布式的应用，而不用考虑背后的MapReduce。

zhumin726·2025-01-24 01:28

滚雪球学Redis[4.1讲]：Redis的高可用性与集群架构

RedisSentinelSentinel的工作原理Sentinel的配置与使用高可用架构下的故障转移3.RedisClusterCluster模式的架构与原理Cluster的配置与使用分片与槽位的管理集群管理中的常见问题与优化小结下期预告前言在上一期内容

bug菌¹·2025-01-23 22:34

GPU 集群和分布式计算

《GPU集群和分布式计算》关键词：GPU集群、分布式计算、CUDA、OpenACC、OpenMP、性能优化、故障处理、案例分析摘要：本文详细探讨了GPU集群和分布式计算的基本概念、架构、编程模型以及应用场景

AI天才研究院·2025-01-23 21:28

360智算中心万卡GPU集群架构分析

360智算中心：万卡GPU集群落地实践 360智算中心是一个融合了人工智能、异构计算、大数据、高性能网络、AI平台等多种技术的综合计算设施，旨在为各类复杂的AI计算任务提供高效

科技互联人生·2025-01-23 21:27

K8S中ingress详解

Ingress介绍Kubernetes集群中，服务（Service）是一种抽象，它定义了一种访问Pod的方式，无论这些Pod如何变化，服务都保持不变。

元气满满的热码式·2025-01-23 21:27

Linux 时间同步服务

时间同步:多主机协作工作时，各个主机的时间同步很重要，时间不一致会造成很多重要应用的故障，如:加密协议，日志，集群等，利用NTP(NetworkTimeProtocol)协议使网络中的各个计算机时间达到同步

不想起昵称929·2025-01-23 20:50

HAProxy集群与常见的Web集群软件调度器对比

一、Web集群调度器1.常见的Web集群调度器常用的Web集群调度器分为软件和硬件,负载均衡性能（硬件负载均衡器F5>LVS>Haproxy>Nginx）软件调度器（开源）1.LVS：性能最好，搭建复杂

EsDeath_99·2025-01-23 18:09

【YashanDB知识库】YCM数据库托管遇到的问题

templateId=171...YCM托管了集群，现在显示数据库处于故障状态，按照告警项建议检查实例的状态是正常运行的问题现象：查看dba\_users视图发现yasom用户不存在。

·2025-01-23 18:55

虚拟机VMware Workstation Pro安装集群+hadoop+spark+scala

参考资料：参考视频教程链接：大数据实验虚拟机安装Hadoop和Spark_哔哩哔哩_bilibiliup主：孤独时代的硕硕namenode安装选择镜像、路径、磁盘（最好不要c盘）、内存和处理器编辑名称与位置可点击此处自定义硬盘进行设置。选择语言、时区、软件、位置和网络

落枫兮·2025-01-23 15:16

K8s架构与组件

这些对集群做出全局决策(比如调度)，以及检测和响应集群事件的组件集合也称为控制平面。其实K8s官方并没有Master这一说，只是大多数安装工具（kube

稚辉君.MCA_P8_Java·2025-01-23 10:10

Hadoop分布式文件系统-HDFS架构

二、HDFS的特点高容错性：一个HDFS集群会包含非常多的结点，HDFS将文件分块存储，并且会保存多个副本到不同的机器节点上以保证数据的安全，而且

Fancs2024·2025-01-23 09:37

分布式系统架构：分布式缓存

分布式缓存也是面试常见的问题，通常面试官会问为什么要用缓存，以及用的Redis是哪种模式，用的过程中遇到哪些问题这些1.AP还是CPRedis集群就是典型的AP式，它具有高性能、高可用等特点，但它却并不保证强一致性

工业甲酰苯胺·2025-01-23 06:42

Flink系列-2、Flink架构体系

https://flink.apache.org/学习资料：https://flink-learning.org.cn/目录Flink中的重要角⾊Flink数据流编程模型Libraries支持Flink集群搭建

技术武器库·2025-01-23 04:55

推荐频道