扩容集群第15页

Hive之数据迁移方案(实测)

文章目录Hive的迁移涉及两个技术点：1.仅迁移元数据2.元数据及Hive数据全量迁移2.1全表迁移2.1.1旧集群2.1.2新集群2.2仅部分分区迁移（主要步骤）2.1.1旧集群2.1.2新集群2.3beeline

南风知我意丿·2025-01-25 06:11

16 分布式session和无状态的会话

如果以集群的方式部署，用户登录的session存储在该次登录的服务器节点上，如果下次访问服务端的请求落到其他节点上就需要重新生成session，这样用户需要频繁的登录。

40岁的系统架构师·2025-01-25 06:09

openresty+lua+kafka 日志采集

根据业务把不同的日志发送到不同主题中数据实时性高性能保证方案一自己写个接收程序转发到kafka方案二采用nginx+lua方案采用方案二，原因是nginx高性能，编写代码少，维护少，满足业务场景实施步骤线上请求到nginx后，使用lua组装json格式日志，异步发送到kafka集群根据不同业务日志

CHENYANG123·2025-01-25 03:50

redis+spring面试题

redis使用场景缓存热点数据分布式锁存储token存储短信验证码计数器全局唯一数排行榜限流购物车关注粉丝缓存失效缓存穿透缓存空结果布龙过滤器缓存击穿全局锁设置永不过期缓存雪崩设置高可用集群设置不同的过期时间本地二级缓存

·2025-01-25 01:51

Linux扩容根分区

Linux扩容根分区（LVM逻辑分区模式），其他分区类似操作前提：保证系统分区是逻辑卷分区（LVM），非标准模式分区查看系统分区情况fdisk-l，磁盘/dev/sdb是新增加且未使用的分区[root@

一位不愿透露昵称的网民·2025-01-25 01:34

linux扩容 dev sdb1,Linux-磁盘动态扩容-使用

一、前期准备工作1、备份工作就算是动态无损的扩容，也难免会出什么意外，备份是必不可少的，一般云平台都有备份功能，可直接对磁盘做一次全量备份，也可以直接备份到其它服务器或者本地2、查看挂载点➜df-hFilesystemSizeUsedAvailCapacityiusedifree

米妮呀·2025-01-25 01:04

linux 扩容

tmpfstmpfs82M082M0%/run/user/1002tmpfstmpfs82M082M0%/run/user/0[输入命令]#fdisk-luDisk/dev/vda:40GiB,42949672960bytes,83886080sectorsUnits:sectorsof1*512=512bytesSectorsize(logical/physical):512bytes/512b

未来之窗软件服务·2025-01-25 00:25

2024 年最新基于 Spring Cloud 的微服务架构分析

如果Eureka以集群模式部署，当集群中有分片出现故障时，那

2401_83916326·2025-01-24 17:02

如何部署 Flask 应用程序到生产环境？

部署方式适用场景说明Gunicorn+Nginx适合中小型项目轻量级，性能稳定uWSGI+Nginx高性能并发、生产环境推荐生产级别，支持异步工作Docker+Kubernetes容器化部署，微服务架构适合大规模微服务集群

Channing Lewis·2025-01-24 15:15

CDH日志清理

备注:CDH版本:6.3.1背景CDH集群运行了2个多月了，根目录磁盘使用率接近80%了，需要清理CDH日志。一.查看问题CDH的日志文件一般在如下几个目录，可以通过如下代码进行查看。

只是甲·2025-01-24 14:13

TiDB架构分析以及总结

1TiDB1.1产品简介TiDB是PingCAP公司的自主设计、研发开源的分布式开源数据库，是一款支持在线处理与在线分析处理的融合性分布式数据库产品，具备水平扩容，金融级高可用、实时HTAP、云原生的分布式数据库

微亻言·2025-01-24 13:35

Spark运行模式及Spark on Yarn两种运行模式的区别

Spark运行模式1.Standalone模式描述：Standalone模式是Spark的独立集群模式，Spark自己管理资源和调度任务。适合小型集群或个人开发环境。特点：简单易用，适合开发和测试。

DataCrafter·2025-01-24 13:03

Kubernetes入门

Kubernetes的工作原理Kubernetes通过将应用打包到容器中，并在集群中运行这些容器来实现应用的部署和管理。容器是轻量级的、可移植的、自包含的软

I~Lucky·2025-01-24 13:01

【大数据入门核心技术-Hive】（十六）hive表加载csv格式数据或者json格式数据

一、环境准备hive安装部署参考：【大数据入门核心技术-Hive】（三）Hive3.1.2非高可用集群搭建【大数据入门核心技术-Hive】（四）Hive3.1.2高可用集群搭建二、hive加载Json格式数据

forest_long·2025-01-24 12:27

Kubernetes网络

Kubernetes网络Kubernetes网络模型相关概念链接Kubernetes网络模型Kubernetes网络模型由多个关键部分构建而成：在Kubernetes集群中，每个Pod都会被分配一个独一无二的

qichengzong_right·2025-01-24 10:43

y98.第六章微服务、服务网格及Envoy实战 -- 集群管理(九)

8.集群管理8.0本节话题集群管理器与服务发现机制主动健康状态检测与异常点探测负载均衡策略分布式负载均衡负载均衡算法：加权轮询、加权最少连接、环哈希、磁悬浮和随机等；区域感知路由全局负载均衡位置优先级位置权重均衡器子集熔断和连接池

Raymond运维·2025-01-24 08:53

ArrayList 和 Vector扩容机制

ArrayList扩容：newArrayList()以后，size为0，第一次add后size为10，当数组满后，以当前数组容量的1.5倍进行扩容。

wkzzzzzzzzz·2025-01-24 05:54

TiDB架构特性

TiDBServerPDServerTiKVServerTiSparkTiDBOperatorTiDB核心特性水平扩展高可用TiDB存储和计算能力存储能力-TiKV-LSM计算能力-TiDBServer总结TiDB整体架构 TiDB集群主要包括三个核心组件

·2025-01-24 05:24

TiDB分布式数据库架构与核心原理

本文从整体架构、集群设计、

AI天才研究院·2025-01-24 04:21

大数据学习（七）Python3操作livy（使用pylivy模块）

pylivy是Livy的Python客户端，可以在Spark集群上轻松实现远程代码执行。安装$pipinstall-Ulivy请注意，pylivy需要Python3.6或更高版本。

猪笨是念来过倒·2025-01-24 04:46

Vector的扩容过程是怎样的

Vector的扩容过程在C++中是一个动态调整内存空间以容纳更多元素的过程。这一过程主要发生在向Vector中添加元素时，如果当前Vector的容量不足以容纳新元素，就会触发扩容操作。

codedadi·2025-01-24 04:14

Kubectl常用命令操作

kubectl命令格式：kubectlcommandtypenamecommand:表示子命令，用于操作kubernetes的集群资源对象，如：createdeletedescribegetapplytype

_Eden_·2025-01-24 03:11

Zookeeper（23）Zookeeper的选举机制是什么？

Zookeeper的选举机制是确保在集群中始终有一个唯一的Leader。Leader负责处理所有的写请求和协调事务的提交，而Follower负责处理读请求和转发写请求给Leader。

辞暮尔尔-烟火年年·2025-01-24 02:06

在K8S中，如果后端NFS存储的IP发送变化如何解决？

Dusk_橙子·2025-01-24 01:58

cascading 入门（一）

它抽象了集群拓扑结构和配置来快速开发复杂分布式的应用，而不用考虑背后的MapReduce。

zhumin726·2025-01-24 01:28

滚雪球学Redis[4.1讲]：Redis的高可用性与集群架构

RedisSentinelSentinel的工作原理Sentinel的配置与使用高可用架构下的故障转移3.RedisClusterCluster模式的架构与原理Cluster的配置与使用分片与槽位的管理集群管理中的常见问题与优化小结下期预告前言在上一期内容

bug菌¹·2025-01-23 22:34

GPU 集群和分布式计算

《GPU集群和分布式计算》关键词：GPU集群、分布式计算、CUDA、OpenACC、OpenMP、性能优化、故障处理、案例分析摘要：本文详细探讨了GPU集群和分布式计算的基本概念、架构、编程模型以及应用场景

AI天才研究院·2025-01-23 21:28

360智算中心万卡GPU集群架构分析

360智算中心：万卡GPU集群落地实践 360智算中心是一个融合了人工智能、异构计算、大数据、高性能网络、AI平台等多种技术的综合计算设施，旨在为各类复杂的AI计算任务提供高效

科技互联人生·2025-01-23 21:27

K8S中ingress详解

Ingress介绍Kubernetes集群中，服务（Service）是一种抽象，它定义了一种访问Pod的方式，无论这些Pod如何变化，服务都保持不变。

元气满满的热码式·2025-01-23 21:27

Linux 时间同步服务

时间同步:多主机协作工作时，各个主机的时间同步很重要，时间不一致会造成很多重要应用的故障，如:加密协议，日志，集群等，利用NTP(NetworkTimeProtocol)协议使网络中的各个计算机时间达到同步

不想起昵称929·2025-01-23 20:50

代码工艺：高并发解决方案介绍

扩容方案：横向扩展“横向扩展”就是增加更多的服务器来解决性能瓶颈问题。例如，如果应用服务器是瓶颈，就添加更多应用服务器；如果数据库服务器是瓶颈，就添加更多的从库。

rongqing2019·2025-01-23 18:10

HAProxy集群与常见的Web集群软件调度器对比

一、Web集群调度器1.常见的Web集群调度器常用的Web集群调度器分为软件和硬件,负载均衡性能（硬件负载均衡器F5>LVS>Haproxy>Nginx）软件调度器（开源）1.LVS：性能最好，搭建复杂

EsDeath_99·2025-01-23 18:09

【YashanDB知识库】YCM数据库托管遇到的问题

templateId=171...YCM托管了集群，现在显示数据库处于故障状态，按照告警项建议检查实例的状态是正常运行的问题现象：查看dba\_users视图发现yasom用户不存在。

·2025-01-23 18:55

deepin 下如何实现一个文件即可读写又可只读

问题背景在实际工作中，我们可能会遇到以下场景：应用程序的存储目录空间不足，但无法直接扩容。需要为开发人员提供配置文件的只读权限，同时保留原有文件

·2025-01-23 17:18

虚拟机VMware Workstation Pro安装集群+hadoop+spark+scala

参考资料：参考视频教程链接：大数据实验虚拟机安装Hadoop和Spark_哔哩哔哩_bilibiliup主：孤独时代的硕硕namenode安装选择镜像、路径、磁盘（最好不要c盘）、内存和处理器编辑名称与位置可点击此处自定义硬盘进行设置。选择语言、时区、软件、位置和网络

落枫兮·2025-01-23 15:16

【YashanDB知识库】备库扩缩容指导

templateId=171...扩容Step1：生成配置文件$yasbootconfignodegen-cyashandb-uyashan-ppassword--ipip1,ip2...ipn--port22

·2025-01-23 13:36

2025 年夸克网盘免费扩容1TB空间指引，超详细教程（建议收藏）

2025年夸克网盘免费扩容1TB空间指引（保姆级教程）哈喽大家好，这里是专注于挖掘各种实用福利的小助手！你有没有遇到过这样的烦恼——网盘存储空间不够用，想存的电影、照片、文件全都放不下？

chusheng1840·2025-01-23 13:01

redis 布隆过滤器 BloomFilter

1.1工作原理1.2布隆过滤器的优点1.3缺点2、布隆过滤器的使用场景3、布隆过滤器的原理3.1布隆过滤器的数据结构3.2初始化阶3.3插入元素过程3.4查询元素是否存在3.5元素删除3.6扩容4、SpringBoot

稚辉君.MCA_P8_Java·2025-01-23 10:40

K8s架构与组件

这些对集群做出全局决策(比如调度)，以及检测和响应集群事件的组件集合也称为控制平面。其实K8s官方并没有Master这一说，只是大多数安装工具（kube

稚辉君.MCA_P8_Java·2025-01-23 10:10

Hadoop分布式文件系统-HDFS架构

二、HDFS的特点高容错性：一个HDFS集群会包含非常多的结点，HDFS将文件分块存储，并且会保存多个副本到不同的机器节点上以保证数据的安全，而且

Fancs2024·2025-01-23 09:37

分布式系统架构：分布式缓存

分布式缓存也是面试常见的问题，通常面试官会问为什么要用缓存，以及用的Redis是哪种模式，用的过程中遇到哪些问题这些1.AP还是CPRedis集群就是典型的AP式，它具有高性能、高可用等特点，但它却并不保证强一致性

工业甲酰苯胺·2025-01-23 06:42

Flink系列-2、Flink架构体系

https://flink.apache.org/学习资料：https://flink-learning.org.cn/目录Flink中的重要角⾊Flink数据流编程模型Libraries支持Flink集群搭建

技术武器库·2025-01-23 04:55

基于MRS-Hudi构建数据湖的典型应用场景介绍

一、传统数据湖存在的问题与挑战传统数据湖解决方案中，常用Hive来构建T+1级别的数据仓库，通过HDFS存储实现海量数据的存储与水平扩容，通过Hive实现元数据的管理以及数据操作的SQL化。

华为云技术精粹·2025-01-23 04:50

重建大师倾斜高斯泼溅技术（OPGS）重建出来的模型是什么格式？

重建大师是一款专为超大规模实景三维数据生产设计的集群并行处理软件，支持卫星影像、航空影像、倾斜影像和激光点云多源数据输入建模，可完成超大规模数据的空三解算、自动三维建模，输出高精度彩色网格模型。

大势智慧·2025-01-23 04:19

Redis四种模式在Spring Boot框架下的配置

在SpringBoot框架下配置Redis的四种模式（单机模式、主从模式、哨兵模式、集群模式）可以通过以下方式实现：1.单机模式在application.properties或application.yml

silver687·2025-01-23 03:10

Zookeeper（22）Zookeeper的Leader、Follower和Observer角色分别是什么？

集群中的每个节点都有一个特定的角色：Leader、Follower和Observer。以下是对这些角色的详细介绍和代码示例。

辞暮尔尔-烟火年年·2025-01-23 03:40

详细分析 CentOS 磁盘扩容的配置：理论与实战（图文超全）

.配置LVM（逻辑卷管理器）4.扩展文件系统前言找工作，来万码优才：#小程序://万码优才/r6rqmzDaXpYkJZF随着业务的增长，CentOS系统根目录（/）的磁盘空间可能不足，需要对磁盘进行扩容扩容流程包括物理层

码农研究僧·2025-01-23 02:01

《Kubernetes部署篇：基于麒麟V10+ARM64架构部署harbor v2.4.0镜像仓库》

东城绝神·2025-01-23 01:21

Kafka 迁移 AutoMQ 时 Flink 位点管理的挑战与解决方案

本文重点介绍了当用户需要将生产Kafka集群迁移到AutoMQ时，如何处理好Flink的位点来确保整体迁移的平滑过渡。引言在云

AutoMQ·2025-01-22 23:06

大型游戏服务器架构该怎么设计？

这类程序如果需要多个协作来提高承载能力，则还要关注部署和扩容的便利性；同时，还需要考虑如何实现某种程度容灾需求。由于多进程协同工作，也带来了开发的复杂度，这也是需要关注的问题。

云网站长小陈·2025-01-22 21:57

推荐频道

扩容集群