集群k8s

Hive之数据迁移方案(实测)

文章目录Hive的迁移涉及两个技术点：1.仅迁移元数据2.元数据及Hive数据全量迁移2.1全表迁移2.1.1旧集群2.1.2新集群2.2仅部分分区迁移（主要步骤）2.1.1旧集群2.1.2新集群2.3beeline

南风知我意丿·2025-01-25 06:11

16 分布式session和无状态的会话

如果以集群的方式部署，用户登录的session存储在该次登录的服务器节点上，如果下次访问服务端的请求落到其他节点上就需要重新生成session，这样用户需要频繁的登录。

40岁的系统架构师·2025-01-25 06:09

Docker多架构镜像构建踩坑记

背景公司为了做信创项目的亮点，需要将现有的一套在X86上运行的应用系统迁移到ARM服务器上运行，整个项目通过后端Java，前端VUEJS开发通过CICD做成Docker镜像在K8S里面运行。

一直学下去·2025-01-25 04:55

openresty+lua+kafka 日志采集

根据业务把不同的日志发送到不同主题中数据实时性高性能保证方案一自己写个接收程序转发到kafka方案二采用nginx+lua方案采用方案二，原因是nginx高性能，编写代码少，维护少，满足业务场景实施步骤线上请求到nginx后，使用lua组装json格式日志，异步发送到kafka集群根据不同业务日志

CHENYANG123·2025-01-25 03:50

redis+spring面试题

redis使用场景缓存热点数据分布式锁存储token存储短信验证码计数器全局唯一数排行榜限流购物车关注粉丝缓存失效缓存穿透缓存空结果布龙过滤器缓存击穿全局锁设置永不过期缓存雪崩设置高可用集群设置不同的过期时间本地二级缓存

·2025-01-25 01:51

2024 年最新基于 Spring Cloud 的微服务架构分析

如果Eureka以集群模式部署，当集群中有分片出现故障时，那

2401_83916326·2025-01-24 17:02

如何部署 Flask 应用程序到生产环境？

部署方式适用场景说明Gunicorn+Nginx适合中小型项目轻量级，性能稳定uWSGI+Nginx高性能并发、生产环境推荐生产级别，支持异步工作Docker+Kubernetes容器化部署，微服务架构适合大规模微服务集群

Channing Lewis·2025-01-24 15:15

CDH日志清理

备注:CDH版本:6.3.1背景CDH集群运行了2个多月了，根目录磁盘使用率接近80%了，需要清理CDH日志。一.查看问题CDH的日志文件一般在如下几个目录，可以通过如下代码进行查看。

只是甲·2025-01-24 14:13

Spark运行模式及Spark on Yarn两种运行模式的区别

Spark运行模式1.Standalone模式描述：Standalone模式是Spark的独立集群模式，Spark自己管理资源和调度任务。适合小型集群或个人开发环境。特点：简单易用，适合开发和测试。

DataCrafter·2025-01-24 13:03

Kubernetes入门

Kubernetes（简称K8s）是一个开源的容器编排平台，主要用于自动化应用的部署、扩展和管理。

I~Lucky·2025-01-24 13:01

【大数据入门核心技术-Hive】（十六）hive表加载csv格式数据或者json格式数据

一、环境准备hive安装部署参考：【大数据入门核心技术-Hive】（三）Hive3.1.2非高可用集群搭建【大数据入门核心技术-Hive】（四）Hive3.1.2高可用集群搭建二、hive加载Json格式数据

forest_long·2025-01-24 12:27

Kubernetes网络

Kubernetes网络Kubernetes网络模型相关概念链接Kubernetes网络模型Kubernetes网络模型由多个关键部分构建而成：在Kubernetes集群中，每个Pod都会被分配一个独一无二的

qichengzong_right·2025-01-24 10:43

在KubeFATE中定制化部署联邦学习组件的深入分析

亨利笔记·2025-01-24 10:42

y98.第六章微服务、服务网格及Envoy实战 -- 集群管理(九)

8.集群管理8.0本节话题集群管理器与服务发现机制主动健康状态检测与异常点探测负载均衡策略分布式负载均衡负载均衡算法：加权轮询、加权最少连接、环哈希、磁悬浮和随机等；区域感知路由全局负载均衡位置优先级位置权重均衡器子集熔断和连接池

Raymond运维·2025-01-24 08:53

kubectl命令

kubernetes基本概念Pod:k8s最小部署单元，一组容器的集合Deployment:最常见的控制器，用于更高级别部署和管理PodService:为一组Pod提供负载均衡，对外提供统一访问入口Label

minyao922·2025-01-24 06:04

TiDB架构特性

TiDBServerPDServerTiKVServerTiSparkTiDBOperatorTiDB核心特性水平扩展高可用TiDB存储和计算能力存储能力-TiKV-LSM计算能力-TiDBServer总结TiDB整体架构 TiDB集群主要包括三个核心组件

·2025-01-24 05:24

TiDB分布式数据库架构与核心原理

本文从整体架构、集群设计、

AI天才研究院·2025-01-24 04:21

大数据学习（七）Python3操作livy（使用pylivy模块）

pylivy是Livy的Python客户端，可以在Spark集群上轻松实现远程代码执行。安装$pipinstall-Ulivy请注意，pylivy需要Python3.6或更高版本。

猪笨是念来过倒·2025-01-24 04:46

Kubectl常用命令操作

kubectl命令格式：kubectlcommandtypenamecommand:表示子命令，用于操作kubernetes的集群资源对象，如：createdeletedescribegetapplytype

_Eden_·2025-01-24 03:11

k8s 安装nfs_k8s共享存储之nfs

特别说明：测试使用，不建议生产环境1、在master节点配置(node1)1)yum安装nfs#yum-yinstallnfs-utilsNFS的关键工具包括：主要配置文件：/etc/exports；NFS文件系统维护命令：/usr/bin/exportfs；共享资源的日志文件：/var/lib/nfs/*tab；客户端查询共享资源命令：/usr/sbin/showmount；端口配置：/etc/

weixin_39941732·2025-01-24 03:38

k8s中使用MySQL共享存储_k8s使用NFS做动态存储做mysql容器主从同步

k8s里面存储一直是比较难搞得，之前做的静态存储，写这篇文档记录一下动态存储创建的过程。

罗-Moline·2025-01-24 02:07

在K8S中，如何使用EFK实现日志的统一管理？

在Kubernetes中，EFK是一种常见的日志统一管理方案。EFK堆栈允许你收集、存储、搜素、分析和可视化容器应用程序的日志。下面是如何在Kubernetes中使用EFK实现日志统一管理的详细步骤：部署Elasticsearchelasticsearch是一个分布式、RESTful风格的搜索和分析引擎，能够解决越来越多用例的查询语言，它通常用于日志和事件数据分析。首先，你需要再kubernete

Dusk_橙子·2025-01-24 02:06

Zookeeper（23）Zookeeper的选举机制是什么？

Zookeeper的选举机制是确保在集群中始终有一个唯一的Leader。Leader负责处理所有的写请求和协调事务的提交，而Follower负责处理读请求和转发写请求给Leader。

辞暮尔尔-烟火年年·2025-01-24 02:06

配置管理工具和k8s功能重叠部分的优势比较

Kubernetes（K8s）在这些方面具有哪些独特的优势呢，尤其是在云原生环境和大规模分布式系统中。

大囚长·2025-01-24 01:30

在K8S中，如果后端NFS存储的IP发送变化如何解决？

存储的IP地址发生了变化，您需要更新与之相关的PeristentVolume(PV)或PersistentVolumeClaim(PVC)以及StorageClass中关于NFS服务器IP的配置信息，确保K8S

Dusk_橙子·2025-01-24 01:58

cascading 入门（一）

它抽象了集群拓扑结构和配置来快速开发复杂分布式的应用，而不用考虑背后的MapReduce。

zhumin726·2025-01-24 01:28

滚雪球学Redis[4.1讲]：Redis的高可用性与集群架构

RedisSentinelSentinel的工作原理Sentinel的配置与使用高可用架构下的故障转移3.RedisClusterCluster模式的架构与原理Cluster的配置与使用分片与槽位的管理集群管理中的常见问题与优化小结下期预告前言在上一期内容

bug菌¹·2025-01-23 22:34

GPU 集群和分布式计算

《GPU集群和分布式计算》关键词：GPU集群、分布式计算、CUDA、OpenACC、OpenMP、性能优化、故障处理、案例分析摘要：本文详细探讨了GPU集群和分布式计算的基本概念、架构、编程模型以及应用场景

AI天才研究院·2025-01-23 21:28

360智算中心万卡GPU集群架构分析

360智算中心：万卡GPU集群落地实践 360智算中心是一个融合了人工智能、异构计算、大数据、高性能网络、AI平台等多种技术的综合计算设施，旨在为各类复杂的AI计算任务提供高效

科技互联人生·2025-01-23 21:27

K8S中ingress详解

Ingress介绍Kubernetes集群中，服务（Service）是一种抽象，它定义了一种访问Pod的方式，无论这些Pod如何变化，服务都保持不变。

元气满满的热码式·2025-01-23 21:27

Linux 时间同步服务

时间同步:多主机协作工作时，各个主机的时间同步很重要，时间不一致会造成很多重要应用的故障，如:加密协议，日志，集群等，利用NTP(NetworkTimeProtocol)协议使网络中的各个计算机时间达到同步

不想起昵称929·2025-01-23 20:50

HAProxy集群与常见的Web集群软件调度器对比

一、Web集群调度器1.常见的Web集群调度器常用的Web集群调度器分为软件和硬件,负载均衡性能（硬件负载均衡器F5>LVS>Haproxy>Nginx）软件调度器（开源）1.LVS：性能最好，搭建复杂

EsDeath_99·2025-01-23 18:09

【YashanDB知识库】YCM数据库托管遇到的问题

templateId=171...YCM托管了集群，现在显示数据库处于故障状态，按照告警项建议检查实例的状态是正常运行的问题现象：查看dba\_users视图发现yasom用户不存在。

·2025-01-23 18:55

【云原生技术】k8s是不是不能处理0.1core的CUP配置，必须配置成100mi？

CPU的资源请求和限制特定的表示方式CPU配置的单位配置要求示例在Kubernetes中，CPU的资源请求和限制确实有特定的表示方式。关于你提到的0.1core和100m这两个值，以下是详细的解释：CPU配置的单位KubernetesCPU单位：Kubernetes使用milliCPU（毫核）作为CPU的计量单位。1核CPU=1000milliCPU(m)。例如，0.1核实际上表示为100m（10

阿寻寻·2025-01-23 18:35

【云原生技术】K8S更新策略有哪些方式，每种方式的可选必填字段有哪些，详细举例说明

更新策略有哪些方式一、更新策略详细举例1.**RollingUpdate（滚动更新）**说明：必填字段：可选字段：示例：2.**Recreate（重建）**说明：必填字段：可选字段：示例：3.**OnDelete（手动更新）**说明：必填字段：可选字段：示例：总结详细示例小结二、Recreate不可选minReadySeconds吗？Recreate更新策略与minReadySeconds示例总结

阿寻寻·2025-01-23 18:35

虚拟机VMware Workstation Pro安装集群+hadoop+spark+scala

参考资料：参考视频教程链接：大数据实验虚拟机安装Hadoop和Spark_哔哩哔哩_bilibiliup主：孤独时代的硕硕namenode安装选择镜像、路径、磁盘（最好不要c盘）、内存和处理器编辑名称与位置可点击此处自定义硬盘进行设置。选择语言、时区、软件、位置和网络

落枫兮·2025-01-23 15:16

K8s架构与组件

一、K8s架构在Master通常上包括kube-apiserver、etcd存储、kube-controller-manager、cloud-controller-manager、kube-scheduler

稚辉君.MCA_P8_Java·2025-01-23 10:10

Hadoop分布式文件系统-HDFS架构

二、HDFS的特点高容错性：一个HDFS集群会包含非常多的结点，HDFS将文件分块存储，并且会保存多个副本到不同的机器节点上以保证数据的安全，而且

Fancs2024·2025-01-23 09:37

分布式系统架构：分布式缓存

分布式缓存也是面试常见的问题，通常面试官会问为什么要用缓存，以及用的Redis是哪种模式，用的过程中遇到哪些问题这些1.AP还是CPRedis集群就是典型的AP式，它具有高性能、高可用等特点，但它却并不保证强一致性

工业甲酰苯胺·2025-01-23 06:42

prometheus监控k8s的metric详解-01（apiserver部分）

文章目录1.apiserveradmission（准入）和audit（审计）1.1准入控制器调用次数1.1.1`apiserver_admission_controller_admission_duration_seconds_count`1.1.2`apiserver_admission_controller_admission_duration_seconds_bucket`1.1.3`api

玄德公笔记·2025-01-23 06:35

Docker 和 Kubernetes

Docker和Kubernetes(K8s)是当前最流行的容器化技术，用于开发、部署和管理应用程序。它们通常一起使用，提供从开发到生产的完整生命周期管理，特别是在微服务架构和云原生应用的开发中。

小馋喵知识杂货铺·2025-01-23 05:34

Flink系列-2、Flink架构体系

https://flink.apache.org/学习资料：https://flink-learning.org.cn/目录Flink中的重要角⾊Flink数据流编程模型Libraries支持Flink集群搭建

技术武器库·2025-01-23 04:55

重建大师倾斜高斯泼溅技术（OPGS）重建出来的模型是什么格式？

重建大师是一款专为超大规模实景三维数据生产设计的集群并行处理软件，支持卫星影像、航空影像、倾斜影像和激光点云多源数据输入建模，可完成超大规模数据的空三解算、自动三维建模，输出高精度彩色网格模型。

大势智慧·2025-01-23 04:19

Redis四种模式在Spring Boot框架下的配置

在SpringBoot框架下配置Redis的四种模式（单机模式、主从模式、哨兵模式、集群模式）可以通过以下方式实现：1.单机模式在application.properties或application.yml

silver687·2025-01-23 03:10

Zookeeper（22）Zookeeper的Leader、Follower和Observer角色分别是什么？

集群中的每个节点都有一个特定的角色：Leader、Follower和Observer。以下是对这些角色的详细介绍和代码示例。

辞暮尔尔-烟火年年·2025-01-23 03:40

Kubeadm自动化部署kubernetes 1.29.1

基础环境配置服务器：centos7.720191、规划网络环境：192.168.7.20k8s-master.linux.com2U4G192.168.7.21k8s-node01.linux.com2U8G192.168.7.22k8s-node02

爱喝荔枝味嘉宾·2025-01-23 01:21

《Kubernetes部署篇：基于麒麟V10+ARM64架构部署harbor v2.4.0镜像仓库》

东城绝神·2025-01-23 01:21

K8S中Service详解（二）

Service类型Service的资源清单文件：---kind:Service#资源类型apiVersion:v1#资源版本metadata:#元数据name:service#资源名称namespace:dev#命名空间spec:#描述selector:#标签选择器，用于确定当前service代理哪些podapp:nginxtype:ClusterIP#Service类型，指定service的访问

元气满满的热码式·2025-01-22 23:40

Kafka 迁移 AutoMQ 时 Flink 位点管理的挑战与解决方案

本文重点介绍了当用户需要将生产Kafka集群迁移到AutoMQ时，如何处理好Flink的位点来确保整体迁移的平滑过渡。引言在云

AutoMQ·2025-01-22 23:06

搭建k8s集群

一、准备工作（所有节点）在开始部署之前，我们需要对所有节点进行以下准备工作。1.1、关闭防火墙#关闭防火墙systemctlstopfirewalld#禁止防火墙开机自启systemctldisablefirewalld1.2、关闭SELinux#永久关闭SELinuxsed-i's/enforcing/disabled/'/etc/selinux/config#重启系统使更改生效reboot#临

zhen24·2025-01-22 20:49

推荐频道