E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
集群k8s
PingCAP TiDB数据库专员PCTA认证笔记
三层架构:PD(PlacementDriver)负责
集群
元信息管理和调度,TiDB负责sql计算,TiKV负责存储存储引擎1、基于LSM-Tree的RocksDB引擎,比B-Tree写入更快,用空间置换写入延迟
handsomestWei
·
2025-01-26 18:51
数据库
tidb
数据库
xgboost在spark
集群
使用指南
简介XGBoost是一个优化的分布式梯度增强库,具有高效、灵活和可移植性。在梯度增强框架下实现了机器学习算法。XGBoost提供了一种并行树增强(也称为GBDT、GBM),可以快速、准确地解决许多数据科学问题。相同的代码在主要的分布式环境(Hadoop、SGE、MPI)上运行,可以解决数十亿个示例的训练问题。xgb相对于gbt所做的改进:1.2.3.XGBoost可以使用R、python、java
一颗小草333
·
2025-01-26 17:49
算法
mapreduce
spark
数据挖掘
使用GitLab CI/CD部署应用到Kubernetes
集群
的方案
这是一个老生常谈的话题,很多粉丝和读者问我如何部署应用到
K8s
中。其实思路是很清晰的,只是其中又很多点大家可能无法串起来。那么本篇文章就带领大家实践一下如何做CD的方案。
拿我格子衫来
·
2025-01-26 12:39
GitLab
CI/CD
教程
ci/cd
kubernetes
devops
轻松搞定应用产品上架,全面提升部署质量与一致性!
汉得鲲苍基础架构管理平台的核心目标是为企业的异构系统提供简单高效的一站式统一闭环管理能力,包括统一资源(
集群
、主机、存储等)管理、统一应用及部署管理、统一监控管理、统一服务治理,帮助企业实现更快、更好、
·
2025-01-26 12:58
前端paas
微服务(一)
文章目录项目地址一、微服务1.1分析User的DomianVerb和Nouns二、运行docker和
k8s
2.1Docker1.编写dockerfile2.创建dockerimage3.运行docker
山猪打不过家猪
·
2025-01-26 10:22
C#
.net
k8s
-实战——ES
集群
部署
文章目录yaml文件es-pvc.yamles-svc.yamles-cluster-sts.yaml创建elasticsearch
集群
yaml文件es-pvc.yaml通过nfs服务进行新增pv并通过
北城 半夏
·
2025-01-26 06:21
k8s-实战
kubernetes
elasticsearch
java
用 Docker 搭建 Spark
集群
简介Spark是Berkeley开发的分布式计算的框架,相对于Hadoop来说,Spark可以缓存中间结果到内存而提高某些需要迭代的计算场景的效率,目前收到广泛关注。熟悉Hadoop的同学也不必担心,Spark很多设计理念和用法都跟Hadoop保持一致和相似,并且在使用上完全兼容HDFS。但是Spark的安装并不容易,依赖包括Java、Scala、HDFS等。通过使用Docker,可以快速的在本地
yeasy
·
2025-01-26 00:22
Bigdata
Docker
spark
Docker
云计算
集群
分布式计算
rockylinux9.4单master节点
k8s
1.28
集群
部署
kubernetes
集群
部署常见的
k8s
部署方式包括:二进制包、kubeadm工具、云服务提供商、或通过一些开源的工具搭建,例如:sealos、kuboard、Runcher、kubeSphere。
大白菜和MySQL
·
2025-01-25 23:48
k8s
集群
kubernetes
容器
云原生
华为云云原生王者之路集训营(黄金-第五章)
在Kubernetes中,Pod代表的是
集群
上处于运行状态的一组容器。四种负载:无状态工作负载:管理的Pod集合是相互等价的,需要的时候可
※网络笨猪※
·
2025-01-25 23:16
云厂商-公有云
华为云
云原生
Redis
集群
的高可用架构及维护
Redis
集群
作为一款开源内存键值存储数据库,在高性能、易用性等方面都给予了开发者更高的满意度。
AI天才研究院
·
2025-01-25 22:40
Python实战
自然语言处理
人工智能
语言模型
编程实践
开发语言
架构设计
k8s
pod分类、核心组件、网络模型、kubectl常用命令
假如有2个pod,pod有其生命周期,万一pod所在的节点宕机了,那么此pod将应该要在其他的节点上重建,而重建完的pod与原来的pod已经不是同一个pod了,只是两者都是运行的同一个服务而已。且每个容器都有其IP地址,重建的pod中的容器其P地址与之前的pod中容器的IP地址是不一样的,如此一来就会存在一个问题,客户端如何访问这些pod中的容器呢?措施:服务发现:就比如集贸市场的注册摊位和声明地
2501_90243308
·
2025-01-25 16:00
kubernetes
网络
容器
mha mysql 两台机器_MySQL主从复制(8)MHA实现主从高可用
MHA由管理节点(Manager)和数据节点(Node)组成,一套MHAManager可以管理多套MySQL
集群
。
日签君AIUX
·
2025-01-25 16:24
mha
mysql
两台机器
基于MySQL8.0安装部署MHA
集群
(一主两从)
写在前面之前搭建过MySQL5.7版本的MHA
集群
,因为一些需要,现进行MySQL8.0版本的MHA
集群
搭建,搭建步骤基本与5.7版本相似,所以某些测试部分、问题解决、安装包、mha的IP漂移配置文件可以参照我之前写的博文
收买神的欢心
·
2025-01-25 16:53
mysql
数据库
大数据
mysql8 MHA
集群
部署
服务器环境系统主机名IPcentos7.9mha-master192.168.200.41、192.168.200.45(vip)centos7.9mha-slave01192.168.200.42centos7.9mha-slave02192.168.200.43centos7.9mha-monitor192.168.200.40SSH互信mha-master、mha-slave01、mha-s
L白眸
·
2025-01-25 15:52
数据库
mysql
数据库
redis原理
RESP持久化持久化具体实现1.RDB(RedisDataBase)2.AOF(AppendOnlyFile)事务相关命令主从复制拓扑结构同步过程部分复制实时复制哨兵(Sentinel)哨兵选取主节点流程
集群
数据分片主节点宕机
集群
扩容缓存缓存更新缓存预热
小哲会嘿魔法
·
2025-01-25 15:47
redis
数据库
缓存
浅谈 redis
可以
集群
部署,数据在各个机器上都有备份,挂了一台机器,可以从其他机器上找到数据。
集群
带来主从节点机制,一般至少需要3个节点来选举出主节点,也可以指定主节点。主从同步问题,会导致数据不一致。
BigDeng_2014
·
2025-01-25 13:06
工作
redis
数据库
java
kafka内部工作机制
集群
中成员关系kafka使用zookeeper来维护成员信息。
一只叫狗的猫
·
2025-01-25 13:03
#
kafka
python做并行计算_python做并行计算可以吗
python可以做并行计算,下面是相关介绍:一、概览ParallelPython是一个python模块,提供在SMP(具有多个处理器或多核的系统)和
集群
(通过网络连接的计算机)上并行执行python代码的机制
角动量不守恒
·
2025-01-25 13:31
python做并行计算
python并行计算
系统可以直观地与本地或网络的计算节点
集群
进行交互,而不管
集群
的实现方式如何。这种易于交互使用帮助IPython和Python
weixin_30894389
·
2025-01-25 12:00
Zookeeper(26)Zookeeper的ZAB协议是什么?
它的设计目标是确保在任何时候,
集群
中的所有节点都能看到相同的事务更新顺序,从而保证数据的一致性。
辞暮尔尔-烟火年年
·
2025-01-25 12:58
微服务
zookeeper
分布式
云原生
【Kafka:概念、架构与应用】
2.2消费者(Consumer)2.3主题(Topic)2.4分区(Partition)2.5消息偏移量(Offset)2.6消费组(ConsumerGroup)Kafka的架构设计3.1Broker与
集群
三日看尽长安花
·
2025-01-25 12:28
系统架构师
kafka
架构
分布式
Kafka:架构与核心机制
1.Kafka的架构1.1组件概述Kafka的架构由多个组件构成,主要包括以下部分:Broker:Kafka
集群
中的服务器,每个Broker存储一部分消息。
J老熊
·
2025-01-25 11:49
kafka
架构
分布式
面试
系统架构
后端
DigitalOcean Kubernetes现已支持VPC natvie
集群
DigitalOceanKubernetes(DOKS)的VPCnatvie
集群
功能现已正式上线!
DO_Community
·
2025-01-25 09:37
kubernetes
利用Kubespray安装生产环境的
k8s
集群
-排错篇
利用Kubespray安装生产环境的
k8s
集群
-排错Ansible排错Ansible安装后需要加入到PATH,以便能够直接运行。
超级阿飞
·
2025-01-25 08:30
k8s
cluster
kubernetes
docker
容器
k8s
namespace绑定节点
k8s
namespace绑定节点1.apiserver启用准入控制PodNodeSelector2.namespace添加注解scheduler.alpha.kubernetes.io/node-selector3
mumu2lili
·
2025-01-25 08:25
k8s
云计算
kubernetes
java
容器
不同hive
集群
中基于表的数据一致性比对
前阵子博主遇到一个需求,因对hadoop
集群
进行数据迁移,数据迁移完毕后进行两个hive库的数据一致性的比对,不仅对源表数据进行比对,而且要同时使用两个
集群
加工相同数据,对加工后的数据进行数据一致性比对
AA赵师傅
·
2025-01-25 07:19
hadoop数据管理
hive
数据验证
数据迁移
hadoop
Hadoop、Hive、Hbase
集群
间的数据迁移
一、hadoop
集群
间拷贝数据:迁移之前需要把两个
集群
的所有节点都互通/etc/hosts文件(重要,包括各个数据节点)两个
集群
版本不相同hadoopdistcphftp://192.168.57.73
这个操蛋的人生!!!
·
2025-01-25 07:18
Hive之数据迁移方案(实测)
文章目录Hive的迁移涉及两个技术点:1.仅迁移元数据2.元数据及Hive数据全量迁移2.1全表迁移2.1.1旧
集群
2.1.2新
集群
2.2仅部分分区迁移(主要步骤)2.1.1旧
集群
2.1.2新
集群
2.3beeline
南风知我意丿
·
2025-01-25 06:11
Hive
hive
hadoop
hdfs
16 分布式session和无状态的会话
如果以
集群
的方式部署,用户登录的session存储在该次登录的服务器节点上,如果下次访问服务端的请求落到其他节点上就需要重新生成session,这样用户需要频繁的登录。
40岁的系统架构师
·
2025-01-25 06:09
分布式
系统架构
Docker多架构镜像构建踩坑记
背景公司为了做信创项目的亮点,需要将现有的一套在X86上运行的应用系统迁移到ARM服务器上运行,整个项目通过后端Java,前端VUEJS开发通过CICD做成Docker镜像在
K8S
里面运行。
一直学下去
·
2025-01-25 04:55
docker
容器
adm64
arm64
多架构
openresty+lua+kafka 日志采集
根据业务把不同的日志发送到不同主题中数据实时性高性能保证方案一自己写个接收程序转发到kafka方案二采用nginx+lua方案采用方案二,原因是nginx高性能,编写代码少,维护少,满足业务场景实施步骤线上请求到nginx后,使用lua组装json格式日志,异步发送到kafka
集群
根据不同业务日志
CHENYANG123
·
2025-01-25 03:50
大数据
lua
kafka
nginx
redis+spring面试题
redis使用场景缓存热点数据分布式锁存储token存储短信验证码计数器全局唯一数排行榜限流购物车关注粉丝缓存失效缓存穿透缓存空结果布龙过滤器缓存击穿全局锁设置永不过期缓存雪崩设置高可用
集群
设置不同的过期时间本地二级缓存
·
2025-01-25 01:51
javaspringredis
2024 年最新基于 Spring Cloud 的微服务架构分析
如果Eureka以
集群
模式部署,当
集群
中有分片出现故障时,那
2401_83916326
·
2025-01-24 17:02
程序员
架构
spring
cloud
微服务
如何部署 Flask 应用程序到生产环境?
部署方式适用场景说明Gunicorn+Nginx适合中小型项目轻量级,性能稳定uWSGI+Nginx高性能并发、生产环境推荐生产级别,支持异步工作Docker+Kubernetes容器化部署,微服务架构适合大规模微服务
集群
Channing Lewis
·
2025-01-24 15:15
Python
flask
python
后端
CDH日志清理
备注:CDH版本:6.3.1背景CDH
集群
运行了2个多月了,根目录磁盘使用率接近80%了,需要清理CDH日志。一.查看问题CDH的日志文件一般在如下几个目录,可以通过如下代码进行查看。
只是甲
·
2025-01-24 14:13
#
CDH大数据平台
大数据和数据仓库
Cloudera
日志清理
hadoop
Spark运行模式及Spark on Yarn两种运行模式的区别
Spark运行模式1.Standalone模式描述:Standalone模式是Spark的独立
集群
模式,Spark自己管理资源和调度任务。适合小型
集群
或个人开发环境。特点:简单易用,适合开发和测试。
DataCrafter
·
2025-01-24 13:03
Spark
大数据
计算框架
spark
大数据
Kubernetes入门
Kubernetes(简称
K8s
)是一个开源的容器编排平台,主要用于自动化应用的部署、扩展和管理。
I~Lucky
·
2025-01-24 13:01
kubernetes
容器
云原生
【大数据入门核心技术-Hive】(十六)hive表加载csv格式数据或者json格式数据
一、环境准备hive安装部署参考:【大数据入门核心技术-Hive】(三)Hive3.1.2非高可用
集群
搭建【大数据入门核心技术-Hive】(四)Hive3.1.2高可用
集群
搭建二、hive加载Json格式数据
forest_long
·
2025-01-24 12:27
大数据技术入门到21天通关
大数据
hive
hadoop
开发语言
后端
数据仓库
Kubernetes网络
Kubernetes网络Kubernetes网络模型相关概念链接Kubernetes网络模型Kubernetes网络模型由多个关键部分构建而成:在Kubernetes
集群
中,每个Pod都会被分配一个独一无二的
qichengzong_right
·
2025-01-24 10:43
linux
kubernetes
云原生
linux
云原生
kubernetes
在KubeFATE中定制化部署联邦学习组件的深入分析
相关文章在JuypterNotebook中构建联邦学习任务云原生联邦学习平台KubeFATE原理详解用KubeFATE在
K8s
上部署联邦学习FATEv1.5使用D
亨利笔记
·
2025-01-24 10:42
docker
kubernetes
数据库
java
大数据
y98.第六章 微服务、服务网格及Envoy实战 --
集群
管理(九)
8.
集群
管理8.0本节话题
集群
管理器与服务发现机制主动健康状态检测与异常点探测负载均衡策略分布式负载均衡负载均衡算法:加权轮询、加权最少连接、环哈希、磁悬浮和随机等;区域感知路由全局负载均衡位置优先级位置权重均衡器子集熔断和连接池
Raymond运维
·
2025-01-24 08:53
云原生-微服务治理企业实战
(已完结)
microservices
envoy
运维
云计算
云原生
kubectl命令
kubernetes基本概念Pod:
k8s
最小部署单元,一组容器的集合Deployment:最常见的控制器,用于更高级别部署和管理PodService:为一组Pod提供负载均衡,对外提供统一访问入口Label
minyao922
·
2025-01-24 06:04
kubernetes
docker
容器
TiDB架构特性
TiDBServerPDServerTiKVServerTiSparkTiDBOperatorTiDB核心特性水平扩展高可用TiDB存储和计算能力存储能力-TiKV-LSM计算能力-TiDBServer总结TiDB整体架构 TiDB
集群
主要包括三个核心组件
·
2025-01-24 05:24
#
TiDB
TiDB
TiDB分布式数据库架构与核心原理
本文从整体架构、
集群
设计、
AI天才研究院
·
2025-01-24 04:21
Python实战
深度学习实战
自然语言处理
人工智能
语言模型
编程实践
开发语言
架构设计
大数据学习(七)Python3操作livy(使用pylivy模块)
pylivy是Livy的Python客户端,可以在Spark
集群
上轻松实现远程代码执行。安装$pipinstall-Ulivy请注意,pylivy需要Python3.6或更高版本。
猪笨是念来过倒
·
2025-01-24 04:46
大数据
大数据
python
Kubectl常用命令操作
kubectl命令格式:kubectlcommandtypenamecommand:表示子命令,用于操作kubernetes的
集群
资源对象,如:createdeletedescribegetapplytype
_Eden_
·
2025-01-24 03:11
linux
运维
服务器
k8s
安装nfs_
k8s
共享存储之nfs
特别说明:测试使用,不建议生产环境1、在master节点配置(node1)1)yum安装nfs#yum-yinstallnfs-utilsNFS的关键工具包括:主要配置文件:/etc/exports;NFS文件系统维护命令:/usr/bin/exportfs;共享资源的日志文件:/var/lib/nfs/*tab;客户端查询共享资源命令:/usr/sbin/showmount;端口配置:/etc/
weixin_39941732
·
2025-01-24 03:38
k8s
安装nfs
k8s
中使用MySQL共享存储_
k8s
使用NFS做动态存储做mysql容器主从同步
k8s
里面存储一直是比较难搞得,之前做的静态存储,写这篇文档记录一下动态存储创建的过程。
罗-Moline
·
2025-01-24 02:07
k8s中使用MySQL共享存储
在
K8S
中,如何使用EFK实现日志的统一管理?
在Kubernetes中,EFK是一种常见的日志统一管理方案。EFK堆栈允许你收集、存储、搜素、分析和可视化容器应用程序的日志。下面是如何在Kubernetes中使用EFK实现日志统一管理的详细步骤:部署Elasticsearchelasticsearch是一个分布式、RESTful风格的搜索和分析引擎,能够解决越来越多用例的查询语言,它通常用于日志和事件数据分析。首先,你需要再kubernete
Dusk_橙子
·
2025-01-24 02:06
K8S
kubernetes
容器
云原生
Zookeeper(23)Zookeeper的选举机制是什么?
Zookeeper的选举机制是确保在
集群
中始终有一个唯一的Leader。Leader负责处理所有的写请求和协调事务的提交,而Follower负责处理读请求和转发写请求给Leader。
辞暮尔尔-烟火年年
·
2025-01-24 02:06
微服务
zookeeper
分布式
云原生
上一页
9
10
11
12
13
14
15
16
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他