E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
presto集群部署
【日志系列】什么是分布式日志系统?
现在,很多应用都是
集群部署
的,一次请求会因为负载均衡而被路由到不同的服务器上面,这就导致一个应用的日志会分散在不同的服务器上面。
昕宝爸爸爱编程
·
2023-12-29 03:12
#
日志
分布式
java
日志
kafka
Java技术栈 —— Redis的雪崩、穿透与击穿
实验的先导条件(Nginx+Jmeter)一、Redis缓存雪崩、缓存穿透、缓存击穿1.1雪崩1.2穿透1.3击穿二、Redis应用场景——高并发2.1单机部署的高并发问题与解决(JVM级别锁)2.2
集群部署
的高并发问题与解决
躬身入世,以生证道
·
2023-12-29 00:44
Java技术栈
java
redis
开发语言
Dbeaver,Hudi,Hive,Spark,
Presto
应用问题及解决措施梳理
近期频繁在mysql源端数据通过底层位Flink的平台进行数据接入至Hudi,过程中出现了一些问题,也通过了其他办法进行解决,现将整个过程的思路进行总结,以供大家共同学习进步。问题1:基于Dbeaver工具,新建的Hudi表无法进行更新(即表结构,新增字段等);解决措施:在Dbeaver中集成spark的包,通过sparkSQL的方式进行Hudi表的新建,解决表无法更新问题。问题2:新建的Hudi
p1i2n3g4
·
2023-12-28 17:31
大数据
hive
spark
hadoop
Presto
(Trino)分布式(物理)执行计划的生成和调度
文章目录1.前言2.物理执行生成(Stage)的生成2.1不同的调度分区策略2.1.1Connector自己提供的分区策略2.1.2
Presto
提供的Partition策略(SystemPartitioningHandle
小昌昌的博客
·
2023-12-28 13:37
presto
大数据架构
实现
分布式
Presto
Trino
物理执行计划
调度
MapReduuce配置&YARN
集群部署
并启动(非常详细!!)
博主syst1m带你acquireknowledge!✨博客首页——syst1m的博客《CTF专栏》超级详细的解析,宝宝级教学让你从蹒跚学步到健步如飞《大数据专栏》大数据从0到秃头,从分析到决策,无所不能❕《python面向对象(人狗大战)》突破百万的阅读量,上过各种各样的官方大型专栏,python面向对象必学之一!希望本文能够给读者带来帮助,更好地理解这个问题或解决你的困惑1.部署集群概述1.1
syst1m'
·
2023-12-28 13:29
大数据
yarn
hadoop
探究
Presto
SQL引擎(1)-巧用Antlr
从Hadoop生态的Hive,Spark,
Presto
,Kylin,Druid到非Hadoop生态的Clic
vivo互联网技术
·
2023-12-28 12:14
「Kafka」入门篇
「Kafka」入门篇基础架构Kafka快速入门集群规划
集群部署
官方下载地址:http://kafka.apache.org/downloads.html解压安装包:[atguigu@hadoop102software
小成同学_
·
2023-12-28 12:30
Kafka
kafka
中间件
分布式
后端
《千峰逆战“记录蜕变、见证奇迹”学习分享活动》2020-03-21
#千峰逆战班,SZ201刘峻#在千峰“逆战”学习第41天今天对昨天的mycat进行了回顾,初步了解mysql-galera
集群部署
。有时候要到达谷底,才会慢慢变好。
Mask_o
·
2023-12-28 11:56
quartz-深度解析
5.
集群部署
如何保证不重跑、不漏跑?
黑小飞
·
2023-12-28 08:03
SpringBoot集成组件
数据结构
b树
java
quartz
【分布式任务调度】(一)XXL-JOB调度中心
集群部署
配置
文章目录1.概述2.代码编译2.1.代码下载2.2.初始化与编译3.
集群部署
3.1.服务启动3.2.反向代理4.总结1.概述XXL-JOB是一款轻量级的分布式任务调度中间件,默认支持6000个定时任务,
挥之以墨
·
2023-12-28 08:19
框架与中间件
#
XXL-JOB
分布式
spring
boot
XXL-JOB
springboot整合webSocket:鉴权,心跳检测,wss请求,nginx配置、
集群部署
1.首先pom引入websocketorg.springframework.bootspring-boot-starter-websocketSpringBoot和WebSocket是没有token鉴权的,需要自己定义实现WebSocket建立连接时的鉴权,websocket的实现方式就和一般博客看到的不一样了,本文自定义websocket配置:WebSocketConfigimplementsW
乘风!
·
2023-12-28 08:10
java
spring
boot
websocket
后端
K8S二进制部署之定义CA证书与ETCD
制作官方颁发的证书:2、制作master端的证书(用于内部加密通讯,同时为了给与Client端颁发master签名的证书)3、制作workernode端证书CA证书机构(签发电子证书)三、K8S二进制
集群部署
啊啊啊啊啊建
·
2023-12-28 02:31
java
kubernetes
开发语言
ArgoCD
一.ArgoCDUI界面还不是很完善,很多依赖于命令行,都是无状态应用argocd多
集群部署
不能在一个Application内选择多个部署集群,只能通过建立多个相同Application对应不同部署目的集群方式支持
MoonSoin
·
2023-12-28 01:58
云原生
k8s
ci/cd
argocd
kubernetes
ci/cd
XXL-JOB任务分片
:单个任务和集群任务单机多任务分片集群分片任务类型单个任务:一个任务实例便可完成单机单任务:单机模式下任何路由模式都只有一个实例执行集群单任务:由路由策略(广播模式除外)选择其中一个实例完成分片任务:
集群部署
牧竹子
·
2023-12-27 22:25
#
分布式任务
java
开发语言
xxl-job
redis缓存雪崩解决方案六种
1.保持缓存层的高可用性使用Redis哨兵模式或者Redis
集群部署
方式,即便个别Redis节点下线,整个缓存层依然可以使用。
jayjay_liu
·
2023-12-27 17:11
redis
缓存
redis
java
【软件系统构架】初步理解软件系统构架
文章目录前言一、动静分离二、CDN加速三、负载均衡四、微服务五、分布式六、读写分离七、分库分表八、
集群部署
九、消息队列十、异步处理前言在以往的学习工作中,接触到很多概念,并且很可能都不知道干嘛,就比如OSI
我辈李想
·
2023-12-27 09:50
Python全家桶
架构
k8s
集群部署
jumpserver v3.3.1(helm)
首先安装了动态存储、动态存储怎么安装,这里不介绍1:mysql安装root@k8s-master1:/usr/local/helm-charts-jumpserver-3.9.2/charts/jumpserver/111#catmysql-pvc.yamlapiVersion:v1kind:PersistentVolumeClaimmetadata:name:mysql-datanamespac
qq_31292011
·
2023-12-27 08:06
kubernetes
redis在linux
集群部署
1.下载rediswgethttp://download.redis.io/releases/redis-3.2.9.tar.gz2.解压redistar-zxvfredis-3.2.9.tar.gz3.安装redis在解压redis目录下makeinstall/usr/soft/redis/4.启动redis在redis的bin目录执行./redis.conf5.设置redis端口密码集群vim
东隅北海
·
2023-12-27 08:53
redis
linux
数据库
Kubernetes(一)
集群部署
一.Kubernetes简介二.Kubernetes设计架构三.Kubernetes环境部署实验环境:准备四台虚拟机第一台为之前布置好的当作仓库使用四台虚拟机记得都添加解析和时间同步所有节点要关闭selinux和防火墙所有节点需配置同步docker引擎和证书所有节点禁用swap,注意注释掉/etc/fstab文件中的定义允许aptables检查桥接流量所有节点打开桥接bridge传输scpdock
BJZX_OL
·
2023-12-27 07:40
kubernetes
容器
云原生
linux
运维
微服务注册与发现——Eureka
文章目录Eureka使用引用配置启动类标记访问微服务注册微服务工程添加引用增加配置启动类增加注解启动服务注册EurekaServer
集群部署
修改配置文件启动多个eureka实例微服务注册到多个eureka
star-1331
·
2023-12-27 07:00
微服务
eureka
架构
简单理解Redis-cluster的slot
如果使用redis-cluster
集群部署
Redis,redis-cluster把所有的物理节点映射到[0-16383]slot上。这里有个理解误区,有初学者会想,这个slot是不是存储数据的点?
小狼在IT
·
2023-12-27 05:27
Flink-1.17
集群部署
1、部署1.1、修改flink-conf.yaml1.1.1、flink-17jobmanager.rpc.address:boshi-122jobmanager.rpc.port:6123#设置jobmanager总内存jobmanager.memory.process.size:2048m#设置taskmanager的运行总内存taskmanager.memory.process.size:4
docsz
·
2023-12-27 03:05
flink
flink
大数据
DolphinScheduler 2.0.5详解
1.3.1Linux操作系统版本要求1.3.2服务器建议配置1.3.3生产环境1.3.4网络要求1.3.5客户端Web浏览器要求第二章DolphinScheduler安装部署2.1安装部署介绍2.2单机版部署2.3
集群部署
大数据东哥(Aidon)
·
2023-12-26 22:05
大数据
任务调度
DS
DolphinSchedule
dolphinschedule
Hadoop
集群部署
在虚拟机中需要的基础文件包1.4关闭防火墙1.5创建Hadoop的账户及文件2模板虚拟机安装JDK3模板虚拟机安装Hadoop4克隆虚拟机5虚拟机配置主机名称映射6集群分发脚本7SSH无密登陆配置8Hadoop集群配置8.1
集群部署
规划
程序员储物箱
·
2023-12-26 12:23
安装教程
hadoop
linux
【Linux系统基础】(6)在Linux上大数据NoSQL数据库HBase
集群部署
、分布式内存计算Spark环境及Flink环境部署详细教程
大数据NoSQL数据库HBase
集群部署
简介HBase是一种分布式、可扩展、支持海量数据存储的NoSQL数据库。和Redis一样,HBase是一款KeyValue型存储的数据库。
老牛源码
·
2023-12-26 06:13
Linux教程
大数据
分布式
linux
nacos - centos7.x环境单机与集群快速部署
参考官网:https://nacos.io/zh-cn/docs/what-is-nacos.html官方
集群部署
手册:https://nacos.io/zh-cn/docs/cluster-mode-quick-start.html
19783793
·
2023-12-25 23:38
linux
运维
服务器
nacos
dubbo
1单一应用架构2应用和数据库单独部署3应用和数据库
集群部署
4数据库压力变大,读写分离5使用缓存技术加快速度6数据库分库分表
赵恩栋
·
2023-12-25 11:06
Kubernetes (K8s)
集群部署
大家好,我是升仔引言Kubernetes(K8s)是当下最流行的容器编排平台,用于自动部署、扩展和管理容器化应用程序。它提供了高度的可扩展性和灵活性,适用于各种规模的部署,从小型测试环境到大型企业级应用。安装步骤环境准备选择适合的硬件至少需要三台服务器(一台Master和两台Worker节点)。每台服务器至少2GB内存,2核CPU,硬盘空间取决于应用需求。安装操作系统推荐使用Ubuntu20.04
程序员升仔
·
2023-12-25 10:37
docker
K8s
kubernetes
容器
云原生
Spark
集群部署
与架构
在大数据时代,处理海量数据需要分布式计算框架。ApacheSpark作为一种强大的大数据处理工具,可以在集群中高效运行,处理数十TB甚至PB级别的数据。本文将介绍如何构建和管理Spark集群,以满足大规模数据处理的需求。Spark集群架构Spark集群的核心组成部分包括Master节点、Worker节点和Driver程序。Master节点Master节点是Spark集群的控制中心,它负责协调和管理
晓之以理的喵~~
·
2023-12-25 08:36
Spark
spark
架构
大数据
94_es生产
集群部署
之从零开始搭建一套4个节点的2核4G虚拟机集群
94_es生产
集群部署
之从零开始搭建一套4个节点的2核4G虚拟机集群这块我们跟大家说一下,一般来说,你即使要围绕es搭建一个集群的话,也建议至少4~5个节点,因为其实不光是es,后面可能还有kibana
小山居
·
2023-12-25 00:57
缓存高可用:缓存如何保证高可用?
前面我们提到了缓存集群的负载均衡策略,保证缓存服务的高可用,集群策略是最常用的,本文我们以Redis为例,分析一下单点缓存如何扩展到集群,以及
集群部署
的几种常见模式。
小小哭包
·
2023-12-24 06:28
Java
软件架构
中间件
缓存
高可用
哨兵
sentinel
集群
主从复制
redis
基于电商场景的高并发RocketMQ实战-NameServer内核原理剖析、Broker 主从架构与集群模式原理分析
基于电商场景的高并发RocketMQ实战Rocket架构分析NameServer内核原理剖析NameServer是可以
集群部署
的,但是集群中的每台NameServer之间不会进行通信,这样的好处就是NameServer
11来了
·
2023-12-24 04:59
RocketMQ
java-rocketmq
rocketmq
架构
zookeeper3.7.1
集群部署
安装
文章目录@[TOC](文章目录)前言一、zookeeper是什么?二、准备步骤1.下载安装包2.配置环境变量3.创建节点id4.修改配置文件5.启动zookeeper服务可看出每个节点所属的角色。![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/05315462411f4157ad6f0bd72b288749.png)总结前言上篇内容关于hadoop集
以茉萱
·
2023-12-24 02:18
zookeeper
【基础知识】大数据组件YARN简述
非HA
集群部署
在EMR的Master节点上,HA
集群部署
在EMR的多个Master节点上,保证了高可用性。NodeManager负责节点的资源管理、
偏振万花筒
·
2023-12-23 22:28
大数据
MINIO在java中的使用
对象存储可以充当主存储层,以处理Spark、
Presto
、TensorFlow、H2O.ai等各种复杂工作负载以及成为HadoopHDFS的替代品--------引自官网的话。
IT小学僧
·
2023-12-23 14:48
MinIo
Java
java
spring
boot
穿越军童铁旅|暑期 军事主题夏令营 如何培养一个真正的男子汉?
——普雷斯顿·吉勒姆(
presto
ngillham)不知道你们有没
开心的大鹏
·
2023-12-23 13:12
1.RocketMQ集群安装
1、
集群部署
概述1.1、RocketMQ部署结构图:image.png各部分说明:(1)Producer:生产者(2)Consumer:消费者(3)NameServer:RockerMQ的注册中心,多个实例组成集群
不断学习的Java码农
·
2023-12-22 22:01
Learning Spark——client mode和cluster mode的区别
#otheroptions\[application-arguments]其中deploy-mode是针对集群而言的,是指
集群部署
的模式,根据Driver主进程放在哪分为两种方式:client和cluster
达微
·
2023-12-22 16:48
ceph
集群部署
报错解决
1.部署initialmonitor[root@mysql1ceph]#ceph-deploymoncreatemysql1mysql2mysql31)报如下错:2)解决方法[root@mysql1ceph]#ceph-deploy--overwrite-confconfigpushmysql1mysql2mysql3(mysql1、mysql2、mysql3为主机名)再次执行[root@mysq
XBLYL1992
·
2023-12-22 11:59
ceph集群
集群搭建
Linux报错解决
ceph
运维
服务器
linux
centos
Linux下k8s
集群部署
关闭selinux和防火墙systemctlstopfirewalldsystemctldisablefirewalld关闭selinuxsed-i's/enforcing/disabled/'/etc/selinux/config#重启后生效关闭swapoff-ased-i's/.*swap.*/#&/'/etc/fstab加载内核模块:cat/etc/sysctl.d/kubernetes.c
云计算1028
·
2023-12-22 11:13
linux
k8s
jekyll 博客引擎介绍,常见博客引擎 jekyll/hugo/Hexo/Pelican/Gatsby/VuePress/Nuxt.js/Middleman 对比
它使用Ruby编程语言,是由GitHub的创始人之一Tom
Presto
n-Werner创建的。Jekyll的设计理念是将文本内容与样式分离,以便更好地管理和维护网站。
老马啸西风
·
2023-12-22 10:10
javascript
开发语言
ecmascript
zookeeper
集群部署
目录一、ZooKeeper简介二、ZooKeeper的作用2.1配置管理2.2名字服务2.3分布式锁2.4集群管理三、部署环境介绍四、部署步骤4.1下载zookeeper二进制安装包4.1.1选择对应的版本4.1.2选择GettingStarted4.1.3点击Download
步荀仙
·
2023-12-22 09:23
系统管理工具
java-zookeeper
zookeeper
dubbo
Zookeeper3.8.0
集群部署
目录1、环境准备2、部署Zookeeper2.1、修改配置2.2、配置环境变量2.3、启动1、环境准备
集群部署
zookeeper的节点数只能是奇数,在此部署3节点zookeeper集群,节点环境如下:主机名
架构与我
·
2023-12-22 09:21
大数据
linux
java
centos
zookeeper
hadoop
HBase基础知识(二):HBase
集群部署
、HBaseShell操作
1.HBase安装部署1.1Zookeeper正常部署首先保证Zookeeper集群的正常部署,并启动之:创建集群启动脚本:#!/bin/bashcase$1in"start"){foriinhadoop100hadoop101hadoop102doecho----------zookeeper$i启动------------ssh$i"/opt/module/zookeeper-3.4.10/b
依晴无旧
·
2023-12-21 21:48
大数据
python
开发语言
hbase
Kerberos原理安装集成kafka例子
简介Kerbeos认证流程Kerberos安装步骤kerberos简单操作Kafka集成Kerberos例子本地环境java客户端消费测试代码错误记录Kerbeos简介Kerberos可以将认证的密钥在
集群部署
时事先放到可靠的节点上
掌心里的海-Canace
·
2023-12-21 20:54
kerberos
kafka安全
kafka+kerberos
kerberos原理
kerberos安装
Zookeeper集群与kafka
集群部署
搭建
Zookeeper集群与kafka
集群部署
搭建Zookeeper概述Zookeeper定义Zookeeper工作机制Zookeeper特点Zookeeper数据结构Zookeeper应用场景Zookeeper
搬着砖,敲着代码
·
2023-12-21 14:14
kafka
java-zookeeper
zookeeper
MongoDB 5.0 在windows上的单机安装部署
不涉及
集群部署
。本文是基于zip包的解压缩安装,不是exe包。为什么不用exe安装?因为我比较喜欢zip形式的,方便易用!!!1.安装
齐天小胜
·
2023-12-21 06:25
日常操作
mongodb
后端
『互联网架构』软件架构-zookeeper
集群部署
与快速入门(32)
原文链接地址:『互联网架构』软件架构-zookeeper
集群部署
与快速入门(32)目前的公司是使用的阿里内部的dubbo,也就是EDAS,里面用了阿里自己的EDAS服务,如果是使用过dubbo的老铁,应该知道
IT人故事会
·
2023-12-21 05:37
Iceberg (一、
presto
和trino实践——行级更新)
文章目录iceberg介绍环境准备实操crud
presto
操作配置测试结论trino操作介绍配置测试结论iceberg介绍关于iceberg的一些介绍官方有做详细说明https://iceberg.apache.org
yyoc97
·
2023-12-20 23:18
大数据
iceberg
presto
大数据
iceberg
presto
实践
数据湖
SeaweedFS介绍安装
集群部署
总结
什么是SeaweedFSSeaweedFS是一种简单的、高度可扩展的分布式文件系统。SeaweedFS是一个非常优秀的由go语言开发的分布式存储开源项目。它是用来存储文件的系统,并且与使用的语言无关,使得文件储存变得非常方便,它有两个优势:存储数十亿的文件!查看文件速度快!SeaweedFS设计用来有效地存储处理小文件,较大文件可以分块拆分为小文件进行上传。所有文件的元数据不存储在Master节点
编程无霸哥
·
2023-12-20 17:07
上一页
4
5
6
7
8
9
10
11
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他