E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
zookeeper调优
Spark_Spark 中 checkpoint 的正确使用方式 以及 与 cache区别
1.Spark性能
调优
:checkPoint的使用https://blog.csdn.net/leen0304/article/details/78718346概述checkpoint的意思就是建立检查点
高达一号
·
2023-09-01 07:22
Spark
Spark_Spark中的几种Shuffle 以及工作原理, 含HashShuffle
shuffle机制和原理分析https://blog.csdn.net/zhanglh046/article/details/783607622.SparkShuffle原理、Shuffle操作问题解决和参数
调优
高达一号
·
2023-09-01 07:52
Spark
分类算法系列③:模型选择与
调优
(Facebook签到位置预测)
目录模型选择与
调优
1、介绍模型选择(ModelSelection):
调优
(HyperparameterTuning):本章重点2、交叉验证介绍为什么需要交叉验证数据处理3、⭐超参数搜索-网格搜索(GridSearch
逐梦苍穹
·
2023-09-01 07:54
人工智能
python
算法
机器学习
人工智能
k近邻算法
facebook
超参数搜索
【mq】如何保证消息可靠性
文章目录mq由哪几部分组成rocketmqkafka为什么需要这几部分nameserver/
zookeeper
可靠性broker可靠性生产者消费者mq由哪几部分组成rocketmqkafka这里先不讨论
盖丽男
·
2023-09-01 06:11
工具
软件工程
中间件
mq
13.108.Spark 优化、Spark优化与hive的区别、SparkSQL启动参数
调优
、四川任务优化实践:执行效率提升50%以上
13.108.Spark优化1.1.25.Spark优化与hive的区别1.1.26.SparkSQL启动参数
调优
1.1.27.四川任务优化实践:执行效率提升50%以上13.108.Spark优化:1.1.25
涂作权的博客
·
2023-09-01 06:24
#
Spark(大数据分析引擎)
大数据
Spark
大数据系列教程之 Kafka基础
消息队列的两种形式1.3Kafka基础架构二、kafka安装部署2.1安装部署2.1.1.jar包下载2.1.2.解压到指定的文件夹下2.1.3.创建两个文件夹以供后续使用2.1.4.修改配置文件(1)修改
zookeeper
.properties
Coder_Boy_
·
2023-09-01 05:45
大数据
kafka
分布式
kafka集群环境搭建
kafka集群环境搭建kafka环境搭建kafka环境搭建准备:-准备
zookeeper
环境(
zookeeper
-3.4.6)-下载kafka安装包:https://archive.apache.org
张燊Jason
·
2023-09-01 05:08
百万架构师重要笔记
kafka
【
zookeeper
】
zookeeper
的shell操作
Zookeeper
的shell操作本章节将分享一些
zookeeper
客服端的一些命令,实验操作有助于理解
zookeeper
的数据结构。
margu_168
·
2023-09-01 05:05
zookeeper
zookeeper
Impala负载均衡方案——
zookeeper
在大数据生态圈中
zookeeper
是一个必不可少的自身具有高可用保证的组件,本文探讨如
教练_我要踢球
·
2023-09-01 04:37
OLAP
大数据
impala
大数据
负载均衡
zookeeper
impala
大数据学习:Hive企业级
调优
Hive企业级
调优
1.Hive表的数据压缩1.1数据的压缩说明压缩模式评价可使用以下三种标准对压缩方式进行评价1、压缩比:压缩比越高,压缩后文件越小,所以压缩比越高越好2、压缩时间:越快越好3、已经压缩的格式文件是否可以再分割
zui初的梦想
·
2023-09-01 04:05
大数据
大数据
学习
hive
记录一次zk排查问题记录
测试服务器内存问题web调用api报找不到服务,本jar包正常,jar调用另一个jar异常,报的这个jar找不到服务,以为是dubbo的问题,重启dubbo无用,另一个服务重启,奇怪的异常
ZooKeeper
宁静的威士忌
·
2023-09-01 02:50
linux
苏世民-我的经验与教训
,桌子上有零散的麻花,和两瓣蒜,我的晚餐就这样结束了,不想看电视也不想刷抖音了,那种一瞬间的喜悦带来的却是无尽的空洞,想找个人说说话不知道找谁,放下手中的纯牛奶,开启我的文字,本来被约稿十一之前出一版
zookeeper
程序猿MM
·
2023-09-01 01:01
服务日志性能
调优
,由log引出的巨坑
只有被线上服务问题毒打过的人才明白日志有多重要!谁赞成,谁反对?如果你深有同感,那恭喜你是个社会人了:)日志对程序的重要性不言而喻,轻巧、简单、无需费脑,程序代码中随处可见,帮助我们排查定位一个有一个问题问题。但看似不起眼的日志,却隐藏着各式各样的“坑”,如果使用不当,不仅不能帮助我们,反而会成为服务“杀手”。本文主要介绍生产环境日志使用不当导致的“坑”及避坑指北,高并发系统下尤为明显。同时提供一
爱学习的潇潇
·
2023-09-01 01:18
自动化测试
软件测试
软件测试工程师
数据库
java
服务器
软件测试
自动化测试
功能测试
程序人生
zookeeper
锁问题
zookeeper
锁导致的羊群效应当一个节点变化是监听该节点的客户端都会收到消息,然后开始争抢这个过程会影响
zookeeper
的其他任务。
risc123456
·
2023-09-01 00:48
java
Ambari实战-1:Ambari使用场景及介绍
Ambari目前已支持大多数Hadoop组件,包括HDFS,MapReduce,Hive,Pig,HBase,
Zookeeper
,Sqoop和HCatalog等。ApacheAmbari支持H
qianmoQ
·
2023-09-01 00:24
apache dubbo + springboot 整合实现负载均衡
1、
zookeeper
下载、运行
zookeeper
是dobbo推荐使用的注册中心,
zookeeper
为我们的分布式项目提供:配置维护、域名服务、节点存储、获取数据等等。
zss945
·
2023-08-31 22:01
Relation Extraction as Open-book Examination: Retrieval-enhanced Prompt Tuning
然而,用于关系提取的提示
调优
方法可能仍然无法推广到那些罕见或困难的模式。注意,以前的参数学习范式可以被视为将训练数
UnknownBody
·
2023-08-31 21:55
LLM
语言模型
人工智能
2022年春招,Java后端最全面试攻略,吃透25个技术栈
JavaOOP、Java集合容器、Java异常、并发编程、Java反射、Java序列化、JVM、Redis、SpringMVC、MyBatis、MySQL数据库、消息中间件MQ、Dubbo、Linux、
ZooKeeper
架构师小七
·
2023-08-31 18:50
【
zookeeper
】
zookeeper
介绍
分布式协调技术在学习
ZooKeeper
之前需要先了解一种技术——分布式协调技术。那么什么是分布式协调技术?
margu_168
·
2023-08-31 17:06
zookeeper
zookeeper
【
zookeeper
】
zookeeper
集群安装
环境规划实际的生产使用中,我们一般推荐搭建奇数多节点的
zookeeper
集群,如3/5/7。在本次测试中,我使用了centos7三台服务器搭建,复用了我搭建k8s集群的环境,如下表。
margu_168
·
2023-08-31 17:06
zookeeper
zookeeper
zookeeper
集群 数据一致性测试
搭建zk集群准备3台ubuntu20机器每台机器提前安装配置好jdk-8+apache-
zookeeper
-3.8.2-bin.tar.gz开始#上传scp-P22-rC:\Users\xcrj\Downloads
Jason Yien
·
2023-08-31 17:06
zookeeper
分布式锁的三种实现方式 学习总结
Java分布式锁的三种实现方案数据库:唯一约束基于缓存:redis等
zookeeper
:基于
zookeeper
1.基本原理和依据数据库实现:主要利用了数据库表中的唯一约束,唯一约束本身就无法创建相同的,
极光雨雨
·
2023-08-31 15:50
JavaWeb开发
#
Java进阶及开发总结
分布式
Zookeeper
JavaAPI操作
importorg.apache.curator.RetryPolicy;importorg.apache.curator.framework.CuratorFramework;importorg.apache.curator.framework.CuratorFrameworkFactory;importorg.apache.curator.framework.recipes.cache.Chi
千里之行起于足下
·
2023-08-31 13:51
大数据
zookeeper
Zookeeper
的使用
一、
Zookeeper
简介分布式协调框架,小型的树形结构数据共享储存系统。
Jun South
·
2023-08-31 12:33
zookeeper
分布式
云原生
zookeeper
3.8.1安装和入门使用
1、
zookeeper
环境搭建(Windows单机版)1.1、前提必须安装jdk1.8,配置jdk环境变量,步骤略1.2、安装
zookeeper
地址:https://
zookeeper
.apache.org
包菜鸡肉卷
·
2023-08-31 12:33
zookeeper
Java
zookeeper
目录
zookeeper
1.1下载安装1、环境准备2、上传3、解压1.2配置启动1、配置zoo.cfg2、
Zookeeper
服务端常用命令3、
Zookeeper
客户端常用命令2.1
ZooKeeper
提供了什么
多比朋友
·
2023-08-31 12:59
微服务
zookeeper
debian
分布式
性能瓶颈分析及
调优
分析流程:很多情况下压测流量并没有完全进入到后端(服务端),在网络接入层(云化的架构比如:SLB/WAF/高防IP,甚至是CDN/全站加速等)可能就会出现由于各种规格(带宽、最大连接数、新建连接数等)限制或者因为压测的某些特征符合CC和DDoS的行为而触发了防护策略导致压测结果达不到预期。分析关键指标是否满足要求,如果不满足,需要确定是哪个地方有问题,一般情况下,服务器端问题可能性比较大,也有可能
Upaaui
·
2023-08-31 09:05
总结
java
ELK安装、部署、调试(三)
zookeeper
安装,配置
1.准备java安装,系统自带即可2.下载
zookeeper
zookeeper
.apache.org上可以下载tar-zxvfapache-
zookeeper
-3.7.1-bin.tar.gz-C/usr
ly4983
·
2023-08-31 08:09
ELK
ELK
zookeeper
大数据实战项目(2)-数据采集、处理、分发流程所涉及到的框架及配置
对该实战项目的介绍及所使用的各种工具等可以查看这篇博客:大数据实战项目(1)-项目简介、开发技术、工具、架构等文章目录Linux环境准备常规设置项目配置
ZooKeeper
分布式集群部署HadoopHA架构与部署
xl132598798
·
2023-08-31 08:38
BIG_DATD
Linux
hadoop
kafka
hbase
flume
zookeeper
Hadoop优化以及新特性
文章目录HDFS-多目录HDFS-集群扩容以及缩容HDFS故障排查NameNode数据丢失集群安全模式&磁盘修复Hadoop企业优化常用的
调优
参数Hadoop小文件优化方法Hadoop新特性hadoop2
GambleLife
·
2023-08-31 07:02
Hadoop
hadoop
Hadoop MapReduce
调优
参数
文章目录MapReduce
调优
参数详解MapReduce
调优
参数一键复制前言:下列参数基于hadoopv3.1.3版本,共三台服务器,配置都为4核,4G内存。
月亮给我抄代码
·
2023-08-31 07:32
mapreduce
大数据
hadoop
Hadoop
调优
思路
目录1HDFS—核心参数1.1NameNode内存生产配置1.2NameNode心跳并发配置1.3开启回收站配置2HDFS—集群压测2.1测试HDFS写性能2.2测试HDFS读性能4HDFS—集群扩容及缩容4.1添加白名单4.2服役新服务器4.4黑名单退役服务器5HDFS—存储优化5.1纠删码5.2异构存储(冷热数据分离)6HDFS—故障排除6.1NameNode故障处理6.2集群安全模式&磁盘修
首席撩妹指导官
·
2023-08-31 07:30
大数据
hadoop
hdfs
hadoop
hdfs
大数据
【大数据之Hadoop】三十四、Hadoop综合
调优
之小文件优化方法
1Hadoop小文件弊端 HDFS上每个文件都要在NameNode上创建对应的元数据,这个元数据的大小约为150byte,这样当小文件比较多的时候,就会产生很多的元数据文件,一方面会大量占用NameNode的内存空间,另一方面就是元数据文件过多,使得寻址索引速度变慢。 小文件过多,在进行MR计算时,会生成过多切片,需要启动过多的MapTask。每个MapTask处理的数据量小,导致MapTas
阿宁呀
·
2023-08-31 07:28
hadoop
hadoop
大数据
mapreduce
Hadoop学习——其它(集群,MR
调优
,数据倾斜等)
1、Hadoop2.0的高可用有两个NameNode节点,一个active,一个standby(时刻同步active的数据),从而实现高可用。两个NameNode之间通过JournalNodes的独立进程进行通信,当active中的NameNode的命名空间有任何改变时,便会通知大部分的JournalNode进程。standby的NameNode有能力读取JN中的变更信息,并且一直观察editlo
licjd
·
2023-08-31 07:58
Hadoop学习
Hadoop
集群
MR调优
小文件问题
数据倾斜
[ hadoop ] 集群性能
调优
全面总结
[hadoop]集群性能
调优
全面总结_bone_ds的博客-CSDN博客_hadoop集群优化引子文章涵盖了hadoop框架的三个组成架构各自的优化方法,涉及存储,计算,故障排除等多个方面的具体
调优
内容
javastart
·
2023-08-31 07:27
hadoop
hdfs
mapreduce
mysql读数据入库es_es数据库查询
Elastic工程师认证,2012年接触Elasticsearch,对ElasticStack技术栈开发、架构、运维等方面有深入体验,实践过多种大中型项目;为企业提供ElasticStack咨询培训以及
调优
实施
weixin_39939601
·
2023-08-31 07:54
mysql读数据入库es
对比Flink、Storm、Spark Streaming 的反压机制
Storm反压机制Storm在每一个Bolt都会有一个监测反压的线程(BackpressureThread),这个线程一但检测到Bolt里的接收队列(recvqueue)出现了严重阻塞就会把这个情况写到
ZooKeeper
学一次
·
2023-08-31 07:47
flink
storm
spark
出现
ZooKeeper
JMX enabled by default这种错误的解决方法
系列文章专栏学习以来遇到的bug/问题专栏文章目录系列文章专栏前言一问题描述二解决方法2.1可能的原因分析2.2小编的问题解决方法First:检查/etc/profile里面
zookeeper
的环境变量配置
张小鱼༒
·
2023-08-31 06:59
学习以来遇到的bug/问题专栏
linux
ubuntu
运维
zookeeper
centos
分布式集群——jdk配置与
zookeeper
环境搭建
系列文章目录分布式集群——jdk配置与
zookeeper
环境搭建分布式集群——搭建Hadoop环境以及相关的Hadoop介绍文章目录系列文章目录前言一
zookeeper
介绍与环境配置1.1
zookeeper
张小鱼༒
·
2023-08-31 06:59
分布式
java-zookeeper
java
maven
JavaAPI
zookeeper
IDEA
分布式集群——搭建Hadoop环境以及相关的Hadoop介绍
系列文章目录分布式集群——jdk配置与
zookeeper
环境搭建分布式集群——搭建Hadoop环境以及相关的Hadoop介绍文章目录前言一hadoop的相关概念1.1Hadoop概念补充:块的存储1.2HDFS
张小鱼༒
·
2023-08-31 06:54
分布式
hadoop
大数据
centos
Linux
zookeeper
分布式集群
nginx服务与
调优
一、nginx概述:1.Nginx简介:Nginx是一个高性能的HTTP和反向代理服务器。是一款轻量级的高性能的web服务器/反向代理服务器/电子邮件(IMAP/POP3)代理服务器,单台物理服务器可支持30000~50000个并发请求。2.基础特性:模块化设计,较好的扩展性高可靠性支持热部署:不停机更新配置文件,升级版本,更换日志文件低内存消耗:10000个keep-alive连接模式下的非活动
敢不敢跟我比划比划.
·
2023-08-31 05:38
nginx
运维
Debezium系列之:Debezium Server在生产环境大规模应用详细的技术方案
系列之:DebeziumServer在生产环境大规模应用详细的技术方案一、需求背景二、DebeziumServer实现技术三、技术方案流程四、生成接入配置五、新增数据库接入和删除数据库接入效果六、监控
zookeeper
最笨的羊羊
·
2023-08-31 04:15
debezium
Debezium系列
Debezium
Server
生产环境大规模应用详细技术方案
搭建 solr-cloud(
zookeeper
集群)
使用
zookeeper
作为集群管理工具如何搭建
zookeeper
集群其实就是部署多态服务器,每个服务器上部署一个
zookeeper
以下为具体搭建步骤,根据实际情况随机应变第一步:
zookeeper
需要JDK
慕羽九华
·
2023-08-31 03:28
mysql优化-其他分析方法
SQL排查-慢查询日志:MySQL提供的一种日志记录,用于记录MySQL种响应时间超过阀值的SQL语句(long_query_time,默认10秒)慢查询日志默认是关闭的;建议:开发
调优
是打开,而最终部署时关闭
ft4586968
·
2023-08-31 01:56
hadoop性能优化
最近的hdfs集群出了一些故障,今天总结一下hadoop的几个具体的性能
调优
方法1)HDFS参数
调优
hdfs-site.xml(1)dfs.namenode.handler.count=20*log2(
大道至简_6a43
·
2023-08-31 00:45
分布式锁系列之
zookeeper
分布式锁和mysql分布式锁
目录介绍下载安装基本指令编辑java集成
zookeeper
官方提供版永久节点临时节点编辑永久序列化节点判断当前节点是否存在获取当前节点中的数据内容获取当前节点的子节点更新节点内容删除节点
zookeeper
暗武逢天
·
2023-08-31 00:37
分布式锁
mysql
分布式
zookeeper
云原生
mysql
curator
高并发
分布式锁
MySQL学习笔记整理(下部)
其他函数事务添加事务事务的四大特征索引存储引擎B-Tree和B+Tree索引的分类建索引的原则回表和索引覆盖联合索引的使用MySQL的约束常见的约束分类主键约束详解主键约束概念主键约束的相关操作MySQL锁的类型性能优化索引的优化SQL语句
调优
优化数据访问重构查询方式慢查询优化定位慢
霁晨晨晨
·
2023-08-30 23:14
mysql
学习
笔记
《画壁》——寓荒诞于庄严,寄人情于鬼神
其中有一首歌名叫《画壁》,曲
调优
美,歌词高雅,唱腔独特,一旦打开他的音乐,完全停不下来,非得来个单曲循环才算过把瘾。有人说听这首歌,犹如听一则缠绵悱恻的爱情故事,又如品读高深莫测的哲学。
丝竹悠扬
·
2023-08-30 23:42
性能测试技术之基础篇(精华)
1、指标建模2、诊断
调优
五、常见性能测试工具一、什么是性能?
Mr_wilson_liu
·
2023-08-30 20:33
软件测试
性能
测试
可靠性
性能测试
Redis 内存管理与优化策略
文章目录引言:1.监控和分析内存使用:2.设置过期时间和淘汰策略:3.持久化数据到磁盘:4.增加内存容量:5.数据分区和集群:6.内存优化和数据压缩:7.防止内存泄漏:8.内存清理和数据删除:9.性能监控和
调优
信息化战略
·
2023-08-30 20:19
redis
上一页
118
119
120
121
122
123
124
125
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他