E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
TCP协议调优
[Spark]二Spark性能
调优
|Spark任务监控|程序
调优
|资源
调优
二.spark性能
调优
1.Spark任务监控对Spark性能的
调优
离不开对任务的监控,只有在运行过程中,通过监控手段发现问题,才能迅速定位问题所在。
胖胖学编程
·
2023-11-17 10:37
spark
spark
大数据
分布式
1024程序员节
spark-
调优
-性能
调优
&内存管理
前置主要涉及6个参数,从3个方面:executor、core、内存的大小,并行度,内存管理进行
调优
优化的方案资源分配num-executors:spark使用多少个executorsexecutor-cores
zdkdchao
·
2023-11-17 10:36
spark
spark
big
data
大数据
spark性能
调优
(二):内存
Memory一、spark内存简介二、堆内内存or堆外内存?三、如何用好RDDCache?四、OOM怎么办?一、spark内存简介spark2.0后,基本上spark内存的管理就已经自动化了,内存出现问题基本上是一些数据问题。比如数据倾斜spark.executor.memory是绝对值,指定了executor进程的JVMHeap总大小spark.memory.fraction是比例值,标记spa
我爱夜来香A
·
2023-11-17 10:05
Spark
spark
jvm
大数据
Spark 优化 (一) --------- Spark 性能
调优
目录一、常规性能
调优
1.最优资源配置2.RDD优化3.并行度调节4.广播大变量5.Kryo序列化6.调节本地化等待时长二、算子
调优
1.mapPartitions2.foreachPartition优化数据库操作
在森林中麋了鹿
·
2023-11-17 10:34
Spark
spark
大数据
分布式
Scala | Spark性能优化 | 资源
调优
| 代码
调优
| 数据本地化 | 内存
调优
| Spark Shuffle
调优
| 数据倾斜 | Spark故障解决
文章目录一、资源
调优
二、并行度
调优
三、代码
调优
1.避免创建重复的RDD2.对多次使用的RDD进行持久化3.持久化算子:4.尽量避免使用shuffle类的算子5.使用map-side预聚合的shuffle
幼稚的人呐
·
2023-11-17 10:04
Spark
spark
scala
性能优化
spark性能
调优
| 内存优化
目录我们先了解一下有哪些内存温馨提示RDD示范(spark版本2.1.1)RDD进行优化Df和Ds进行示范我们先了解一下有哪些内存1.storage内存存储数据,缓存可预估2.shuffle内存计算joingroupby不可预估spark1.6之前静态管理的,spark1.6之后变成动态管理默认0.5温馨提示在公司尽量不要写rdd(性能不好)RDD示范(spark版本2.1.1)我们转成rdd去跑
Knight_AL
·
2023-11-17 10:00
Spark优化
spark
大数据
分布式
Linux网络之传输层协议tcp/udp
文章目录目录一、再谈端口号1.端口号划分2.知名端口号3.netstat,pidof二、UDP协议1.udp协议格式2.udp特点3.基于udp的应用层协议三、
TCP协议
1.tcp报头确认应答机制(ACK
yoouuung_
·
2023-11-17 10:52
linux
网络
linux
tcp/ip
网络协议
ActiveMQ中Producer特性详解
前言从本文中你可以得到如下几个问题的解答:1)设定消息的时间戳有什么作用2)消息的timeToLive与过期原理3)Producer同步、异步发送消息,以及
调优
4)消息priority与顺序,以及其中的误解
涛濤
·
2023-11-17 09:54
ActiveMQ
activemq
深入理解
producer
Kafka Producer通过参数
调优
提高数据发送速度
1.前言最近项目现场发生了日志文件积压的情况,日志文件的大概处理流程是:读取日志文件->进行结构化->发送到kafka以一个7.57M的日志文件为例(约58400条日志信息),程序需要16.8s才能将其处理完,也就是说平均每秒只能处理约3500条数据,经过验证,其中瓶颈在数据发送到Kafka这一步。这个根据经验,明显肯定是没有达到Kafka的瓶颈的,应该是自己producer程序有问题,于是去Ka
Daphnis_z
·
2023-11-17 09:23
大数据
大数据
kafka
Python大数据之linux学习总结——day09_hive
调优
hive
调优
hive官方配置url:https://cwiki.apache.org/confluence/display/Hive/Configuration+Propertieshive命令和参数配置
笨小孩124
·
2023-11-17 09:46
hive
学习总结
大数据
python
linux
JavaWeb-笔记
javase:cs架构clientserverbs:browserserver传输控制协议
tcp协议
(传输层):4层应用层:httphttps传输层:Tcp,udp网络层:数据链路层(物理层):UDP:
不积跬步无以至千里1346
·
2023-11-17 07:08
笔记
javaweb
【Python大数据笔记_day09_hive函数和
调优
】
hive函数函数分类标准[重点]原生分类标准:内置函数和用户定义函数(UDF,UDAF,UDTF)分类标准扩大化:本来,UDF、UDAF、UDTF这3个标准是针对用户自定义函数分类的;但是,现在可以将这个分类标准扩大到hive中所有的函数,包括内置函数和自定义函数;目前hive三大标准UDF:(User-Defined-Function)普通函数:特点是一进一出(输入一行数据输出一行数据)
LKL1026
·
2023-11-17 06:13
Python大数据学习笔记
大数据
笔记
hive
MySQL 查询分析和
调优
利器Optimizer Trace
庖丁解牛-图解查询分析和
调优
利器OptimizerTrace查询分析和
调优
背景在数据库的使用过程,我们经常会碰到SQL突然变慢,是由于下面导致的问题:选择错误的索引选择错误的连接顺序范围查询使用了不同的快速优化策略子查询选择的执行方式变化半连接选择的策略方式变化如何使用分析工具
lixora
·
2023-11-17 06:37
MySQL-Concept
-Tahiti
mysql
数据库
【寒武纪(9)】MLU架构
文章目录TP1架构TP2架构TP31⾯向不同MLU架构的CambriconBANG编程最佳实践1.1Device级异构
调优
指南1.2Cluster级并⾏
调优
指南1.3Core级并⾏
调优
指南2MTP编程
调优
Hali_Botebie
·
2023-11-17 06:59
架构
性能测试
调优
JVM
调优
(三)之JMeter使用
本文章向大家介绍JVM
调优
(三)之JMeter使用,主要包括JVM
调优
(三)之JMeter使用使用实例、应用技巧、基本知识点总结和需要注意事项,具有一定的参考价值,需要的朋友可以参考一下。
传说三哥
·
2023-11-17 06:45
Jmeter高级性能测试实战
jvm
jmeter
java
性能测试
Ray 分布式简单教程(1)
在RayCore上有几个库,用于解决机器学习中的问题:Tune:可伸缩的超参数
调优
RLlib:工业级强化学习RayTrain:分布式深度学习Datasets:分布式数据加载和计算(beta)以
求则得之,舍则失之
·
2023-11-17 06:06
分布式
分布式
深度学习模型量化(低精度推理)大总结
通过这篇文章你可以学习到以下内容:1)量化算法介绍及其特点分析,让你知其然并知其所以然;2)Pytorch量化实战,让你不再纸上谈兵;3)模型精度及性能的
调优
经验分享,让你面对问题不再束手无策;4)完整的量
洪流之源
·
2023-11-17 06:35
模型量化
深度学习
JVM面试与
调优
教程(1)-JVM的体系结构
【订阅专栏合集,作者所有付费文章都能看】本专栏系统地讲解JVM面试、JVM
调优
相关知识。包括但不限于JVM的结构、垃圾回收机制及垃圾回收器、JVM
调优
实战技术和工具使用。
m0_67393157
·
2023-11-17 04:46
java
java
后端
linux三次握手、四次挥手
TCP协议
是一个安全的、面向连接的、流式传输协议,所谓的面向连接就是三次握手,对于程序猿来说只需要在客户端调用connect()函数,三次握手就自动进行了。
lucky1_1star
·
2023-11-17 02:20
网络
tcp/ip
服务器
1116中信笔试
1116中信笔试int,Integer的区别,相等如何判断结果Java的异常处理数据库的事务操作Redis的基本数据类型问了HashMap底层实现
TCP协议
MySQL的隔离级别创建线程的几种方式双亲委派机制
weixin_44805103
·
2023-11-17 01:47
面试
java
【计算机网络】
TCP协议
文章目录
TCP协议
TCP的结构TCP的特点TCP如何保证可靠传输确认应答(可靠机制)超时重传(可靠机制)连接管理(可靠机制)滑动窗口(效率机制)流量控制(可靠机制)拥塞控制(可靠机制)延时应答(效率机制
努力的小徐
·
2023-11-17 01:44
计算机网络
tcp/ip
单片机
“解剖“JVM之GC
调优
目录前言一、JDK工具类1.Jmap2.Jstack3.Jinfo4.Jstat二、JVM运行情况预估总结前言前面所说的JVM垃圾收集其实最终也是为了解决GC的,那么GC又是如何
调优
的呢?
阿涛在coding
·
2023-11-16 21:30
JVM
java
jvm
JVM-05.JVM
调优
工具及
调优
方法
思维导图:点击查看思维导图.前言:阅读此文章前,需要了解的知识链接:JVM-03.对象创建与内存分配.链接:JVM-04.垃圾回收机制看着一篇就够了.1.jps工具作用:查看当前系统中有哪些JAVA进程2.jmap工具来查看内存信息,实例个数以及占用内存大小文件较长,可以输出为对应的文件,也可以直接查看num:序号instances:实例数量bytes:占用空间大小classname:类名称,[C
Coding Machine
·
2023-11-16 21:30
性能调优
JVM
jvm
java
jar
jvm
调优
#Jvm系列9个在江湖中要练就绝世武功必须内外兼备,精妙的招式和深厚的内功,武功的基础是内功。对于武功低(就像江南七怪)的人,招式更重要,因为他们不能靠内功直接去伤人,只能靠招式,利刃上优势来取胜了,但是练到高手之后,内功就更主要了。一个内功低的人招式在奇妙也打不过一个内功高的人。比如,你剑法再厉害,一剑刺过来,别人一掌打断你的剑,你还怎么使剑法,你一掌打到一个武功高的人身上,那人没什么事,却把你
奔跑你个Run
·
2023-11-16 21:30
JVM知识点总览
jvm总体梳理jvm体系总体分四大块:类的加载机制jvm内存结构GC算法垃圾回收GC分析命令
调优
当然这些知识点在之前的文章中都有详细的介绍,这里只做主干的梳理这里画了一个思维导图,将所有的知识点进行了陈列
Java程序员-张凯
·
2023-11-16 20:53
java虚拟机
jvm
java虚拟机
jvm
网络基础+Socket编程+高并发服务器
网络编程P1复习Linux网络编程P2信号量生产者复习P3协议P4七层模型和四层模型及代表协议P5网络传输数据封装流程P6以太网帧和ARP请求P7IP协议P8
TCP协议
P9BS和CS模型比对P10套接字
C葭葭
·
2023-11-16 17:15
网络
服务器
网络基础及WireShark 抓包工具
文章目录01.网络七层模型详解02.七层网络模型和tcp/IP四层模型对比03.网络数据封装传输过程04.ARP协议工作原理05.IP协议06.路由协议及路由表07.
TCP协议
概述09.TCP和UDP协议的对比
C葭葭
·
2023-11-16 17:15
网络
网络
wireshark
网络协议
网络编程套接字
文章目录:理解源IP地址和目的IP地址关于端口号
TCP协议
和UDP协议初识网络字节序socket编程什么是socket编程socket常见APIsockaddr结构理解源IP地址和目的IP地址在IP数据包头部中
风&57
·
2023-11-16 14:27
网路
网络
服务器
tcp/ip
【网络】UDP通信流程图解,UDP通信程序相关接口介绍,及简单UDP网络程序编写
传输层协议:
TCP协议
、UDP协议等;UDP协议简介UDP(UserDaya
Gu_if
·
2023-11-16 14:50
网络
大模型在数据分析场景下的能力评测|进阶篇
如何
调优
大模型,来更好地做数据计算和洞察分析?如何降低整体成本,同时保障分析体验?
Kyligence
·
2023-11-16 12:42
数据分析
人工智能
大数据
思特威24校招-电路/算法/集成电路/ic/pm等-上海深圳
offer题解|#对顾客ID和日期排序#selectcust_id,order_numfromOrdersorderbycust_id,order_datedesc;树根互联一面jvm回收算法g1jvm
调优
2301_79125642
·
2023-11-16 12:31
java
ASP.NET Core中使用滑动窗口限流
滑动窗口算法用于应对请求在时间周期中分布不均匀的情况,能够更精确的应对流量变化,比较著名的应用场景就是
TCP协议
的流量控制,不过今天要说的是服务限流场景中的应用。
萤火架构
·
2023-11-16 12:21
限流
限流
java开发校招面试,面试真题解析
阿里系的lazada一面现场(50min)①sync的底层实现,锁优化,和lock的对⽐等②jvm参数
调优
详细过程,到为什么这么设置,好处,⼀些gc场景,如何去分析gc⽇志③redis数据结构,使⽤场景
最新Java面经
·
2023-11-16 11:20
程序员
java
面试
经验分享
【整理】HTTP相关版本对比
1.HTTP/1超文本传输协议,处于计算机网络中的应用层,HTTP是建立在
TCP协议
之上,所以HTTP协议的瓶颈及其优化技巧都是基于
TCP协议
本身的特性。
重瞳Tech
·
2023-11-16 10:20
http
网络协议
网络
JVM GC
调优
命令看这一篇就够了
JVMGC
调优
命令看这一篇就够了2023-11-1123:27·IT果果日记jstat可用于统计内存分配速率、GC次数,GC耗时jstat常用命令格式jstat-gc例如:jstat-gc6100010
qq_21305943
·
2023-11-16 09:03
jvm
linux
运维
性能测试知多少---性能分析与
调优
的原理
最近一直纠结性能分析与
调优
如何下手,先从硬件开始,还是先从代码或数据库。
测试小鬼
·
2023-11-16 08:01
测试工具
经验分享
postman
自动化测试
软件测试
day34-网络编程课后大作业完整需求
项目名称利用
TCP协议
,做一个带有登录,注册的无界面,控制版的多人聊天室。
算法哥
·
2023-11-16 04:31
黑马程序员笔记Java
网络
课程设计
java
JVM命令行工具和JVM
调优
实战
一、JVM命令行工具1.JPS(JVMProcessStatusTool)概述:虚拟机进程工具。命令格式:jps[option][hostid],例:jps-l主要选项:-q只输出LVMID,省略主类的名称-m输出虚拟机进程启动时传递给主类main()函数的参数-l输出主类的全名,如果进程执行的是jar包,输出jar路径-v输出虚拟机进程启动时JVM参数2.jmap概述:Java内存映像工具命令格
秋忆侬sonny
·
2023-11-16 04:31
JVM
jvm
java
开发语言
JVM GC
调优
命令看这一篇就够了
jstat可用于统计内存分配速率、GC次数,GC耗时jstat常用命令格式jstat-gc例如:jstat-gc6100010,统计pid=6的进程,每秒统计1次,统计10次。参数含义:S0C:年轻代中第一个Survivor区的容量,单位为KB。S1C:年轻代中第二个Survivor区的容量,单位为KB。S0U:年轻代中第一个Survivor区已使用大小,单位为KB。S1U:年轻代中第二个Surv
IT果果日记
·
2023-11-16 03:51
jvm
jstack
jmap
gc
jinfo
jstat
Chapter 8 Optimization
调优
Chapter8Optimization
调优
8.1OptimizationOverview优化概述8.2OptimizingSQLStatements[+/-]优化SQL语句8.3OptimizationandIndexes
scan724
·
2023-11-16 02:21
mysql sql trace_用MySQL的optimizer_trace进行sql
调优
在我们
调优
MySQL的SQL时候,通常使用三种工具进行查看sql执行的效率,explain、profile、optimizer_trace。
weixin_39891694
·
2023-11-16 02:51
mysql
sql
trace
MySql数据库性能
调优
Masud说道:MySql数据库性能
调优
是web开发的重要内容,当流量暴增的时候,数据库就撑不住了,如何
调优
呢?
iteye_9367
·
2023-11-16 02:49
mysql
MySQL
WordPress
performance
PHP
Web
mysql-Optimization Overview-数据库
调优
Databaseperformancedependsonseveralfactorsatthedatabaselevel,suchastables,queries,andconfigurationsettings.ThesesoftwareconstructsresultinCPUandI/Ooperationsatthehardwarelevel,whichyoumustminimizeandm
jimiStephen
·
2023-11-16 02:16
mysql
数据库
八股文-TCP的三次握手
TCP协议
是一种面向连接、可靠传输的协议,而建立连接的过程就是著名的三次握手。这个过程保证了通信的双方能够同步信息,确保后续的数据传输是可靠和有序的。本文将深入解析TCP三次握手的步骤及其意义。
修己xj
·
2023-11-16 01:38
八股文
tcp/ip
网络
网络协议
ORACLE
调优
深入理解AWR报告
一堆历史性能数据,放在sysaux表空间上,AWR和sysaux都是10g出现的,是oracle
调优
的关键特性。
normaluser006
·
2023-11-16 01:35
Oracle
oracle
开源服务专题之------sshd服务安装管理及配置文件理解和安全
调优
本专题我将讨论一下开源服务,随着开源社区的日趋丰富,开源软件、开源服务,已经成为人类的一种公共资源,发展势头可谓一日千里,所以不可不知。SSHD服务,在我们的linux服务器上经常用到,很重要,涉及到服务器的安全,对这个服务的安全配置要高度重视。本文将从以下三个方面进行阐述开源服务及ssh服务。一、学习开源服务的步骤和方法二、SSHD服务安装、配置、使用三、设置安全的SSHD服务一、学习开源服务的
afxwd68402
·
2023-11-15 23:01
运维
开发工具
shell
【寒武纪(7)】MLU的cntoolkit:Cambricon-BANG架构和使用分析,MLU并行计算的硬件抽象、编程模型以及
调优
思路
文章目录硬件抽象1存储1.1.1存储层次访存一致计算模型1Core核内同步和并行2核间并行和同步编程模型1、Kernel计算规模任务类型执行示例性能
调优
性能
调优
实践参考cambriconBANG架构是基础的
Hali_Botebie
·
2023-11-15 23:39
并行计算
Mybatis Plus SaveBatch
调优
25倍性能
最近在压测一批接口,发现接口处理速度慢的有点超出预期,感觉很奇怪,后面定位发现是数据库批量保存这块很慢。这个项目用的是mybatis-plus,批量保存直接用的是mybatis-plus提供的saveBatch。我点进去看了下源码,感觉有点不太对劲:我继续追踪了下,从这个代码来看,确实是for循环一条一条执行了sqlSession.insert,下面的consumer执行的就是上面的sqlSess
伴川
·
2023-11-15 22:37
mybatis
安全
redis
java
分布式
MySQL
调优
的几种方式
MySQL
调优
有许多方式,以下是几种常用的方式:优化查询语句:通过使用合适的索引、优化查询语句的写法、避免全表扫描等方式来提升查询性能。
wzxue1984
·
2023-11-15 22:02
mysql
数据库
JVM 三大性能
调优
参数
JVM的性能
调优
是Java应用程序优化的重要部分,其中三大性能
调优
参数为:jvm三大性能
调优
参数1.堆内存大小(-Xmx和-Xms参数):堆内存是Java应用程序中最重要的内存区域,存储对象实例和数组等数据
wzxue1984
·
2023-11-15 22:01
jvm
上一页
40
41
42
43
44
45
46
47
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他