E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
jvm-调优
日常节省 30%计算资源:阿里云实时计算 Flink 自动
调优
实践
摘要:本文整理自阿里云开发工程师,ApacheFlinkContributor钟旭阳,在FlinkForwardAsia2022生产实践的分享。本篇内容主要分为四个部分:历史背景框架简介案例介绍未来规划点击查看原文视频&演讲PPT一、历史背景批作业在算子实际处理数据时,可以提前感知到要处理的这部分数据有多大。从而可以根据数据量的大小,选择合适的资源处理数据。但流作业是一种long-running的
Apache Flink
·
2024-02-19 14:46
Flink
大数据
实时计算
阿里云
flink
大数据
数据库
java
Flink 1.10 细粒度资源管理解析
相信不少读者在开发Flink应用时或多或少会遇到在内存
调优
方面的问题,比如在我们生产环境中遇到最多的TaskManager在容器化环境下占用超出容器限制的内存而被YARN/Mesoskill掉[1],再比如使用
阿里云技术
·
2024-02-19 14:15
Flink_Flink 1.10 细粒度资源管理解析
原文地址https://blog.csdn.net/weixin_44904816/article/details/106066579相信不少读者在开发Flink应用时或多或少会遇到在内存
调优
方面的问题
高达一号
·
2024-02-19 14:14
Flink
Flink介绍
Transformation)2.3窗口(Window)2.4状态(State)3.编程模型3.1编程模型介绍3.2程序示例4.部署4.1集群架构4.2集群资源管理4.3部署模式5.运维5.1部署管理5.2监控
调优
程序员白总
·
2024-02-19 13:41
flink
flink
大数据
一些Tcp
调优
参数
1.设置向外连接可用端口范围echo"102465535">/proc/sys/net/ipv4/ip_local_port_range2.设置time_wait连接重用echo1>/proc/sys/net/ipv4/tcp_tw_reuse3.设置快速回收time_wait连接echo1>/proc/sys/net/ipv4/tcp_tw_recycle4.设置最大time_wait连接长度e
ShootHzj
·
2024-02-19 13:03
(15)Hive
调优
——数据倾斜的解决指南
目录前言一、什么是数据倾斜二、发生数据倾斜的表现2.1MapReduce任务2.2Spark任务三、如何定位发生数据倾斜的代码四、发生数据倾斜的原因3.1key分布不均匀3.1.1某些key存在大量相同值3.1.2存在大量异常值或空值3.2业务数据本身的特性3.3SQL语句本身就有数据倾斜3.4建表时考虑不周四、触发数据倾斜的SQL操作五、数据倾斜的解决方案5.1Map长尾优化5.1.1Map读取
爱吃辣条byte
·
2024-02-19 11:50
#
Hive
大数据
hive
相机图像质量研究(20)常见问题总结:CMOS期间对成像的影响--全局快门/卷帘快门
系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台
调优
介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结:光学结构对成像的影响--焦距相机图像质量研究
上天肖
·
2024-02-19 11:19
ISP
计算机视觉
数码相机
人工智能
相机图像质量研究(17)常见问题总结:CMOS期间对成像的影响--靶面尺寸
系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台
调优
介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结:光学结构对成像的影响--焦距相机图像质量研究
上天肖
·
2024-02-19 11:18
ISP
计算机视觉
数码相机
人工智能
相机图像质量研究(14)常见问题总结:光学结构对成像的影响--伪像
系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台
调优
介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结:光学结构对成像的影响--焦距相机图像质量研究
上天肖
·
2024-02-19 11:48
ISP
计算机视觉
数码相机
人工智能
相机图像质量研究(24)常见问题总结:CMOS期间对成像的影响--摩尔纹
系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台
调优
介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结:光学结构对成像的影响--焦距相机图像质量研究
上天肖
·
2024-02-19 10:44
ISP
计算机视觉
数码相机
人工智能
相机图像质量研究(35)常见问题总结:图像处理对成像的影响--运动噪声
系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台
调优
介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结:光学结构对成像的影响--焦距相机图像质量研究
上天肖
·
2024-02-19 10:06
ISP
计算机视觉
数码相机
人工智能
相机图像质量研究(33)常见问题总结:图像处理对成像的影响--锯齿
系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台
调优
介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结:光学结构对成像的影响--焦距相机图像质量研究
上天肖
·
2024-02-19 10:05
计算机视觉
数码相机
人工智能
相机图像质量研究(34)常见问题总结:图像处理对成像的影响--拖影
系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台
调优
介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结:光学结构对成像的影响--焦距相机图像质量研究
上天肖
·
2024-02-19 10:05
ISP
计算机视觉
数码相机
人工智能
相机图像质量研究(31)常见问题总结:图像处理对成像的影响--图像差
系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台
调优
介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结:光学结构对成像的影响--焦距相机图像质量研究
上天肖
·
2024-02-19 10:35
ISP
计算机视觉
数码相机
人工智能
相机图像质量研究(32)常见问题总结:图像处理对成像的影响--振铃效应
系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台
调优
介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结:光学结构对成像的影响--焦距相机图像质量研究
上天肖
·
2024-02-19 10:35
ISP
计算机视觉
数码相机
人工智能
Hive
调优
——count distinct替换
离线数仓开发过程中经常会对数据去重后聚合统计,而对于大数据量来说,count(distinct)操作消耗资源且查询性能很慢,以下是
调优
的方式。
爱吃辣条byte
·
2024-02-15 10:58
#
Hive
hive
数据仓库
NLP_ChatGPT的RLHF实战
而ChatGPT的训练工程称得上是复杂而又神秘的,迄今为止,OpenAl也没有开源它的训练及
调优
的细节。从OpenAl已经公开的一部分信息推知,ChatGPT的训练主要由三个步骤组成,如下图所示。
you_are_my_sunshine*
·
2024-02-15 09:41
NLP
大模型
chatgpt
自然语言处理
人工智能
Hive3.1.2——企业级
调优
前言本篇文章主要整理hive-3.1.2版本的企业
调优
经验,有误请指出~一、性能评估和优化1.1Explain查询计划使用explain命令可以分析查询计划,查看计划中的资源消耗情况,定位潜在的性能问题
爱吃辣条byte
·
2024-02-15 09:48
#
Hive
hive
数据仓库
MySQL性能
调优
篇(3)-缓存的优化与清理
MySQL数据库缓存的优化与清理数据库缓存在MySQL中扮演着非常重要的角色,它可以显著提高数据库的性能和响应速度。在本篇博客中,我们将介绍如何优化和清理MySQL数据库的缓存,以进一步提高数据库的效率。优化缓存1.适当调整缓存大小MySQL数据库的缓存大小对性能有着直接的影响。通过修改以下两个参数,可以调整缓存的大小:innodb_buffer_pool_size:适用于InnoDB存储引擎,用
俞兆鹏
·
2024-02-15 08:35
MySQL学习指南
mysql
MySQL性能
调优
篇(4)-查询语句的优化与重构
MySQL数据库查询语句的优化与重构MySQL是一种常用的关系型数据库管理系统,广泛应用于Web开发中。在实际应用中,对数据库查询语句的优化和重构是提高应用性能和响应速度的重要手段。本文将介绍一些常见的优化技巧和重构方法,帮助开发者提高数据库查询效率。优化索引索引是数据库中存储数据位置的数据结构,可以加快查询操作的速度。对于频繁查询的列,可以为其添加索引。常用的索引类型包括主键索引、唯一索引和普通
俞兆鹏
·
2024-02-15 08:24
MySQL学习指南
mysql
【MySQL进阶之路】亿级数据量表SQL
调优
实战
亿级数据量表SQL
调优
实战先说一下案例背景:在电商平台中,有一个商品表,数据量级别上亿,有一天晚上突然出现大量的慢查询告警,导致每一个数据库连接执行慢查询耗费几十秒的时间,以至于数据
11来了
·
2024-02-15 05:32
MySQL进阶之路
mysql
sql
数据库
【MySQL进阶之路】十亿量级评论表SQL
调优
实战
十亿量级评论表SQL
调优
实战先说一下案例背景:在电商系统的评论表中,数据量非常大,达到了十亿量级,因此对评论的数据库进行分库分表处理,在分库分表之后,基本上单表的评论数据在百万级别左
11来了
·
2024-02-15 05:32
MySQL进阶之路
mysql
sql
数据库
记一次PHP并发性能
调优
实战 -- 性能提升104%
适合阅读人群文中的
调优
思路无论是php,java,还是其他任何语言都是用.如果你有php使用经验,那肯定就更好了业务背景框架及相应环境laravel5.7,mysql5.7,redis5,nginx1.15centos7.5bbrdocker
PHP9年架构师
·
2024-02-15 04:59
Java 性能
调优
的 11 个实用技巧
大多数开发人员认为性能优化是个比较复杂的问题,需要大量的经验和知识。是的,这并不没有错。诚然,优化应用程序以获得最好的性能并不是一件容易的事情,但这并不意味着你在没有获得这些经验和知识之前就不能做任何事。下面有几个很容易遵循的建议和最佳实践能够帮你创建一个性能良好的应用程序。这些建议中的大多数都是基于Java的,但是也不一定,也有一些是可以应用于所有的应用程序和编程语言的。在我们分享基于Java的
java菜
·
2024-02-15 04:29
MySQL 优化
查看MySQL的运行状态如果系统的并发请求数不高,且查询速度慢,可以忽略该步骤直接进行SQL语句
调优
步骤。
Neo_zero
·
2024-02-14 22:24
MySQL性能
调优
-(七)分区分表
分区表的应用场景1.表非常大以至于无法全部都放在内存中,或者只在表的最后部分有热点数据,其他均是历史数据2.分区表的数据更容易维护批量删除大量数据可以使用清除整个分区的方式对一个独立分区进行优化、检查、修复等操作3.分区表的数据可以分布在不同的物理设备上,从而高效地利用多个硬件设备4.可以使用分区表来避免某些特殊的瓶颈innodb的单个索引的互斥访问ext3文件系统的inode锁竞争5.可以备份和
努力的布布
·
2024-02-14 18:38
MySQL
mysql
Spark通过jdbc性能
调优
--采用分区的方式从oracle读数据
spark通过jdbc读取Oracle,当数据量很大的时候会出现两个问题:读取数据异常缓慢,甚至卡死大表中进行操作也会出现OOM的问题
调优
常规的读取数据库的方式如下ods_bdz=spark.read.format
korry24
·
2024-02-14 18:08
oracle
spark
mysql
MySQL性能
调优
篇(5)-分区表的设计和使用
数据库分区表是MySQL中一种高效的数据管理技术,能够帮助我们更好地进行数据存储和查询。在本文中,我们将介绍MySQL数据库分区表的设计和使用。什么是数据库分区表数据库分区表是将一个大表拆分成多个小表,每个小表称为一个分区。分区表在逻辑上仍然是一个完整的表,但在物理存储上被分成多个部分。分区表可以根据表中的某个列的值进行划分,比如根据日期、地区、用户ID等。这样可以将数据分散存储在不同的分区中,提
俞兆鹏
·
2024-02-14 18:38
MySQL学习指南
mysql
Spark编程实验六:Spark机器学习库MLlib编程
目录一、目的与要求二、实验内容三、实验步骤1、数据导入2、进行主成分分析(PCA)3、训练分类模型并预测居民收入4、超参数
调优
四、结果分析与实验体会一、目的与要求1、通过实验掌握基本的MLLib编程方法
Francek Chen
·
2024-02-14 14:48
Spark编程基础
spark
mllib
大数据
机器学习
算法
2021金三银四面试跳槽必备:15个互联网大厂Java高级工程师核心面试宝典
内容包括:Java集合22题及答案解析JVM与
调优
21题及答案解析并发编程28题及答案解析Spring25题及答案解析23种设计模式解析SpringBoot25题及答案解析分布式高并发架构解析(消息队列
码农小芷
·
2024-02-14 11:43
openGauss学习笔记-218 openGauss性能
调优
-确定性能
调优
范围-硬件瓶颈点分析-I/O
文章目录openGauss学习笔记-218openGauss性能
调优
-确定性能
调优
范围-硬件瓶颈点分析-I/O218.1查看I/O状况218.2性能参数分析openGauss学习笔记-218openGauss
superman超哥
·
2024-02-14 10:36
openGauss学习笔记
openGauss
国产数据库
开源数据库
数据库
RDBMS
openGauss学习笔记-217 openGauss性能
调优
-确定性能
调优
范围-硬件瓶颈点分析-内存
文章目录openGauss学习笔记-217openGauss性能
调优
-确定性能
调优
范围-硬件瓶颈点分析-内存217.1查看内存状况217.2性能参数分析openGauss学习笔记-217openGauss
superman超哥
·
2024-02-14 10:34
openGauss学习笔记
openGauss
国产数据库
开源数据库
数据库
RDBMS
《Java 简易速速上手小册》第8章:Java 性能优化(2024 最新版)
8.1.1基础知识8.1.2重点案例:使用VisualVM监控应用性能8.1.3拓展案例1:使用JProfiler分析内存泄漏8.1.4拓展案例2:使用Gatling进行Web应用压力测试8.2JVM
调优
江帅帅
·
2024-02-14 07:25
《Java
简易速速上手小册》
java
性能优化
spring
spring
boot
算法
数据结构
大数据
java面试题/认证答辩 ---linux系统操作
基本命令(cd,ls,top等)的使用掌握:掌握常用软件的安装(java,mysql等)精通:掌握常见运维工具的使用,能进行脚本开发综合应用:掌握linux操作系统的基本原理,具备在系统下进行网络配置,性能
调优
Fuly1024
·
2024-02-14 05:31
面试刷题
linux
MySQL高级篇——排序、分组、分页优化
MySQL高级篇+设计模式+牛客面试题目录5.排序优化5.1排序优化建议5.2测试5.2.1案例验证5.3.2练习5.3范围查询时索引字段选择5.4filesort算法5.4.1双路排序和单路排序5.4.2
调优
程序员小海绵【vincewm】
·
2024-02-14 02:01
Java学习路线
数据库
sql
java
《Linux 简易速速上手小册》第10章: 性能监控与优化(2024 最新版)
10.1.4拓展案例2:分析具体时间段的系统负载10.2优化性能10.2.1重点基础知识10.2.2重点案例:优化Web服务器性能10.2.3拓展案例1:数据库服务器性能优化10.2.4拓展案例2:网络性能
调优
江帅帅
·
2024-02-13 22:58
《Linux
简易速速上手小册》
linux
运维
服务器
数据挖掘
人工智能
python
web3
佳人西洲
一个人听歌,最开始一定是听曲,曲
调优
美,抓人,令人感叹,就会听下去,更别说听了之后能在虚无间生出许多幻想感叹的,人说绕梁三日而不绝,食不知味,就是佳曲。
夜光丶
·
2024-02-13 22:23
openwrt折腾记5 广告屏蔽大师adbyby深度
调优
(借用老毛子完美数据文件)
广告屏蔽大师adbyby深度
调优
本文的精进起始和结局一、探索试融合试用adbyby规则文件二、对luci-app-adbyby-plus更新lazy.txt,video.txt文件脚本adbybyupdate.sh
wjcroom
·
2024-02-13 11:19
openwrt
路由器
日常小操作
lua
开发语言
bash
相机图像质量研究(12)常见问题总结:光学结构对成像的影响--炫光
系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台
调优
介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结:光学结构对成像的影响--焦距相机图像质量研究
上天肖
·
2024-02-13 10:00
ISP
计算机视觉
数码相机
人工智能
Python机器学习之交叉验证
交叉验证是一种非常常用的对于模型泛化能力进行评估方法,交叉验证既可以解决数据集的数据量不够大问题,也可以解决参数
调优
的问题。
一只怂货小脑斧
·
2024-02-13 09:32
Hive
调优
——explain执行计划
一、explain查询计划概述explain将HiveSQL语句的实现步骤、依赖关系进行解析,帮助用户理解一条HQL语句在底层是如何实现数据的查询及处理,通过分析执行计划来达到Hive
调优
,数据倾斜排查等目的
爱吃辣条byte
·
2024-02-13 07:10
#
Hive
大数据
数据仓库
探索XGBoost:多分类与不平衡数据处理
本教程将深入探讨如何在Python中使用XGBoost处理多分类和不平衡数据,包括数据准备、模型
调优
和评估等方面,并提供相应的代码示例。准备数据首先,我们需要准备多分类和不平衡的数据集。
Echo_Wish
·
2024-02-13 05:19
Python算法
Python
笔记
分类
数据挖掘
人工智能
JVM-
运行时数据区
运行时数据区按照线程使用情况和职责分成两大类:1)线程独享(程序执行区)虚拟机栈,本地方法栈,程序计数器特点:不需要垃圾回收2)线程共享(数据存储区域)堆和方法区存储类的静态数据和对象数据特点:需要垃圾回收堆是虚拟机所管理的内存中最大的一块,在虚拟器启动时创建,被所有线程共享。此区域的唯一目的就是存放对象实例,一般来说对象实例都是在这里分配内存,包括现对象、数组与运行时常量。堆内存划分依据:1.弱
njnu@liyong
·
2024-02-12 22:06
JVM虚拟机
jvm
运行时数据区
常量池
新生代
老年代
JVM-
类加载器 && 双亲委派机制
申明:文章内容是本人学习极客时间课程所写,文字和图片基本来源于课程资料,在某些地方会插入一点自己的理解,未用于商业用途,侵删。什么是JVMJVM是JavaVirtualMachine(Java虚拟机)的缩写,是通过在实际的计算机上仿真模拟各种计算机功能来实现的。由一套字节码指令集、一组寄存器、一个栈、一个垃圾回收堆和一个存储方法域等组成。JVM屏蔽了与操作系统平台相关的信息,使得Java程序只需要
njnu@liyong
·
2024-02-12 22:35
JVM虚拟机
jvm
类加载器
双亲委派
MySQL性能
调优
篇(1)-分析执行计划的方法
MySQL是一种常用的关系型数据库管理系统,它的性能优化对于数据处理的效率和性能至关重要。在优化MySQL数据库的过程中,分析执行计划是一个重要的步骤。执行计划是查询优化器在执行SQL语句时生成的一种解析树或操作流程图,用于描述MySQL数据库系统按照哪种方式执行查询操作。本文将介绍如何使用MySQL的语法来分析执行计划,并提供详细的示例。在MySQL中,我们可以使用EXPLAIN关键字来分析执行
俞兆鹏
·
2024-02-12 13:56
MySQL学习指南
mysql
JVM
调优
的一些常用技术
JVM(Java虚拟机)
调优
是一个复杂的过程,涉及到对JVM运行时行为的监控和调整,以提高应用程序的性能和响应速度,减少内存使用,避免内存泄漏等问题。
dreammaker阿甘
·
2024-02-12 12:48
JAVA
jvm
gerrit
调优
——超级干货
一、确定配置大小根据gerrit使用的服务器集群的硬件配置来确定大小二、调整gerrit.configreceive.timeout处理传入更改和更新refs和Gerrit更改的超时。sshd.threads处理ssh请求的线程,限制可能的并行克隆/推送的数量httpd.maxThreads处理http克隆/推送请求和审查相关活动的线程数量database.poolLimitGerrit的数据库连
KEY丶
·
2024-02-11 21:50
Guava Cache之开启统计信息收集
GauvaCache开启统计信息收集1.开启统计在创建Cache时,我们可以配置Cache让其开启统计信息收集,这样我们就可以对Cache的内存使用情况进行监控,并根据统计信息对cache进行
调优
,如果您的应用比较重视性能的话
大风过岗
·
2024-02-11 21:00
一、全面理解 JVM 虚拟机
然后:学习JVM也是进行JVM
调优
的基础。写的代码放到线上要如何运行?要配多少内存?4G够不够?线上环境出问题,服务崩溃了,怎么快速定位?怎么解决问题?
硅谷子编程
·
2024-02-11 19:46
jvm
通义灵码——灵动指间,快码加编,你的智能编码助手
是阿里云出品的一款基于通义大模型的智能编码辅助工具,提供行级/函数级实时续写、自然语言生成代码、单元测试生成、代码优化、注释生成、代码解释、研发智能问答、异常报错排查等能力,并针对阿里云的云服务使用场景
调优
·
2024-02-11 18:13
阿里云云原生
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他