musql调优

(15)Hive调优——数据倾斜的解决指南

目录前言一、什么是数据倾斜二、发生数据倾斜的表现2.1MapReduce任务2.2Spark任务三、如何定位发生数据倾斜的代码四、发生数据倾斜的原因3.1key分布不均匀3.1.1某些key存在大量相同值3.1.2存在大量异常值或空值3.2业务数据本身的特性3.3SQL语句本身就有数据倾斜3.4建表时考虑不周四、触发数据倾斜的SQL操作五、数据倾斜的解决方案5.1Map长尾优化5.1.1Map读取
爱吃辣条byte·2024-02-19 11:50

相机图像质量研究(20)常见问题总结：CMOS期间对成像的影响--全局快门/卷帘快门

系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台调优介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结：光学结构对成像的影响--焦距相机图像质量研究
上天肖·2024-02-19 11:19

相机图像质量研究(17)常见问题总结：CMOS期间对成像的影响--靶面尺寸

系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台调优介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结：光学结构对成像的影响--焦距相机图像质量研究
上天肖·2024-02-19 11:18

相机图像质量研究(14)常见问题总结：光学结构对成像的影响--伪像

系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台调优介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结：光学结构对成像的影响--焦距相机图像质量研究
上天肖·2024-02-19 11:48

相机图像质量研究(24)常见问题总结：CMOS期间对成像的影响--摩尔纹

系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台调优介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结：光学结构对成像的影响--焦距相机图像质量研究
上天肖·2024-02-19 10:44

相机图像质量研究(35)常见问题总结：图像处理对成像的影响--运动噪声

系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台调优介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结：光学结构对成像的影响--焦距相机图像质量研究
上天肖·2024-02-19 10:06

相机图像质量研究(33)常见问题总结：图像处理对成像的影响--锯齿

系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台调优介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结：光学结构对成像的影响--焦距相机图像质量研究
上天肖·2024-02-19 10:05

相机图像质量研究(34)常见问题总结：图像处理对成像的影响--拖影

系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台调优介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结：光学结构对成像的影响--焦距相机图像质量研究
上天肖·2024-02-19 10:05

相机图像质量研究(31)常见问题总结：图像处理对成像的影响--图像差

系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台调优介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结：光学结构对成像的影响--焦距相机图像质量研究
上天肖·2024-02-19 10:35

相机图像质量研究(32)常见问题总结：图像处理对成像的影响--振铃效应

系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台调优介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结：光学结构对成像的影响--焦距相机图像质量研究
上天肖·2024-02-19 10:35

Hive调优——count distinct替换

离线数仓开发过程中经常会对数据去重后聚合统计，而对于大数据量来说，count(distinct)操作消耗资源且查询性能很慢，以下是调优的方式。
爱吃辣条byte·2024-02-15 10:58

NLP_ChatGPT的RLHF实战

而ChatGPT的训练工程称得上是复杂而又神秘的，迄今为止，OpenAl也没有开源它的训练及调优的细节。从OpenAl已经公开的一部分信息推知，ChatGPT的训练主要由三个步骤组成，如下图所示。
you_are_my_sunshine*·2024-02-15 09:41

Hive3.1.2——企业级调优

前言本篇文章主要整理hive-3.1.2版本的企业调优经验，有误请指出~一、性能评估和优化1.1Explain查询计划使用explain命令可以分析查询计划，查看计划中的资源消耗情况，定位潜在的性能问题
爱吃辣条byte·2024-02-15 09:48

MySQL性能调优篇(3)-缓存的优化与清理

MySQL数据库缓存的优化与清理数据库缓存在MySQL中扮演着非常重要的角色，它可以显著提高数据库的性能和响应速度。在本篇博客中，我们将介绍如何优化和清理MySQL数据库的缓存，以进一步提高数据库的效率。优化缓存1.适当调整缓存大小MySQL数据库的缓存大小对性能有着直接的影响。通过修改以下两个参数，可以调整缓存的大小：innodb_buffer_pool_size：适用于InnoDB存储引擎，用
俞兆鹏·2024-02-15 08:35

MySQL性能调优篇(4)-查询语句的优化与重构

MySQL数据库查询语句的优化与重构MySQL是一种常用的关系型数据库管理系统，广泛应用于Web开发中。在实际应用中，对数据库查询语句的优化和重构是提高应用性能和响应速度的重要手段。本文将介绍一些常见的优化技巧和重构方法，帮助开发者提高数据库查询效率。优化索引索引是数据库中存储数据位置的数据结构，可以加快查询操作的速度。对于频繁查询的列，可以为其添加索引。常用的索引类型包括主键索引、唯一索引和普通
俞兆鹏·2024-02-15 08:24

【MySQL进阶之路】亿级数据量表SQL调优实战

亿级数据量表SQL调优实战先说一下案例背景：在电商平台中，有一个商品表，数据量级别上亿，有一天晚上突然出现大量的慢查询告警，导致每一个数据库连接执行慢查询耗费几十秒的时间，以至于数据
11来了·2024-02-15 05:32

【MySQL进阶之路】十亿量级评论表SQL调优实战

十亿量级评论表SQL调优实战先说一下案例背景：在电商系统的评论表中，数据量非常大，达到了十亿量级，因此对评论的数据库进行分库分表处理，在分库分表之后，基本上单表的评论数据在百万级别左
11来了·2024-02-15 05:32

记一次PHP并发性能调优实战 -- 性能提升104%

适合阅读人群文中的调优思路无论是php,java,还是其他任何语言都是用.如果你有php使用经验,那肯定就更好了业务背景框架及相应环境laravel5.7,mysql5.7,redis5,nginx1.15centos7.5bbrdocker
PHP9年架构师·2024-02-15 04:59

Java 性能调优的 11 个实用技巧

大多数开发人员认为性能优化是个比较复杂的问题，需要大量的经验和知识。是的，这并不没有错。诚然，优化应用程序以获得最好的性能并不是一件容易的事情，但这并不意味着你在没有获得这些经验和知识之前就不能做任何事。下面有几个很容易遵循的建议和最佳实践能够帮你创建一个性能良好的应用程序。这些建议中的大多数都是基于Java的，但是也不一定，也有一些是可以应用于所有的应用程序和编程语言的。在我们分享基于Java的
java菜·2024-02-15 04:29

MySQL 优化

查看MySQL的运行状态如果系统的并发请求数不高，且查询速度慢，可以忽略该步骤直接进行SQL语句调优步骤。
Neo_zero·2024-02-14 22:24

MySQL性能调优-(七)分区分表

分区表的应用场景1.表非常大以至于无法全部都放在内存中，或者只在表的最后部分有热点数据，其他均是历史数据2.分区表的数据更容易维护批量删除大量数据可以使用清除整个分区的方式对一个独立分区进行优化、检查、修复等操作3.分区表的数据可以分布在不同的物理设备上，从而高效地利用多个硬件设备4.可以使用分区表来避免某些特殊的瓶颈innodb的单个索引的互斥访问ext3文件系统的inode锁竞争5.可以备份和
努力的布布·2024-02-14 18:38

Spark通过jdbc性能调优--采用分区的方式从oracle读数据

spark通过jdbc读取Oracle，当数据量很大的时候会出现两个问题：读取数据异常缓慢，甚至卡死大表中进行操作也会出现OOM的问题调优常规的读取数据库的方式如下ods_bdz=spark.read.format
korry24·2024-02-14 18:08

MySQL性能调优篇(5)-分区表的设计和使用

数据库分区表是MySQL中一种高效的数据管理技术，能够帮助我们更好地进行数据存储和查询。在本文中，我们将介绍MySQL数据库分区表的设计和使用。什么是数据库分区表数据库分区表是将一个大表拆分成多个小表，每个小表称为一个分区。分区表在逻辑上仍然是一个完整的表，但在物理存储上被分成多个部分。分区表可以根据表中的某个列的值进行划分，比如根据日期、地区、用户ID等。这样可以将数据分散存储在不同的分区中，提
俞兆鹏·2024-02-14 18:38

Spark编程实验六：Spark机器学习库MLlib编程

目录一、目的与要求二、实验内容三、实验步骤1、数据导入2、进行主成分分析（PCA）3、训练分类模型并预测居民收入4、超参数调优四、结果分析与实验体会一、目的与要求1、通过实验掌握基本的MLLib编程方法
Francek Chen·2024-02-14 14:48

2021金三银四面试跳槽必备：15个互联网大厂Java高级工程师核心面试宝典

内容包括：Java集合22题及答案解析JVM与调优21题及答案解析并发编程28题及答案解析Spring25题及答案解析23种设计模式解析SpringBoot25题及答案解析分布式高并发架构解析（消息队列
码农小芷·2024-02-14 11:43

openGauss学习笔记-218 openGauss性能调优-确定性能调优范围-硬件瓶颈点分析-I/O

文章目录openGauss学习笔记-218openGauss性能调优-确定性能调优范围-硬件瓶颈点分析-I/O218.1查看I/O状况218.2性能参数分析openGauss学习笔记-218openGauss
superman超哥·2024-02-14 10:36

openGauss学习笔记-217 openGauss性能调优-确定性能调优范围-硬件瓶颈点分析-内存

文章目录openGauss学习笔记-217openGauss性能调优-确定性能调优范围-硬件瓶颈点分析-内存217.1查看内存状况217.2性能参数分析openGauss学习笔记-217openGauss
superman超哥·2024-02-14 10:34

《Java 简易速速上手小册》第8章：Java 性能优化（2024 最新版）

8.1.1基础知识8.1.2重点案例：使用VisualVM监控应用性能8.1.3拓展案例1：使用JProfiler分析内存泄漏8.1.4拓展案例2：使用Gatling进行Web应用压力测试8.2JVM调优
江帅帅·2024-02-14 07:25

java面试题/认证答辩 ---linux系统操作

基本命令（cd，ls，top等）的使用掌握：掌握常用软件的安装(java,mysql等)精通：掌握常见运维工具的使用，能进行脚本开发综合应用:掌握linux操作系统的基本原理，具备在系统下进行网络配置，性能调优
Fuly1024·2024-02-14 05:31

MySQL高级篇——排序、分组、分页优化

MySQL高级篇+设计模式+牛客面试题目录5.排序优化5.1排序优化建议5.2测试5.2.1案例验证5.3.2练习5.3范围查询时索引字段选择5.4filesort算法5.4.1双路排序和单路排序5.4.2调优
程序员小海绵【vincewm】·2024-02-14 02:01

《Linux 简易速速上手小册》第10章: 性能监控与优化（2024 最新版）

10.1.4拓展案例2：分析具体时间段的系统负载10.2优化性能10.2.1重点基础知识10.2.2重点案例：优化Web服务器性能10.2.3拓展案例1：数据库服务器性能优化10.2.4拓展案例2：网络性能调优
江帅帅·2024-02-13 22:58

佳人西洲

一个人听歌，最开始一定是听曲，曲调优美，抓人，令人感叹，就会听下去，更别说听了之后能在虚无间生出许多幻想感叹的，人说绕梁三日而不绝，食不知味，就是佳曲。
夜光丶·2024-02-13 22:23

openwrt折腾记5 广告屏蔽大师adbyby深度调优（借用老毛子完美数据文件）

广告屏蔽大师adbyby深度调优本文的精进起始和结局一、探索试融合试用adbyby规则文件二、对luci-app-adbyby-plus更新lazy.txt,video.txt文件脚本adbybyupdate.sh
wjcroom·2024-02-13 11:19

相机图像质量研究(12)常见问题总结：光学结构对成像的影响--炫光

系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台调优介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结：光学结构对成像的影响--焦距相机图像质量研究
上天肖·2024-02-13 10:00

Python机器学习之交叉验证

交叉验证是一种非常常用的对于模型泛化能力进行评估方法，交叉验证既可以解决数据集的数据量不够大问题，也可以解决参数调优的问题。
一只怂货小脑斧·2024-02-13 09:32

Hive调优——explain执行计划

一、explain查询计划概述explain将HiveSQL语句的实现步骤、依赖关系进行解析，帮助用户理解一条HQL语句在底层是如何实现数据的查询及处理，通过分析执行计划来达到Hive调优，数据倾斜排查等目的
爱吃辣条byte·2024-02-13 07:10

探索XGBoost：多分类与不平衡数据处理

本教程将深入探讨如何在Python中使用XGBoost处理多分类和不平衡数据，包括数据准备、模型调优和评估等方面，并提供相应的代码示例。准备数据首先，我们需要准备多分类和不平衡的数据集。
Echo_Wish·2024-02-13 05:19

MySQL性能调优篇(1)-分析执行计划的方法

MySQL是一种常用的关系型数据库管理系统，它的性能优化对于数据处理的效率和性能至关重要。在优化MySQL数据库的过程中，分析执行计划是一个重要的步骤。执行计划是查询优化器在执行SQL语句时生成的一种解析树或操作流程图，用于描述MySQL数据库系统按照哪种方式执行查询操作。本文将介绍如何使用MySQL的语法来分析执行计划，并提供详细的示例。在MySQL中，我们可以使用EXPLAIN关键字来分析执行
俞兆鹏·2024-02-12 13:56

JVM调优的一些常用技术

JVM（Java虚拟机）调优是一个复杂的过程，涉及到对JVM运行时行为的监控和调整，以提高应用程序的性能和响应速度，减少内存使用，避免内存泄漏等问题。
dreammaker阿甘·2024-02-12 12:48

gerrit调优——超级干货

一、确定配置大小根据gerrit使用的服务器集群的硬件配置来确定大小二、调整gerrit.configreceive.timeout处理传入更改和更新refs和Gerrit更改的超时。sshd.threads处理ssh请求的线程，限制可能的并行克隆/推送的数量httpd.maxThreads处理http克隆/推送请求和审查相关活动的线程数量database.poolLimitGerrit的数据库连
KEY丶·2024-02-11 21:50

Guava Cache之开启统计信息收集

GauvaCache开启统计信息收集1.开启统计在创建Cache时，我们可以配置Cache让其开启统计信息收集，这样我们就可以对Cache的内存使用情况进行监控，并根据统计信息对cache进行调优，如果您的应用比较重视性能的话
大风过岗·2024-02-11 21:00

一、全面理解 JVM 虚拟机

然后：学习JVM也是进行JVM调优的基础。写的代码放到线上要如何运行？要配多少内存？4G够不够？线上环境出问题，服务崩溃了，怎么快速定位？怎么解决问题？
硅谷子编程·2024-02-11 19:46

通义灵码——灵动指间，快码加编，你的智能编码助手

是阿里云出品的一款基于通义大模型的智能编码辅助工具，提供行级/函数级实时续写、自然语言生成代码、单元测试生成、代码优化、注释生成、代码解释、研发智能问答、异常报错排查等能力，并针对阿里云的云服务使用场景调优
·2024-02-11 18:13

JVM | 第2部分：虚拟机执行子系统《深入理解 Java 虚拟机》

前言参考资料：《深入理解Java虚拟机-JVM高级特性与最佳实践》第1部分主题为自动内存管理，以此延伸出Java内存区域与内存溢出、垃圾收集器与内存分配策略、参数配置与性能调优等相关内容；第2部分主题为虚拟机执行子系统
多氯环己烷·2024-02-11 17:08

梯度提升树系列7——深入理解GBDT的参数调优

目录写在开头1.GBDT的关键参数解析1.1学习率（learningrate）1.2树的数量（n_estimators）1.3树的最大深度（max_depth）1.4叶子节点的最小样本数（min_samples_leaf）1.5特征选择的比例（max_features）1.6最小分裂所需的样本数（min_samples_split）1.7子采样比例（subsample）1.8损失函数（loss）1
theskylife·2024-02-11 14:40

相机图像质量研究(11)常见问题总结：光学结构对成像的影响--像差

系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台调优介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结：光学结构对成像的影响--焦距相机图像质量研究
上天肖·2024-02-11 09:45

基于Swoole的高性能系统监控及Nginx负载均衡的实现

优化可以从很多的角度处理，比如说底层代码，系统调优比如要加大核数或者是否借助es查mysql，或者不同地区用户走到哪个机房。Part1服务监控
Bing的天涯路·2024-02-11 08:54

一次显著的性能提升，从8s到0.7s

今天从实战的角度出发，给大家分享一下如何做SQL调优。经过两次优化之后，慢SQL的性能显著提升了，耗时从8s优化到了0.7s。1案发现场前几天，我收到了一封报警邮件，提示有一条慢查询SQL。
近咫／＼ぃ天涯·2024-02-11 08:15

并发编程(一)-多线程&并发设计原理

在一些对性能要求比较高场合，多线程是java程序调优的重要方面。Java并发编程主要涉及以下几个部分：并发编程三要素原子性：即一个不可再被分割的颗粒。
Alan1914·2024-02-11 07:49

深度剖析JVM调优法则：从两大特性CPU、内存出发轻松掌握调优实战技巧

1、JDK自带工具场景一、CPU过高CPU占用过高排查思路：（查进程->查线程列表->查线程堆栈）step1：通过top命令查询占用CPU情况topp.s.shift+p(大写的P-cpu排序)shift+m(大写的M-内存排序)step2：通过进程pid，查询对应的线程列表top-Hppid-H：显示线程信息-ppid1,pid2,...：只显示指定进程的信息step3：线程id转为十六进制从s
栈江湖·2024-02-11 03:04
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他