cdh调优

Hive学习——企业级调优

目录一、计算资源调优(一)Yarn资源配置——集群1.Yarn配置说明(1)yarn.nodemanager.resource.memory-mb(2)yarn.nodemanager.resource.cpu-vcores
雷神乐乐·2023-12-27 18:49

【hive】hive的调优经验

一、hive自己进行优化对union这样的命令进行了优化二、数据本地化率hdfs数据本地化率对hive性能产生影响在数据大小一定的情况下，500个128M的文件和2个30G的文件跑hive任务，性能是有差异的，两者最大的区别在于，后者在读取文件时，需要跨网络传输，而前者为本地读写。数据本地化率问题。三、数据格式hive提供text，sequenceFile，RCFile，ORC，Parquest等
kiraraLou·2023-12-27 18:49

论文阅读——TÜLU

TÜLU：通过整合资源实现更好的教学调优模型加指令的多样性可以有效地提高指令调整的性能。所以创建了两个混合数据集，
じんじん·2023-12-27 17:07

ChatGLM2-6B微调实践-QLora方案

ChatGLM2-6B微调实践-QLora方案环境部署Lora微调项目部署准备数据集修改训练脚本adapter推理模型合并与量化合并后的模型推理参数调优微调过程中遇到的问题参考：环境部署申请阿里云GPU
我在北国不背锅·2023-12-27 15:25

企业级实战项目：基于 pycaret 自动化预测公司是否破产

本文系数据挖掘实战系列文章，我跟大家分享一个数据挖掘实战，与以往的数据实战不同的是，用自动机器学习方法完成模型构建与调优部分工作，深入理解由此带来的便利与效果。
Python数据挖掘·2023-12-27 12:40

达梦数据库DPI接口常用句柄、宏、返回值信息

达梦DPI包含以下句柄：句柄说明宏定义dhenv环境句柄DSQL_HANDLE_ENVdhcon连接句柄DSQL_HANDLE_DBCdhstmt语句句柄DSQL_HANDLE_STMTdhdesc描述符句柄
Bussy-Lake·2023-12-27 07:16

Hadoop-Hbase集群搭建

1.下载http://archive.cloudera.com/cdh5/cdh/5/hbase-1.2.0-cdh5.7.0.tar.gz2.解压#解压到指定的文件夹tarxzvfhbase-1.2.0
GuangHui·2023-12-27 07:17

调优-mybatis saveBatch

一条一条插入：批量插入：批量插入-优化：在url配置#rewriteBatchedStatements=trueurl:jdbc:mysql://localhost:3306/xi_ning?characterEncoding=utf-8&serverTimezone=UTC&rewriteBatchedStatements=truerewriteBatchedStatements=true是一个
猫三棂·2023-12-27 06:40

JVM面试题

3.直接内存4.说一下类加载的执行过程5.JVM调优参数有哪些6.JVM调优的工具7.java内存泄漏的排查思路8.cpu飙高排查方案和思路1.什么是虚拟机栈每个线程运行时需要的内存，称为虚拟机栈2.方法内的局部变量是线程安全吗
ITfeib·2023-12-27 06:12

CDH安装

https://www.linuxidc.com/Linux/2018-03/151491.htmCentOS7下ClouderaManager及CDH5.14.0安装过程详解1.系统环境搭建1.1下载
Hanson_Huang·2023-12-27 00:03

JVM调优之经验

在生产系统中，高吞吐和低延迟一直都是JVM调优的最终目标，但这两者恰恰又是相悖的，鱼和熊掌不可兼得，所以在调优之前要清楚舍谁而取谁。
alterem·2023-12-26 23:21

码歌老薛大话Java性能调优，Java调优概述(一)

老薛读书会1第一本书大话java性能调优书籍简单介绍，今天和大家读的是大话java性能调优这本书，IBM技术专家周明耀先生编纂。
坑王老薛·2023-12-26 19:56

Linux性能调优 | 01 平均负载的理解和分析

01uptime命令通常我们发现系统变慢时，我们都会执行top或者uptime命令，来查看当前系统的负载情况，比如像下面，我执行了uptime，系统返回的了结果。[root@lincoding~]#uptime08:31:49up27min,1user,loadaverage:0.07,0.04,0.00前几列的信息，相信大家都很熟悉，它们分别是当前时间、系统运行时间和正在登陆的用户个数，最后一个
小林coding·2023-12-26 19:15

EMQ百万级MQTT消息服务(优化和压测)

只有你自己试了才知道,本节就带着大家一起有调优系统配置和对EMQ进行压力测试来一探EMQ的庐山真面目附上:喵了个咪的博客:w-blog.cnEMQ官方地址:http://emqtt.com/EMQ中文文档
文振熙·2023-12-26 13:14

使用Java进行性能调优的实践指南

为了确保Java应用程序的高效运行，性能调优成为了一项重要的任务。本文将为您提供一份使用Java进行性能调优的实践指南，帮助您优化应用程序的性能。
api77·2023-12-26 12:52

JVM调优的参数在哪里可以进行设置（不是指临时的）

WAR包部署在Tomcat中时，可以通过设置JVM调优参数来提升性能。以下是一些常用的JVM调优参数：-Xms:设置JVM的初始堆大小，例如-Xms512m表示初始堆大小为512MB。
Flying_Fish_roe·2023-12-26 09:29

大数据从业者必知必会的Hive SQL调优技巧 | 京东云技术团队

本文针对HiveSQL的性能优化进行深入研究，提出了一系列可行的调优方案，并给出了相应的优化案例和优化前后的SQL代码。通过合理的优化策略和技巧，能够显著提升HiveSQL的执行效率和响应速度。
京东云技术团队·2023-12-26 06:33

08-JVM调优实战及常量池详解

文章目录阿里巴巴Arthas详解Arthas使用场景Arthas使用GC日志详解打印GC日志方法如何分析GC日志CMSG1JVM参数汇总查看命令Class常量池与运行时常量池字面量符号引用字符串常量池字符串常量池的设计思想三种字符串操作(Jdk1.7及以上版本)字符串常量池位置字符串常量池设计原理String常量池问题的几个例子示例1：示例2：示例3：示例4：示例5：示例6：关于String是不可
月球程序猿·2023-12-26 04:15

Jenkins的特殊操作定时自动执行任务以及测试报告调优

java-Dhudson.model.DirectoryBrowserSupport.CSP=-jarJenkins.war测试报告不美丽执行上面的代码重启jenkins就好了
MaoLingHao·2023-12-26 03:29

Pulsar 详解 - 索引目录

Pulsar详解3—工作原理&客户端API（示例：Go语言）Pulsar详解4—Pulsar的高级特性（示例：Go语言）Pulsar详解5—Pulsar的管理和监控Pulsar详解6—Pulsar的性能调优
风不归Alkaid·2023-12-26 02:29

CDH框架搭建【小白易上手】

CDH框架搭建Vmware安装CentOS虚拟机java环境搭建mysql环境搭建CDH集群搭建遇到的问题1.磁盘空间不够2.centOS版本过低3.连接虚拟机ip失败4.node0节点无法加入集群Vmware
刀锋0001·2023-12-26 02:14

jdk官网及说明

/8-MR3OracleJDK官方地址：https://www.oracle.com/technetwork/java/javase/downloads/index.htmlJVM-XXOptions调优参数
三侠剑·2023-12-26 00:33

Java 后端开发学习路线

图片版思维导图在底部编程基础Java语言语言基础基础语法面向对象接口容器异常泛型反射注解I/O图形化（如Swing）JVM类加载机制字节码执行机制JVM内存模型GC垃圾回收JVM性能监控与故障定位JVM调优并发
三尺青锋丶·2023-12-26 00:39

java.io.IOException: Key exchange was not finished, connection is closed.Cannot negotiate, proposa

diffie-hellman-group14-sha1,diffie-hellman-group-exchange-sha1,diffie-hellman-group-exchange-sha256,ecdh-sha2
zhaofuqiangmycomm·2023-12-25 23:39

Rocksdb参数调优指南

本指南的目的是提供你足够的信息用于根据自己的工作负载和系统配置调优RocksDB。RocksDB非常灵活，这有好也有坏。你可以真多很多工作场景和存储技术进行调优。
xiannvlei·2023-12-25 23:57

centos 7.6源码编译DPDK 19.11.14

yum-yinstallgccgcc-c++libstdc++-develmakenet-toolspciutilssudo下载匹配的kernel、kernel-devel、kernel-headersrpm包[root@cdh1kernel
dongsongz·2023-12-25 22:34

京东一面：20多种异步方式，你知道几个？含协程

圈内一大波顶级高手、架构师、发烧友已经实现技术自由；另外一大波卷王，正在狠狠卷，奔向技术自由29篇原创内容公众号异步，作为性能调优核心方式之一，经常被用于各种高并发场景。
竹林幽深·2023-12-25 22:28

Java性能调优

一个用Java写的GUI程序，作用是分析日志，它会将一定数量的格式相同的文本日志文件读入内存分析处理，然后将结果合并输出。文件数量几十个，文件大小几KB，日志记录几千条左右，此工具可以流畅处理，轻松满足需求。然而，因为记录日志的方案调整，记录日志类型范围从warn、error级别扩大到了连info、debug级别的日志也要记录，从而导致了日志量激增，固定时间范围内产生的日志文件增加到了几百个，单个
Java高级架构狮·2023-12-25 20:25

2023年12月份openGauss训练营培训课程课件

与其他开源数据库相比，openGauss具有以下特点：高性能——两路鲲鹏性能150万tpmC高可靠——故障切换时间RTO<10s高安全——端到端全方位安全防护易运维——基于AI的智能参数调优课时1:openGauss
福娃筱欢·2023-12-25 17:49

JBoss安装并部署war包

一、简介JBOSS是一个免费的开放源代码的Web应用服务器，技术先进、性能稳定，而且免费，将Tomcat内核作为其Servlet容器引擎，并加以审核和调优。
飞奔的屎壳郎·2023-12-25 11:47

Java实现异步的原因、场景、实现异步的方式

文章目录实现异步的原因：异步和同步的区别异步使用的场景实现异步的方式：实现异步的20种实现方式异步，作为性能调优核心方式之一，经常被用于各种高并发场景。
思静语·2023-12-25 02:13

mysql的性能调优，explain的用法，explain各字段的解释

EXPLAIN一条语句的各字段解析如下id首先我们要知道explain的每一条记录都对应着访问单表的方式，即使说一条查询语句可能用了两个表，那也要拆成两条记录，只不过二者id相同，因为一个SELECT对应一个id。并且出现在前面的s1代表mysql选择它作为驱动表，而后面的s2代表mysql选择其作为被驱动表：假设是一个SELECT的查询结果作为临时表给另一个SELECT，那就是两个id了：但我们
結城·2023-12-25 00:33

系统故障诊断

在极客时间上，学习过《linux性能调优》算是对Linux下的系统诊断，做了一个全面的描述，可是
明翼·2023-12-24 22:39

Flink优化——资源优化（一）

）并行度设置最优并行度计算Source端并行度的配置Transform端并行度的配置Keyby之前的算子Keyby之后的算子（KeyGroup最小值为128）Sink端并行度的配置RocksDB大状态调优设置本地
Stray_Lambs·2023-12-24 22:54

【性能优化】MySql数据库查询优化方案

阅读本文你的收获了解系统运行效率提升的整体解决思路和方向学会MySQl中进行数据库查询优化的步骤学会看慢查询、执行计划、进行性能分析、调优一、问题：如果你的系统运行很慢，你有什么解决方案？
采石之人·2023-12-24 21:22

Android App选择最优的服务器地址

简介对于很多app来说，如果有文件上传、多媒体播放之类的功能，性能调优的重点之一一定是上传或者播放的速度。其中，可以尝试的一个做法是Server端分布式部署，在app启动时选择当前最为合适的服务器。
zyguo·2023-12-24 19:30

hive tez出现java堆内存溢出进行调优

运行hive任务的时候出现了错误，日志如下：ERROR:FAILED:ExecutionError,returncode2fromorg.apache.hadoop.hive.ql.exec.tez.TezTask.Vertexfailed,vertexName=Map1,vertexId=vertex_1608805116045_1296_1_04,diagnostics=[Taskfailed
旺旺_865f·2023-12-24 17:36

Shell Tools of Missing Semester（二）

foo=barecho"$foo"#打印barecho'$foo'#打印$foobash同样支持函数：mcd(){mkdir-p"$1"cd"$1"}输入：mcdhello由于hello是函数的第一个参数
瑜陀·2023-12-24 15:47

linux调优之swap设置

通过free-h查询到内存还剩余很多，却使用swap分区；原因分析：1.swap设置开启的阀值过大，造成内存达到可使用swap的值2.docker设置了内存限制，但没限制swap的值(待求证)根虚拟机machine.slice和系统system.slices、user.slices等使用了swap空间。1.swap设置大小安装系统时，选择swap分区；swap不是越大越好，越大的时候说明内存不够用
IT杂人·2023-12-24 13:37

【调优】Linux优化Swap设置

【调优】Linux优化Swap设置1通过free-h查询到free-h内存还剩余很多，却使用swap分区；原因分析：1.swap设置开启的阀值过大，造成内存达到可使用swap的值2.docker设置了内存限制
我是Superman丶·2023-12-24 13:36

控制map个数与性能调优参数

本文转自：涤生手记本系列几章系统地介绍了开发中Hive常见的用户配置属性（有时称为参数，变量或选项），并说明了哪些版本引入了哪些属性，常见有哪些属性的使用，哪些属性可以进行Hive调优，以及如何使用的问题
xuanxing123·2023-12-24 13:13

案例系列：泰坦尼克号_预测幸存者_TensorFlow决策森林

文章目录1.导入依赖库2.加载数据集3.准备数据集4.将Pandas数据集转换为TensorFlow数据集5.使用默认参数训练模型6.使用改进的默认参数训练模型7.进行预测8.使用超参数调优训练模型9.
愤斗的橘子·2023-12-24 11:37

hive企业级调优策略之CBO,谓词下推等优化

测试所用到的数据参考：原文链接：https://blog.csdn.net/m0_52606060/article/details/135080511本教程的计算环境为HiveonMR。计算资源的调整主要包括Yarn和MR。CBO优化优化说明CBO是指CostbasedOptimizer，即基于计算成本的优化。在Hive中，计算成本模型考虑到了：数据的行数、CPU、本地IO、HDFSIO、网络IO
Appreciate(欣赏)·2023-12-24 07:26

技本功|Hive优化之监控（三）

Hive是大数据领域常用的组件之一，主要是大数据离线数仓的运算，关于Hive的性能调优在日常工作和面试中是经常涉及的一个点，因此掌握一些Hive调优是必不可少的技能。
云掣YUNCHE·2023-12-24 03:15

技本功|Hive优化之Spark执行引擎参数调优（二）

Hive是大数据领域常用的组件之一，主要是大数据离线数仓的运算，关于Hive的性能调优在日常工作和面试中是经常涉及的的一个点，因此掌握一些Hive调优是必不可少的一项技能。
云掣YUNCHE·2023-12-24 03:44

软件测试报告-专业第三方检测机构-CNAS专业资质

用于各类软件和硬件系统相结合的综合性集成项目的第三方验收测试，如政府、事业单位、企业、学校等项目验收）4、系统测试报告（用于软件和系统集成项目，开发方发起并组织的项目验收）5、性能测试报告（适用于项目性能验证、性能调优
新支点小星·2023-12-24 03:13

hadoop 3.3.3集群安装部署

前言大数据开发涉及的组件和方向比较多，由于之前项目使用的都是成熟的大数据产品CDH或者HDP，里面封装了多个大数据组件，对于企业而言，无论是体验还是维护都比较友好，但对于开发人员来说，太过于集成，反而不太好了解各个组件具体的配置细节
以茉萱·2023-12-24 02:18

千亿级工业大数据的最优方案！智光电气的时序数据库应用

小T导读：此前，智光电气（股票代码：002169）子公司智光研究院在工业项目中使用基于ApacheHadoop的CDH集群来做时序业务数据的处理，但由于数据量级太大，处理占用了大量资源，导致集群有发生崩溃的风险
涛思数据（TDengine）·2023-12-24 01:25

Mysql调优之Explain

extendexplainextended+showwarnings例子：mysql>explainextendedselect*fromuser_scoreusinnerjoinuser_infouionus.uid=ui.uidwhereus.id=5;+----+-------------+-------+-------+-------------------+---------+-----
10968ce0f35d·2023-12-23 22:06

记录一次生产jvm调优

jvm参数配置几个必须知道的参数含义说下我们生产配置,服务四个节点,单节点分配16g内存-Xms16g初始化堆大小-Xmx16g最大堆内存-Xmn6gm年轻代内存大小-Xss256k每个线程的初始化内存-XX:MetaspaceSize=256m元空间触发gc的大小-XX:+HeapDumpOnOutOfMemoryError配置堆栈内存溢出错误日志-XX:HeapDumpPath=/opt/lo
Charon笔记·2023-12-23 20:32
上一页 17 18 19 20 21 22 23 24 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他