hbase调优

数据写入HBase（scala）

packagesourceimportorg.apache.hadoop.hbase.
莫噶·2024-01-30 07:51

Flink问题解决及性能调优-【Flink rocksDB读写state大对象导致背压问题调优】

RocksDB是Flink中用于持久化状态的默认后端，它提供了高性能和可靠的状态存储。然而，当处理大型状态并频繁读写时，可能会导致背压问题，因为RocksDB需要从磁盘读取和写入数据，而这可能成为瓶颈。遇到的问题Flink开发中遇到读写state大对象的问题，FlinkwebUI火焰图表现如下：从图上看，瓶颈卡在序列化与反序列化，结合业务逻辑代码，业务涉及state大对象的读写，并且是ValueS
PONY LEE·2024-01-30 07:48

Hadoop与Spark横向比较【大数据扫盲】

例如：-键值存储：如Redis，AmazonDynamoDB-列式存储：如ApacheCassandra，HBase-文档数据库：如M
super_journey·2024-01-30 06:51

云上业务一键性能调优，应用程序性能诊断工具 Btune 上线

-01-终于等来了预算，这就把服务迁移到最新的CPU平台上去，这样前端的同事立马就能感受我们带来的速度提升了。可是……这些性能指标怎么回事？不仅没有全面提升，有些反而下降了。不应该这样啊，这可怎么办？花费了几个月时间终于搞定了业务模块的重构，立刻部署升级让业务焕然一新。可是……长尾延迟居然还增加了一倍，说好的业务效果提升呢，到底是哪里出了问题？上面的这些问题，对于开发运维工程师来说一定不陌生，经常
百度智能云技术站·2024-01-30 06:30

JVM性能调优

一、前言性能调优，顾名思义，就是对系统或软件的性能进行优化，以提高其运行效率和响应速度。在计算机科学中，性能调优通常涉及到硬件、操作系统、数据库、网络等多个方面。
大梦谁先觉i·2024-01-30 04:10

线程池的工作原理

线程是稀缺资源，如果无限制的创建，不仅会消耗大量系统资源，还会降低系统的稳定性，使用线程池可以进行对线程进行统一的分配、调优和监控七大参数：1.核心线程
虎神大帝·2024-01-29 23:50

深入理解 Java 类加载机制

了解这门语言的语法、写法，我把它叫做helloworld级别；第二层：了解这门语言的优劣势以及它的生态，了解这门语言的能力范围，我把它叫做应用级别；第三层：了解这门语言的底层运行机制，这有利于对程序进行调优
文晓武·2024-01-29 23:47

JVM 调优指南

JVM调优指南Java虚拟机（JVM）的性能调优是保证Java应用程序高效运行的关键。通过合理的调优，可以提高程序的性能、降低延迟，以及更好地利用硬件资源。
hymua·2024-01-29 23:17

103.Flume对Kafka数据采集并写入HBase

103.1演示环境介绍CM版本：5.12.1CDH版本：5.12.1Flume，HBase服务已安装且正常运行root用户操作103.2操作演示1.HBaseSink开发示例开发HBaseSink需要添加
大勇任卷舒·2024-01-29 21:54

Hive调优 | Hive常见数据倾斜及调优技巧

Hive在执行MapReduce任务时经常会碰到数据倾斜的问题，表现为一个或者几个reduce节点运行很慢，延长了整个任务完成的时间，这是由于某些key的条数比其他key多很多，这些Key所在的reduce节点所处理的数据量比其他节点就大很多，从而导致某几个节点迟迟运行不完。那么经常有哪些情况会产生数据倾斜呢，又该如何解决，这里梳理了几种最常见的数据倾斜场景。一、小表与大表JOIN小表与大表Joi
王知无·2024-01-29 21:10

spark调优之资源调优

资源调优为spark程序提供合理的内存资源，cpu资源等spark-sumbmit脚本常见参数1、–confPROP=VALUE==》手动给sparkConf指定相关配置，比如–confspark.serializer
XLMN·2024-01-29 20:54

浅析大数据汇总

传统的数据库技术已经无法满足对这些海量数据的存储和处理需求，因此出现了分布式存储和计算技术，如Hadoop、HBase等。
shinelord明·2024-01-29 19:10

Oracle性能调优——查看执行计划

在对oracle查询进行优化的时候，我们可以通过查看SQL语句的解释计划，从而找到SQL查询缓慢的原因以及对应的优化方法。具体来说，查看SQL的解释计划，有三种方式：explainplanfor命令、PL/SQLDeveloper、OracleSQLDeveloper。其中，explainplanfor命令可以通过sqlplus执行，OracleSQLDeveloper在安装数据库的时候应该已经安
土土豆进·2024-01-29 17:12

mysql 慢查询调优实战

目录异常现象：进行复现：寻找原因：解决办法：办法一：指定执行索引办法二：先按二级索引里字段排序，再按id排序办法三：取消排序最终方案：复盘：异常现象：报错慢查询原sql：selectid,infoid,orderid,utel,stel,refusetime,reasoncd,reason,deleteflag,params,cityid,paidanid,cateid,baojieworkert
王木风·2024-01-29 14:22

Hbase BulkLoad用法

要导入大量数据，Hbase的BulkLoad是必不可少的，在导入历史数据的时候，我们一般会选择使用BulkLoad方式，我们还可以借助Spark的计算能力将数据快速地导入。
kikiki2·2024-01-29 12:32

HbaseAPI语句小记

1.创建单例连接因为hbase的连接是一个重量级的，所以为了优化时间我们尽量使用一次连接，多次使用，也就是创建一次连接后，往后的每次使用都使用之前创建的连接，而不创建新的连接，也就是单例连接。
望 望·2024-01-29 12:24

基于大数据平台的kylin安装部署手册

目录一.单例Kylin部署1.环境准备1.1软件要求1.2硬件要求1.3Hadoop环境1.4安装前环境检查1.4.1开启时钟同步1.4.2安装net-tools1.4.3检查hbase是否可用1.4.4
猿来孺词·2024-01-29 10:26

Hbase BulkLoad用法

MR考查了Hbase的各种MR，没有发现哪一个是能实现的，如果有请通知我，我给他发红包。所以我们只能自己来写一个MR了，编写一个Hbase的MR，官方文档上也有相应的例子。
kikiki1·2024-01-29 10:34

Redis学习——高级篇②

==========Redis7高级之BigKey（二）==========1.MoreKey案例2.BigKey案例2.1多大算BigKey以及它的危害2.2如何产生、发现、删除3.bigKey生产调优
_Matthew·2024-01-29 08:22

BAT面试需要什么样的程序员？阿里七年经验面试官现身说法；

一、性能调优几乎每个JAVA后端开发程序员，都会在面试时碰到诸如如何性能调优的问题，如何回答好这个问题，不
风平浪静如码·2024-01-29 05:16

iOS js与原生交互图片base64解码问题

解决思路正常解码思路///base64字符串转图片///@parambase64String图片base64字符串-(UIImage*)imageWithBase64String:(NSString*)
__Mr_Xie__·2024-01-29 00:14

Spark | 记录下Spark作业执行时常见的参数属性配置

理解作业基本原理，是进行Spark作业资源参数调优的基本前提。
点滴笔记·2024-01-28 23:11

24件反人类服装设计，没有一件你能看懂

服装设计既要有很强的审美观和价值观，既然设计出来的衣服是要在生活中穿的，既要美观时尚，又要低调优雅，使服装永远不会落后，所以一个设计师在设计服装的过程中要忘掉自己是自
创意生活趣事·2024-01-28 21:30

剖析线程池ThreadPoolExecutor

文章目录线程池一、线程池概述二、ThreadPoolExecutor类详解三、线程池参数配置与优化四、线程池监控与调优五、线程池与其他并发工具比较六、线程池在实际应用中的案例分析案例背景线程池的配置配置线程池参数
小阳小朋友·2024-01-28 20:46

关于NoSQL的基本内容

4种类型键值(key-value)存储数据库列存储数据库：键仍然存在，但是指向了多个列，HBase(eg：博客平台(标签和文章)，日志)文档型数据库MongoDb(eg：淘宝商品的评价)
心诚则灵＇·2024-01-28 17:14

【JVM故障问题排查心得】「Java技术体系方向」Java虚拟机内存优化之虚拟机参数调优原理介绍

Java技术体系方向-JVM虚拟机参数调优原理内容简介栈上分配与逃逸分析逃逸分析(EscapeAnalysis)栈上分配基本思想使用场景线程私有对象虚拟机内存逻辑图JVM内存分配源码：代码总体逻辑在某些场景使用栈上分配设置
洛神灬殇·2024-01-28 16:00

【字节跳动】资深后端开发工程师-平台应用服务

职位描述负责商业化基础服务系统能力建设，参与千亿级广告基础数据服务研发和优化，参与广告平台通用组件的设计和实现；负责多样化的商业平台应用服务研发，为客户提供智能、高效的营销能力；负责服务端系统架构设计研发、调优
探小虎·2024-01-28 12:48

oracle数据同步开源,阿里开源数据同步工具--DataX

：能够将MySQLsqlServerOracleHiveHBaseFTP之间进行稳定高效的数据同步。设计思路：网状连接-》星型连接看图：目前支持哪些数据同步？
海纳易拓·2024-01-28 12:09

mysql 同步 工具 开源_开源数据同步工具——datax

开源数据同步工具——dataxDataX是阿里巴巴集团内被广泛使用的离线数据同步工具/平台，实现包括MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、
weixin_39942572·2024-01-28 12:08

HBase Snapshot解析

HBase可以对某个时刻的表建立snapshot，过后可以恢复到该snapshot的状态，也可以用snapshot建立一个新的表等等。
stiga-huang·2024-01-28 12:08

开源数据同步工具DataX

DataX实现了包括MySQL、Oracle、OceanBase、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS
快乐江小鱼·2024-01-28 12:34

Linux 磁盘IO

原文：MySQL调优基础(四)Linux磁盘IO-IT--小哥的个人空间-OSCHINA-中文开源技术交流社区一、IO处理过程磁盘IO经常会成为系统的一个瓶颈，特别是对于运行数据库的系统而言。
祁小彬·2024-01-28 12:51

Netty 参数调优

文章目录一、CONNECT_TIMEOUT_MILLIS二、SO_BACKLOG三、TCP_NODELAY四、SO_SNDBUF&SO_RCVBUF五、ALLOCATOR六、RCVBUF_ALLOCATOR一、CONNECT_TIMEOUT_MILLIS属于SocketChannal的参数用在客户端建立连接时，如果在指定毫秒内无法连接，会抛出timeout异常注意：Netty中不要用成了SO_TI
A.iguodala·2024-01-28 11:27

netty 性能调优

netty性能调优文件句柄一个tcp连接占用一个文件句柄，可调大服务器文件句柄限制，让netty服务端处理更多连接************进程文件句柄查看句柄限制：ulimit-u#centosroot
o_瓜田李下_o·2024-01-28 11:56

前传04 | Netty性能调优

前传04|Netty性能调优一、操作系统参数调试01文件描述符1）最大文件句柄数2）单进程打开的最大句柄数ulimit-n3）并发接入的TCP连接数02TCP/IP相关参数03多网卡队列和软中断二、Netty
天罚神·2024-01-28 11:26

netty性能调优

转载自STEPHEN的博客调优思路关于netty的学习和介绍，可以去github看官方文档，这里良心推荐《netty实战》和《netty权威指南》两本书，前者对于新手更友好，原理和应用都有讲到，多读读会发现很多高性能的优化点
tinysakurac·2024-01-28 11:54

前传05 | Netty安全调优

前传05|Netty安全调优01DDOS攻击01DDOS攻击根据三次握手原理，产生一种对服务器的攻击方式：DDOS攻击。
天罚神·2024-01-28 11:23

浅谈Hive和HBase有哪些区别与联系及适用场景

在学大数据分析的过程中，Hive和HBase是两个非常重要的内容，对于初学者而言容易混淆。所以比较两者的联系与差别，能够帮助我们对这两个组件有一个清晰的认识和定位。
尚学先生·2024-01-28 11:19

HBase入门、基础原理介绍

HBase入门、基础原理介绍一、HBase介绍1.1HBase特点1.2HBase架构二、HBase的读写删流程2.1HBase的写入流程2.2HBase的读流程2.3HBase的数据删除一、HBase
幸福右手牵·2024-01-28 09:07

HBase入门：运行机制

文章目录HBase系统架构客户端ZooKeeper服务器Master主服务器Region服务器Region服务器工作原理用户读写数据的过程缓存的刷新StoreFile合并Store的工作原理HLog的工作原理
缘友一世·2024-01-28 09:07

mac上搭建hbase伪集群

1.前言之前我们已经搭建过了hbase单点环境，(单机版搭建参见：https://blog.csdn.net/a15835774652/article/details/135569456)但是为了模拟一把集群环境我们还是尝试搭建一个伪集群版
寂夜了无痕·2024-01-28 08:15

一波三折：一次CPU使用率过高故障分析SQL优化解决过程

关注我们获得更多内容作者|罗贵林：云和恩墨技术工程师，具有8年以上的Oracle数据库工作经验，曾任职于大型的国家电信、省级财政、省级公安的维护，性能调优等。
数据和云·2024-01-28 08:15

自动驾驶代客泊车AVP决策规划详细设计

为了打磨巡航规划的能力，算法架构应当设计的更为灵活，可以针对使用场景迁入更为先进有效的算法，同时也可以更好的结合现有成熟的仿真平台进行算法的离线调优；此外考虑到产品的设计需求以及硬件算力的限制，算法性能的优化也是十分重要的课题
电气_空空·2024-01-28 07:35

借助arthas 性能调优全过程

使用arthas的trace命令分析方法耗时瓶颈：可以看出bindReloadZoneTimeLimite耗时最久，通过分析Bind底层，将业务粒度进行拆分，加入并发执行再次使用arthas追踪单个方法耗时时间：核心耗时方法，速度优化将近4倍，总方法耗时优化1.5倍
CodingPeppa·2024-01-28 04:44

项目优化之Redis调优

公司项目使用的Redis调优1.最大物理内存2.键名简短(存储key)3.请求超时时间4.数据持久化策略5.优化AOF和RDB6.监控客户端的连接7.限制客户端连接数8.Redis的key过期策略以及内存淘汰机制
一只Black·2024-01-28 01:52

MySQL使用show profile调优

showprofile调优有时候使用explain执行计划发现其实是命中了索引的，但是还是很慢，此时可以使用profile功能，showprofile是mysql提供的可以用来分析当前会话中语句执行的资源消耗情况
拾光师·2024-01-27 21:28

JVM-G1 性能调优思路与实战

现在大多数公司的Java生产版本都是再JDK8，所以本次性能调优主要针对G1来展开GC的主要回收区域就是年轻代(younggen)、老年代(tenuredgen)、持久区（permgen）,在jdk8之后
菠萝-琪琪·2024-01-27 21:53

备战面试日记（2.6） - （JVM.JVM调优）

文章目录JVM-JVM调优JVM参数JVM参数设置方法JVM调优工具JPS、JMAP、JSTACKjconsolejvisualvm使用方式JVM调优方案调优原则调优目的从应用层面来说从虚拟机层面来说调优方案调
舍其小伙伴·2024-01-27 21:23

JVM系列之故障排查与性能调优（重点）

1、故障排查与性能调优1.1、概述1.1.1、生产环境中的问题？生产环境发生了OOM，该如何处理？如何判断是否是内存泄漏导致的？生产环境应该给Java进程分配多少内存？生产环境应该如何选择垃圾收集器？
后端技术那点事·2024-01-27 21:52

JVM性能调优详解（值得收藏）

JVM性能调优详解前面我们学习了整个JVM系列，最终目标的不仅仅是了解JVM的基础知识，也是为了进行JVM性能调优做准备。这篇文章带领大家学习JVM性能调优的知识。
java领域·2024-01-27 21:20
上一页 10 11 12 13 14 15 16 17 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他