E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Compaction
Cassandra1.1.0中
Compaction
部分源代码解析——准备篇
compaction
是神马,为神马进行c
wsql
·
2012-06-04 17:00
cassandra
Cassandra1.1.0中SizeTieredCompactionStrategy和LeveledCompactionStrategy的理解
最近一段时间因为项目的需要对cassandra的两种
compaction
机制进行了比较深入的了解,后续的博客中会有会相应源代码的解析。
wsql
·
2012-06-02 19:00
cassandra
HBase写入性能分析及改造—multi-thread flush and
compaction
(约能提高两到三倍吞吐量,带压缩测试)
转自:http://blog.csdn.net/kalaamong/article/details/7275242首先描述一下现象最近对HDFS底层做了许多优化,包括硬件压缩卡,内存盘及SSD。在出测试报告时发现老问题,HBase写入速度不稳定,这个大家都习以为常了吧,就是压测时,只要rowsize稍小一点,不管你怎么压,HBase的RegionServer总是不愠不火特淡定。有些人就怀疑是磁盘到
hua840812
·
2012-04-28 16:16
hbase
leveldb研究6- Level和
Compaction
这样设计的好处主要是可以减少
compaction
的次数和每次的文件个数。
Compaction
为什么要
compaction
?
小明思考
·
2012-03-15 17:00
[置顶] HBase写入性能及改造——multi-thread flush and
compaction
(续:详细测试数据)
接上文啊:测试机性能CPU16* Intel(R)Xeon(R)CPU E5620 @2.40GHzMEMORY48GBDISK12*SATA2TBNET 4*1Gb Ethernet测试数据:类型国内某视频网站近半年用户访问日志结构一行九列,包括用户访问页,关键词及其它用户信息。对应HBase一个family下9个column,一行120到180字节数据量每次测试写入10亿条数据,原始数
kalaamong
·
2012-02-24 12:00
集群
server
测试
File
hbase
UP
[置顶] HBase写入性能分析及改造—multi-thread flush and
compaction
(约能提高两到三倍吞吐量,带压缩测试)
首先描述一下现象最近对HDFS底层做了许多优化,包括硬件压缩卡,内存盘及SSD。在出测试报告时发现老问题,HBase写入速度不稳定,这个大家都习以为常了吧,就是压测时,只要rowsize稍小一点,不管你怎么压,HBase的RegionServer总是不愠不火特淡定。有些人就怀疑是磁盘到瓶颈了?还有些人怀疑是不是GC拖累了?总之网上大部分测试都是黑盒测试嘛,大家也就乱猜呗。下面我仔细来分析下原因,并
kalaamong
·
2012-02-20 11:00
多线程
测试
hbase
byte
patch
compression
HBase Region操作实战分析之Store
Compaction
,我从代码和日志层面介绍了region的memstoreflush逻辑在文章最后提到不断的flush会导致store目录下的storefile越来越多,则会触发region的(minor/major)
compaction
zjumath
·
2011-11-10 11:00
leveldb源代码分析3 memtable
上面一篇博文主要说了leveldb的理论原理,接下来将说明leveldb中如何去实现这些组件,主要是按照下面的思路进行的:首先分别分析LSM的各个组件,例如memtable,commitlog,
compaction
xuqianghit
·
2011-11-08 15:00
数据结构
table
iterator
reference
代码分析
concatenation
Cassandra 1.0 参考(2) ColumnFamily的定义
构造属性Column_typestringStandard所保存的Column的类型,所设置数据为Standard或Super,Super就是SuperColumnCommentstringn/a备注
Compaction
_strategystringSizeTieredSizeTiere
jialine
·
2011-10-24 14:19
职场
cassandra
休闲
ColumnFamily
hbase中
compaction
流程
当 client 向 hregion 端 put() 数据时, HRegion 会判断当前的 memstore 的大小是否大于参数hbase.hregion.memstore.flush.size 值,如果大于,则执行 flushcache() 操作,将 hregion 上的 memstore 刷新到 storefiles 文件里。而在 flushcache 时,会先判断当前的 region 是否
A221133
·
2011-10-19 12:00
java
mapreduce
File
hbase
null
output
Hbase选择Store file做
compaction
的算法
Thealgorithmisbasicallyasfollows:Runoverthesetofallstorefiles,fromoldesttoyoungestIftherearemorethan3(hbase.hstore.compactionThreshold)storefilesleftandthecurrentstorefileis20%largerthenthesumofallyou
macyang
·
2011-05-15 21:00
thread
File
hbase
null
Path
merge
在Hbase中选择多少个column family才合适呢?
下面主要说的是在设计Hbaseschema的时候,要尽量只有一个columnfamily,至于为什么主要从flush和
compaction
说起,它们触发的基本单位都是Region级别,所以当一个columnfamily
macyang
·
2011-05-14 20:00
schema
IO
File
hbase
query
Access
hbase海量数据的全量导入方法
最近有个需求要对mysql的全量数据迁移到hbase,虽然hbase的设计非常利于高效的读取,但是它的
compaction
实现对海量数据写入造成非常大的影响,数据到一定量之后,就开始抽风。
lingqi1818
·
2011-02-17 10:00
apache
mapreduce
数据结构
hadoop
hbase
IBM Java Jvm GC实现内幕 (几年前的老文)
IBM JVM的GC分为三个步骤,Mark phase(标记),Sweep phase(清扫),
Compaction
phase(内存紧缩). 在了解这些过程之前,我们先看一
cooldatabase
·
2010-04-05 14:00
java
jvm
多线程
IBM
jni
回顾2013:HBase的提升与挑战
这里为大家回顾2013年HBase中最值得关注的几个方面,其中包括
Compaction
、MTTR、Bucket Cache 、企业级应用等。
coolsunchen
·
2008-04-12 15:00
hbase
上一页
1
2
3
4
5
6
7
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他