E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
RocksDB
Flink海量数据去重方案
本文以Flink处理日均亿级别及以上的日志数据为背景,讨论除了朴素方法(HashSet)之外的三种实时去重方案,即:布隆过滤器、
RocksDB
状态后端、外部存储。方案一、布
·
2021-03-22 19:29
flink
Flink海量数据去重方案
本文以Flink处理日均亿级别及以上的日志数据为背景,讨论除了朴素方法(HashSet)之外的三种实时去重方案,即:布隆过滤器、
RocksDB
状态后端、外部存储。方案一、布
·
2021-03-15 19:16
flink
Nebula Storage 2.0 存储格式
NebulaGraph的底层存储是基于KV保存在
RocksDB
中,本文将介绍新老编码格式的差异,以及为什么要修改存储格式等一系列问题。
·
2021-03-10 20:27
nebula图数据库
理解 LSM Tree : 是什么让数据库这么能写?
LSMtree是很多数据库内部的核心数据结构,包括BigTable,Cassandra,Scylla,和
RocksDB
。
·
2021-02-24 18:33
数据库golang后端
pika hash 结构解读
底层使用了
RocksDB
做KV数据的存储。本文主要对Pi
·
2021-02-01 21:20
c++缓存pika
rocksdb
--基本操作
RocksDb
的基本操作:BasicOperation读流程读流程写流程写流程OpeningADatabaseWritesAtomicUpdates多个更新操作通过WriteBatch可以保证原子性。
zlcook
·
2021-01-06 20:32
Embedded
RocksDB
引擎
此引擎允许ClickHouse和
Rocksdb
进行集成Embedded
RocksDB
能够:创建一个表CREATETABLE[IFNOTEXISTS][db.]table_name[ONCLUSTERcluster
c3729438b799
·
2020-12-26 19:25
Flink State 误用之痛,你中招了吗?
性能·
RocksDB
场景,MapState比ValueState中存Map性能高很多。·生产环境强烈推荐使用MapState,不推荐ValueState中存大
ApacheFlink
·
2020-12-21 11:04
flink
MySQL引擎——TokuDB与
RocksDB
文章目录一、环境部署1.1OS配置1.1.1关闭防火墙1.1.2关闭selinux1.1.3关闭大页1.2数据库部署1.3启用tokudb和
rocksdb
二、引擎对比2.1TokuDB2.2
RocksDB
_梓杰_
·
2020-12-13 23:09
MySQL
Titan 存储引擎的设计
Titan是pingcap开源的一个基于
RocksDB
的存储引擎,以插件的形式提供,通过keyvalue分离降低在compaction过程中的写放大。整个项目是受WiscKey的启发。
rickif
·
2020-12-10 22:02
Flink State 误用之痛,你中招了吗?
性能·
RocksDB
场景,MapState比ValueState中存Map性能高很多。·生产环境强烈推荐使用MapState,不推荐ValueState中存大
ApacheFlink
·
2020-11-13 11:29
flink
Flink之状态管理--State Backends
Flink提供了以下三种开箱即用的状态后端(用于存储状态数据)MemoryStateBackendFsStateBackend
RocksDB
StateBackendMemoryStateBackendMemoryStateBackend
Natasha
·
2020-11-13 11:15
flink
图数据库比较
//www.opencypher.org/定制化rest社区版节点限制商业版不限制Hugegraph百度开源图数据库javatinkerpophttps://tinkerpop.apache.org/
Rocksdb
facebook
sinomiko
·
2020-10-11 12:12
C++
redis
自然语言处理
区块链学习知识模块
2.共识算法,主要有PoW,PoS,DPoS,PBFT,Paxos,Raft等;3.GoLang,C++等主流区块链系统开发语言;4.NoSQL数据库的原理与使用,尤其是KV型数据库:LevelDB,
RocksDB
卢舍那
·
2020-09-17 08:24
区块链
区块链
知识结构
FISCO BCOS简介
1.联盟链2.节点类型:共识节点、观察节点3.计算模型:排序-执行-验证4.峰值TPS:2万+TPS(PBFT)5.共识算法:PBFT、Raft、rPBFT6.存储:支持leveldb、
rocksdb
、
软件工程小施同学
·
2020-09-17 06:05
区块链
区块链
RocksDB
报错:Compression type Snappy is not linked with the binary.
表现:通过JNI打开
RocksDB
报错:snappy压缩库没有被链接:org.
rocksdb
.
RocksDB
Exception:CompressiontypeSnappyisnotlinkedwiththebinary.atorg.
rocksdb
.
RocksDB
.open
Jermy Li
·
2020-09-16 20:52
RocksDB
C++
Java
nosql
KV数据库
rocksdb
snappy
RocksDB
事务及MVCC实现分析
基本概念1.LSN(logsequencenumber)
RocksDB
中的每一条记录(KeyValue)都有一个LogSequenceNumber(后面统称lsn),从最初的0开始,每次写入加1。
曦轩
·
2020-09-15 21:10
数据库存储
rocksdb
事务
snapshot
mvcc
rocksdb
使用
最近项目需要使用个key-value数据存储,在众多k-v数据库中,选择了
rocksdb
,原因只有一条,这货自称支持范围查询。
q96456
·
2020-09-14 22:06
【Flink】Flink 状态管理
KeyedState2.2、OperatorState三、状态横向扩展四、检查点机制4.1、开启检查点4.2、保存点机制五、状态后端5.1、状态管理器分类MemoryStateBackendFsStateBackend
RocksDB
StateBackend5.2
w1992wishes
·
2020-09-14 15:37
Flink
flink
GCC 4.8编译程序抛出Error: no such instruction: `某某汇编指令`
用gcc4.8编译
RocksDB
时,抛出如下错误,如图:查了许久,不得正确的解决办法。
九遍斋
·
2020-09-14 11:44
binutils
Linux
binutils
【Redis】求求你,别再问跳表了
有更高的查找效率,可比拟二叉查找树,平均期望的查找、插入、删除时间复杂度都是O(logn),许多知名的开源软件(库)中的数据结构均采用了跳表这种数据结构∶Redis中的有序集合zsetLevelDB、
RocksDB
爱敲代码的小黄
·
2020-09-13 19:18
#
Redis
数据结构 -- 散列表
就像
rocksdb
中的hashskiplist,redis的有序集合,java的LinkedHashMap等都是一些非常有特色的核心数据结构,来提供线上高效的数据操作能力。
v-code
·
2020-09-13 01:39
数据结构和算法
#
数据结构:散列表
MongoDB术语解读
2、Mongos和configserver的作用3、WiredTiger、
RocksDB
、TerarkDB存储引擎的优缺点4、MongoDB二维空间索引
布鲁斯78
·
2020-09-12 17:25
Flink 清理过期 Checkpoint 目录的正确姿势
通过本文,你能get到以下知识:FlinkCheckpoint目录的清除策略生产环境应该选择哪种清除策略生产环境必须定期脚本清理Checkpoint和Savepoint目录
RocksDB
增量Checkpoint
zhisheng_blog
·
2020-09-11 10:53
sysbench 报错:/usr/share/sysbench/oltp_common.lua:197: Unknown storage engine 'innodb'
运行环境:CentOS7.5+MariaDB10.3.8+sysbench1.0.15#rpm-qa|grep-isysbenchsysbench-1.0.15-2.el7.x86_64背景:在对My
RocksDB
vkingnew
·
2020-09-11 04:42
MariaDB
InnoDB存储引擎
不同引擎对比MyRocksFB基于LevelDB实现
RocksDB
,移植到MySQL后,称为MyRocks,其本质是一个KVDB在FB内部被广泛使用,大有取代InnoDB趋势MyRocks复制特点也是基于
aohexi1719
·
2020-09-11 00:44
Flink
RocksDB
状态后端参数调优实践
Foreword截至当前,Flink作业的状态后端仍然只有Memory、FileSystem和
RocksDB
三种可选,且
RocksDB
是状态数据量较大(GB到TB级别)时的唯一选择。
LittleMagic
·
2020-09-09 23:09
RocksDB
)
最近笔者正在补习与
RocksDB
底层相关的细节,因为:次要原因——当前所有Flink实时任务的状态后端都是
RocksDB
;主要原因——将来会利用TiDB搭建HTAP服务。
LittleMagic
·
2020-08-26 18:44
RocksDB
)
最近笔者正在补习与
RocksDB
底层相关的细节,因为:次要原因——当前所有Flink实时任务的状态后端都是
RocksDB
;主要原因——将来会利用TiDB搭建HTAP服务。
LittleMagic
·
2020-08-26 18:44
RocketMQ学习(三)——底层存储设计
MQ消息队列的一般存储方式当前业界几款主流的MQ消息队列采用的存储方式主要有以下三种方式:(1)分布式KV存储:这类MQ一般会采用诸如levelDB、
RocksDB
和Redis来作为消息持久化的方式,由于分布式缓存的读写能力要优于
微笑看你哭
·
2020-08-25 17:13
rocketmq
HugeGraph安装教程
Core模块是Tinkerpop接口的实现,Backend模块用于管理数据存储,目前支持的后端包括:Memory、Cassandra、ScyllaDB以及
RocksDB
,API模块提供HTTPServer
了无痕1314
·
2020-08-24 19:27
图数据库
HugeGraph图数据库性能评测结果
HugeGraphDatabasePerformanceTest下面是HugeGraph的性能测试结果一览,两个典型后端存储–
RocksDB
单机版、Cassandra集群版:
RocksDB
单机版性能(48CPUs128G
Jermy Li
·
2020-08-24 19:06
HugeGraph
图数据库
Cassandra
HugeGraph
图数据库
性能测试
图数据库读写性能
高性能
基于
RocksDB
实现精准的TTL过期淘汰机制
欢迎关注我们的公众号:OPPO_techParker是OPPO互联网自研的一个基于
RocksDB
的分布式KV存储系统,它是一款类Redis的存储系统,主要解决的是用户使用Redis遇到的内存超限启动恢复时间长
OPPO互联网技术
·
2020-08-24 16:24
rocksdb
redis
kv存储
Titan 的设计与实现
作者:郑志铨Titan是由PingCAP研发的一个基于
RocksDB
的高性能单机key-value存储引擎,其主要设计灵感来源于USENIXFAST2016上发表的一篇论文WiscKey。
PingCAP
·
2020-08-24 14:51
数据库
rocksdb
kv存储
数据库设计
融合
RocksDB
, Pregel, Foxx & Satellite Collections 怎样使数据库性能提升35%?
具体如下:
RocksDB
存储引擎:与Facebook的
RocksDB
存储引擎的集成,使得其成为架构中第
GermanWifi
·
2020-08-24 13:04
c++
java
数据库
rocksdb
arangodb
RocksDB
的范围查询是如何优化的?
MySQL的存储引擎除了最常用的是InnoDB引擎之外还有一个MyRocks引擎也经常会用到,它是基于
RocksDB
开发的一套存储引擎,比InnoDB性能要高出N倍。
码洞
·
2020-08-24 10:34
rocksdb
系列partitioned index filters
为什么需要partitionedindexfilters当DB越来越大,index/filterblock所占用的内存越来越大,即使设置了参数cache_index_and_filter_blocks(只把部分index/filterblock放置在blockcache中),占较大内存的index/filterblock也会影响DB性能1)占用本来用于缓存datablock的blockcache2
luomoxyz
·
2020-08-24 07:53
如何做到“恰好一次”地传递数十亿条消息
本文作者介绍了一个利用Kafka和
RocksDB
来构建的“恰好一次”消息去重系统的实现原理。以下
钱曙光
·
2020-08-24 01:15
SQL 语法整理
近期工作中多少会涉及到SQL相关的内容,尤其是leader在做分布式存储引擎底座的设计过程中提到:各种分布式事务,二级索引,还有剖析B+树的实现,并和我们
rocksdb
的LSM实现差异等等,真的是让之前对分布式存储领域涉事不深的我云里雾里
v-code
·
2020-08-23 15:16
存储引擎
关于
Rocksdb
性能分析 需要知道的一些“小技巧“
作为单机存储引擎,
Rocksdb
总会被嵌入到各个存储系统之中作为核心数据的存储,那么有理有据得“甩锅”便需要一些手段。在业务场景未达到
rocksdb
自身性能情况下,如何将ro
v-code
·
2020-08-23 15:16
存储引擎
#
Rocksdb
【Flink流式计算框架】State(KeyedState/OperatorState)和StateBackend及配置
FlinkStatestate概述State类型KeyedState案例OperatorState案例(unKeyedState)StatebackendMemoryStateBackendFsStateBackend
RocksDB
StateBackendStateBackend
Aponson
·
2020-08-23 02:38
flink
大数据
flink
state
statebackend
KeyedState
Succinct Data Structure
唐刘最近看了一篇论文SuRF:PracticalRangeQueryFilteringwithFastSuccinctTries,里面提到使用一种新的数据结构SuccinctRangeFilter(SuRF)替换掉了
RocksDB
weixin_33805743
·
2020-08-22 19:34
SuRF : Practical Range Query Filtering with Fast Succinct Tries
现有的过滤器都仅仅支持pointquery,例如现在
RocksDB
里面有一张学生表,现在要做
詹小布
·
2020-08-22 19:45
TiDB4 初探
1、TiDB介绍TiDB是一款开源的分布式数据库,底层为Key-Value数据库
RocksDB
,代码主要是用golang。
精神抖擞君
·
2020-08-22 16:42
数据库
RocksDB
中文Wiki·Write Stalls的调优
当我们持续大量插入数据的时候,会发现到了某一个时间,性能就突然下降了,如果突然出现了这样的情况,我们都会从LOG文件里或者statistics上面来确认是否出现了writestall。WhereStall通常writestall会在几个地方出现Toomanymemtables当需要等待被flush到level0的memtable到了或者超过了max_write_buffer_number,Rock
Ocean
·
2020-08-22 10:13
nosql
Rocksdb
数据库---levle compaction
官网原文:https://github.com/facebook/
rocksdb
/wiki/Leveled-Compaction如有翻译不当或错误,请给出意见,如果需要转载,请注明来源。谢谢。
爱编程的大圣
·
2020-08-21 05:29
linux
块设备驱动
基于 Jepsen 来发现几个 Raft 实现中的一致性问题(2)
由于NebulaGraph采用的是存储计算分离架构,在存储层实际只是暴露了简单的kv接口,采用
RocksDB
作为状态机,通过Raft一致性协议来保证多副本数据一致的问题。
NebulaGraph
·
2020-08-21 00:39
nebula
一致性
基于 Jepsen 来发现几个 Raft 实现中的一致性问题(2)
由于NebulaGraph采用的是存储计算分离架构,在存储层实际只是暴露了简单的kv接口,采用
RocksDB
作为状态机,通过Raft一致性协议来保证多副本数据一致的问题。
NebulaGraph
·
2020-08-21 00:39
nebula
一致性
RocksDB
简介
1、
RocksDB
简介
RocksDB
项目起源于Facebook的一个实验项目,该项目旨在开发一个与快速存储器(尤其是闪存)存储数据性能相当的数据库软件,以应对高负载服务。
caoxinyiyi
·
2020-08-20 22:00
RocksDB
系列二:
RocksDB
Option
RocksDB
用户可以通过Options类将配置信息传入引擎,除此之外,还可以以下其他方法设置,分别为:通过optionfile生成一个optionclass从optionstring中获取option
薛少佳
·
2020-08-20 11:33
上一页
3
4
5
6
7
8
9
10
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他