NoSql数据库探讨

现在Nosql应用的越来越多，但为什么要用NoSql呢？什么情况下用Nosql呢？

随着互联网web2.0网站的兴起，非关系型的数据库现在成了一个极其热门的新领域，非关系数据库产品的发展非常迅速。

而传统的关系数据库在应付web2.0网站，特别是超大规模和高并发的SNS类型的web2.0纯动态网站已经显得力不从心，暴露了很多难以克服的问题：

1、对数据库高并发读写的需求

       web2.0网站数据库并发负载非常高，往往要达到每秒上万次读写请求。关系数据库应付上万次SQL查询还勉强顶得住，但是应付上万次SQL写数据请求，硬盘IO就已经无法承受了。例如:实时统计在线用户状态，记录热门帖子的点击次数，投票计数等，是一个相当普遍的需求。

2、 对海量数据的高效率存储和访问的需求

      类似Facebook，twitter，Friendfeed这样的SNS网站，每天用户产生海量的用户动态，以Friendfeed为例，一个月就达到了2.5亿条用户动态，对于关系数据库来说，在一张2.5亿条记录的表里面进行SQL查询，效率是极其低下乃至不可忍受的。再例如大型web网站的用户登录系统，例如腾讯，盛大，动辄数以亿计的帐号，关系数据库也很难应付。

3、 对数据库的高可扩展性和高可用性的需求

      在基于web的架构当中，数据库是最难进行横向扩展的，当一个应用系统的用户量和访问量与日俱增的时候，你的数据库却没有办法像web server和app server那样简单的通过添加更多的硬件和服务节点来扩展性能和负载能力。对于很多需要提供24小时不间断服务的网站来说，对数据库系统进行升级和扩展是非常痛苦的事情，往往需要停机维护和数据迁移，为什么数据库不能通过不断的添加服务器节点来实现扩展呢？

在上面提到的“三高”需求面前，关系数据库遇到了难以克服的障碍，关系数据库的很多主要特性却往往无用武之地，例如：

1、数据库事务一致性需求

很多web实时系统并不要求严格的数据库事务，对读一致性的要求很低，有些场合对写一致性要求也不高。因此数据库事务管理成了数据库高负载下一个沉重的负担。

2、数据库的写实时性和读实时性需求

对关系数据库来说，插入一条数据之后立刻查询，是肯定可以读出来这条数据的，但是对于很多web应用来说，并不要求这么高的实时性。

3、对复杂的SQL查询，特别是多表关联查询的需求

任何大数据量的web系统，都非常忌讳多个大表的关联查询，以及复杂的数据分析类型的复杂SQL报表查询，特别是SNS类型的网站，从需求以及产品设计角度，就避免了这种情况的产生。往往更多的只是单表的主键查询，以及单表的简单条件分页查询，SQL的功能被极大的弱化了。

因此，关系数据库在这些越来越多的应用场景下显得不那么合适了，为了解决这类问题的非关系数据库应运而生，现在这两年，各种各样非关系数据库，特别是键值数据库(Key-Value Store DB)风起云涌，多得让人眼花缭乱。例如：

Redis，Tokyo Cabinet，Cassandra，Voldemort，MongoDB，Dynomite，Hbase，CouchDB，Hypertable， Riak，Tin， Flare， Lightcloud， KiokuDB，Scalaris， Kai， ThruDB， ......

 

这些NoSQL数据库，有的是用C/C++编写的，有的是用Java编写的，还有的是用Erlang编写的。这些NoSQL数据库大致可以分为以下的三类：

一、满足极高读写性能需求的Kye-Value数据库：redis，Tokyo Cabinet， Flare

 高性能Key-Value数据库的主要特点就是具有极高的并发读写性能，Redis，Tokyo Cabinet， Flare，这3个Key-Value DB都是用C编写的，他们的性能都相当出色，但出了出色的性能，他们还有自己独特的功能：

1、Redis

      Redis本质上是一个Key-Value类型的内存数据库，很像memcached，整个数据库统统加载在内存当中进行操作，定期通过异步操作把数据库数据flush到硬盘上进行保存。

        1）高性能读写：因为是纯内存操作，Redis的性能非常出色，每秒可以处理超过10万次读写操作，是我知道的性能最快的Key-Value DB。

        2）支持保存List链表和Set集合的数据结构，而且还支持对List进行各种操作：Redis的出色之处不仅仅是性能，Redis最大的魅力是支持保存List链表和Set集合的数据结构，而且还支持对List进行各种操作：例如从List两端push和pop数据，取List区间，排序等等，对Set支持各种集合的并集交集操作，

       3）value可以存1G:单个value的最大限制是1GB，不像memcached只能保存1MB的数据，因此Redis可以用来实现很多有用的功能，比方说用他的List来做FIFO双向链表，实现一个轻量级的高性能消息队列服务，用他的Set可以做高性能的tag系统等等。

      4) 加强版的memcached来用:另外Redis也可以对存入的Key-Value设置expire时间，因此也可以被当作一个功能加强版的memcached来用。

       Redis的主要缺点是数据库容量受到物理内存的限制，不能用作海量数据的高性能读写，并且它没有原生的可扩展机制，不具有scale（可扩展）能力，要依赖客户端来实现分布式读写，因此Redis适合的场景主要局限在较小数据量的高性能操作和运算上。目前使用Redis的网站有github，Engine Yard。

二、满足海量存储需求和访问的面向文档的数据库：mongodb，CouchDB

      面向文档的非关系数据库主要解决的问题不是高性能的并发读写，而是保证海量数据存储的同时，具有良好的查询性能。MongoDB是用C++开发的，而CouchDB则是Erlang开发的：

1、MongoDB

      MongoDB是一个介于关系数据库和非关系数据库之间的产品，是非关系数据库当中功能最丰富，最像关系数据库的。

     1）支持的数据结构非常松散，是类似json的bjson格式(BJSON全称：Binary JSON,BJSON把文件的二进制格式的数据直接保存到MongoDB的文档结构中)，因此可以存储比较复杂的数据类型。

     2)支持的查询语言非常强大,Mongo最大的特点是他支持的查询语言非常强大，其语法有点类似于面向对象的查询语言，几乎可以实现类似关系数据库单表查询的绝大部分功能，而且还支持对数据建立索引。

    3） 海量数据的访问效率，Mongo主要解决的是海量数据的访问效率问题，根据官方的文档，当数据量达到50GB以上的时候，Mongo的数据库访问速度是MySQL的10倍以上。Mongo的并发读写效率不是特别出色，根据官方提供的性能测试表明，大约每秒可以处理0.5万－1.5次读写请求。 因为Mongo主要是支持海量数据存储的，所以Mongo还自带了一个出色的分布式文件系统GridFS，可以支持海量的数据存储，但我也看到有些评论认为GridFS性能不佳，这一点还是有待亲自做点测试来验证了。 最后由于Mongo可以支持复杂的数据结构，而且带有强大的数据查询功能，因此非常受到欢迎，很多项目都考虑用MongoDB来替代mysql来实现不是特别复杂的Web应用，由于数据量实在太大，所以迁移到了Mongo上面，数据查询的速度得到了非常显著的提升。

三、满足高可扩展性和可用性的面向分布式计算的数据库：Cassandra，Voldemort

      面向scale能力的数据库其实主要解决的问题领域和上述两类数据库还不太一样，它首先必须是一个分布式的数据库系统，由分布在不同节点上面的数据库共同构成一个数据库服务系统，并且根据这种分布式架构来提供online的，具有弹性的可扩展能力，例如可以不停机的添加更多数据节点，删除数据节点等等。因此像Cassandra常常被看成是一个开源版本的Google BigTable的替代品。

8种Nosql数据库系统对比

读：Kristóf Kovács 是一位软件架构师和咨询顾问，他最近发布了一片对比各种类型NoSQL数据库的文章。

虽然SQL数据库是非常有用的工具，但经历了15年的一支独秀之后垄断即将被打破。这只是时间问题：被迫使用关系数据库，但最终发现不能适应需求的情况不胜枚举。

但是NoSQL数据库之间的不同，远超过两 SQL数据库之间的差别。这意味着软件架构师更应该在项目开始时就选择好一个适合的 NoSQL数据库。针对这种情况，这里对Cassandra、Mongodb、CouchDB、Redis、 Riak、Membase、Neo4j 和 HBase 进行了比较：

（编注1：NoSQL：是一项全新的数据库革命性运动，NoSQL的拥护者们提倡运用非关系型的数据存储。现今的计算机体系结构在数据存储方面要求具 备庞大的水平扩 展性，而NoSQL致力于改变这一现状。目前Google的 BigTable 和Amazon 的Dynamo使用的就是NoSQL型数据库。 参见NoSQL词条。）

 

1. CouchDB

• 所用语言： Erlang
• 特点：DB一致性，易于使用
• 使用许可： Apache
• 协议： HTTP/REST
• 双向数据复制，
• 持续进行或临时处理，
• 处理时带冲突检查，
• 因此，采用的是master-master复制（见编注2）
• MVCC – 写操作不阻塞读操作
• 可保存文件之前的版本
• Crash-only（可靠的）设计
• 需要不时地进行数据压缩
• 视图：嵌入式 映射/减少
• 格式化视图：列表显示
• 支持进行服务器端文档验证
• 支持认证
• 根据变化实时更新
• 支持附件处理
• 因此， CouchApps（独立的 js应用程序）
• 需要 jQuery程序库

 

最佳应用场景：适用于数据变化较少，执行预定义查询，进行数据统计的应用程序。适用于需要提供数据版本支持的应用程序。

例如： CRM、CMS系统。 master-master复制对于多站点部署是非常有用的。

（编注2：master-master复制：是一种数据库同步方法，允许数据在一组计算机之间共享数据，并且可以通过小组中任意成员在组内进行数据更新。）

 

2. Redis

• 所用语言：C/C++
• 特点：运行异常快
• 使用许可： BSD
• 协议：类 Telnet
• 有硬盘存储支持的内存数据库，
• 但自2.0版本以后可以将数据交换到硬盘（注意， 2.4以后版本不支持该特性！）
• Master-slave复制（见编注3）
• 虽然采用简单数据或以键值索引的哈希表，但也支持复杂操作，例如 ZREVRANGEBYSCORE。
• INCR & co （适合计算极限值或统计数据）
• 支持 sets（同时也支持 union/diff/inter）
• 支持列表（同时也支持队列；阻塞式 pop操作）
• 支持哈希表（带有多个域的对象）
• 支持排序 sets（高得分表，适用于范围查询）
• Redis支持事务
• 支持将数据设置成过期数据（类似快速缓冲区设计）
• Pub/Sub允许用户实现消息机制

 

最佳应用场景：适用于数据变化快且数据库大小可遇见（适合内存容量）的应用程序。

例如：股票价格、数据分析、实时数据搜集、实时通讯。

（编注3：Master-slave复制：如果同一时刻只有一台服务器处理所有的复制请求，这被称为 Master-slave复制，通常应用在需要提供高可用性的服务器集群。）

 

3. MongoDB

• 所用语言：C++
• 特点：保留了SQL一些友好的特性（查询，索引）。
• 使用许可： AGPL（发起者： Apache）
• 协议： Custom, binary（ BSON）
• Master/slave复制（支持自动错误恢复，使用 sets 复制）
• 内建分片机制
• 支持 javascript表达式查询
• 可在服务器端执行任意的 javascript函数
• update-in-place支持比CouchDB更好
• 在数据存储时采用内存到文件映射
• 对性能的关注超过对功能的要求
• 建议最好打开日志功能（参数 –journal）
• 在32位操作系统上，数据库大小限制在约2.5Gb
• 空数据库大约占 192Mb
• 采用 GridFS存储大数据或元数据（不是真正的文件系统）

 

最佳应用场景：适用于需要动态查询支持；需要使用索引而不是 map/reduce功能；需要对大数据库有性能要求；需要使用 CouchDB但因为数据改变太频繁而占满内存的应用程序。

例如：你本打算采用 MySQL或 PostgreSQL，但因为它们本身自带的预定义栏让你望而却步。

 

4. Riak

• 所用语言：Erlang和C，以及一些Javascript
• 特点：具备容错能力
• 使用许可： Apache
• 协议： HTTP/REST或者 custom binary
• 可调节的分发及复制(N, R, W)
• 用 JavaScript or Erlang在操作前或操作后进行验证和安全支持。
• 使用JavaScript或Erlang进行 Map/reduce
• 连接及连接遍历：可作为图形数据库使用
• 索引：输入元数据进行搜索（1.0版本即将支持）
• 大数据对象支持（ Luwak）
• 提供“开源”和“企业”两个版本
• 全文本搜索，索引，通过 Riak搜索服务器查询（ beta版）
• 支持Masterless多站点复制及商业许可的 SNMP监控

 

最佳应用场景：适用于想使用类似 Cassandra（类似Dynamo）数据库但无法处理 bloat及复杂性的情况。适用于你打算做多站点复制，但又需要对单个站点的扩展性，可用性及出错处理有要求的情况。

例如：销售数据搜集，工厂控制系统；对宕机时间有严格要求；可以作为易于更新的 web服务器使用。

5. Membase

• 所用语言： Erlang和C
• 特点：兼容 Memcache，但同时兼具持久化和支持集群
• 使用许可： Apache 2.0
• 协议：分布式缓存及扩展
• 非常快速（200k+/秒），通过键值索引数据
• 可持久化存储到硬盘
• 所有节点都是唯一的（ master-master复制）
• 在内存中同样支持类似分布式缓存的缓存单元
• 写数据时通过去除重复数据来减少 IO
• 提供非常好的集群管理 web界面
• 更新软件时软无需停止数据库服务
• 支持连接池和多路复用的连接代理

 

最佳应用场景：适用于需要低延迟数据访问，高并发支持以及高可用性的应用程序

例如：低延迟数据访问比如以广告为目标的应用，高并发的 web 应用比如网络游戏（例如 Zynga）

 

6. Neo4j

• 所用语言： Java
• 特点：基于关系的图形数据库
• 使用许可： GPL，其中一些特性使用 AGPL/商业许可
• 协议： HTTP/REST（或嵌入在 Java中）
• 可独立使用或嵌入到 Java应用程序
• 图形的节点和边都可以带有元数据
• 很好的自带web管理功能
• 使用多种算法支持路径搜索
• 使用键值和关系进行索引
• 为读操作进行优化
• 支持事务（用 Java api）
• 使用 Gremlin图形遍历语言
• 支持 Groovy脚本
• 支持在线备份，高级监控及高可靠性支持使用 AGPL/商业许可

 

最佳应用场景：适用于图形一类数据。这是 Neo4j与其他nosql数据库的最显著区别

例如：社会关系，公共交通网络，地图及网络拓谱

 

7. Cassandra

• 所用语言： Java
• 特点：对大型表格和 Dynamo支持得最好
• 使用许可： Apache
• 协议： Custom, binary (节约型)
• 可调节的分发及复制(N, R, W)
• 支持以某个范围的键值通过列查询
• 类似大表格的功能：列，某个特性的列集合
• 写操作比读操作更快
• 基于 Apache分布式平台尽可能地 Map/reduce
• 我承认对 Cassandra有偏见，一部分是因为它本身的臃肿和复杂性，也因为 Java的问题（配置，出现异常，等等）

 

最佳应用场景：当使用写操作多过读操作（记录日志）如果每个系统组建都必须用 Java编写（没有人因为选用 Apache的软件被解雇）

例如：银行业，金融业（虽然对于金融交易不是必须的，但这些产业对数据库的要求会比它们更大）写比读更快，所以一个自然的特性就是实时数据分析

 

8. hbase

（配合 ghshephard使用）

• 所用语言： Java
• 特点：支持数十亿行X上百万列
• 使用许可： Apache
• 协议：HTTP/REST （支持 Thrift，见编注4）
• 在 BigTable之后建模
• 采用分布式架构 Map/reduce
• 对实时查询进行优化
• 高性能 Thrift网关
• 通过在server端扫描及过滤实现对查询操作预判
• 支持 XML, Protobuf, 和binary的HTTP
• Cascading, hive, and pig source and sink modules
• 基于 Jruby（ JIRB）的shell
• 对配置改变和较小的升级都会重新回滚
• 不会出现单点故障
• 堪比MySQL的随机访问性能

 

最佳应用场景：适用于偏好BigTable:)并且需要对大数据进行随机、实时访问的场合。

例如： Facebook消息数据库（更多通用的用例即将出现）

编注4：Thrift 是一种接口定义语言，为多种其他语言提供定义和创建服务，由Facebook开发并开源。

当然，所有的系统都不只具有上面列出的这些特性。这里我仅仅根据自己的观点列出一些我认为的重要特性。与此同时，技术进步是飞速的，所以上述的内容肯定需要不断更新。我会尽我所能地更新这个列表。