EhCache 缓存系统简介

EhCache 是一个纯Java的进程内缓存框架，具有快速、精干等特点，是Hibernate中默认的CacheProvider。

下图是 EhCache 在应用程序中的位置：

EhCache 的主要特性有：

1. 快速 .
2. 简单 .
3. 多种缓存策略
4. 缓存数据有两级：内存和磁盘，因此无需担心容量问题
5. 缓存数据会在虚拟机重启的过程中写入磁盘
6. 可以通过RMI、可插入API等方式进行分布式缓存
7. 具有缓存和缓存管理器的侦听接口
8. 支持多缓存管理器实例，以及一个实例的多个缓存区域
9. 提供 Hibernate 的缓存实现
10. 等等

由于 EhCache 是进程中的缓存系统，一旦将应用部署在集群环境中，每一个节点维护各自的缓存数据，当某个节点对缓存数据进行更新，这些更新的数据无法在其他节点中共享，这不仅会降低节点运行的效率，而且会导致数据不同步的情况发生。例如某个网站采用A、B两个节点作为集群部署，当A节点的缓存更新后，而 B 节点缓存尚未更新就可能出现用户在浏览页面的时候，一会是更新后的数据，一会是尚未更新的数据，尽管我们也可以通过 Session Sticky 技术来将用户锁定在某个节点上，但对于一些交互性比较强或者是非Web方式的系统来说，Session Sticky 显然不太适合。所以就需要用到 EhCache 的集群解决方案。

EhCache 从 1.7 版本开始，支持五种集群方案，分别是：

1. Terracotta

2. RMI

3. JMS

4. JGroups

5. EhCache Server

本文主要介绍其中的三种最为常用集群方式，分别是 RMI、JGroups 以及 EhCache Server 。

RMI 集群模式

RMI 是 Java 的一种远程方法调用技术，是一种点对点的基于 Java 对象的通讯方式。EhCache 从 1.2 版本开始就支持 RMI 方式的缓存集群。在集群环境中 EhCache 所有缓存对象的键和值都必须是可序列化的，也就是必须实现 java.io.Serializable 接口，这点在其他集群方式下也是需要遵守的。

下图是 RMI 集群模式的结构图：

采用 RMI 集群模式时，集群中的每个节点都是对等关系，并不存在主节点或者从节点的概念，因此节点间必须有一个机制能够互相认识对方，必须知道其他节点的信息，包括主机地址、端口号等。EhCache 提供两种节点的发现方式：手工配置和自动发现。手工配置方式要求在每个节点中配置其他所有节点的连接信息，一旦集群中的节点发生变化时，需要对缓存进行重新配置。

由于 RMI 是 Java 中内置支持的技术，因此使用 RMI 集群模式时，无需引入其他的 jar 包，EhCache 本身就带有支持 RMI 集群的功能。使用 RMI 集群模式需要在 ehcache.xml 配置文件中定义 cacheManagerPeerProviderFactory 节点。假设集群中有两个节点，分别对应的 RMI 绑定信息是：

节点1	192.168.0.11	4567	/oschina_cache
节点2	192.168.0.12	4567	/oschina_cache
节点3	192.168.0.13	4567	/oschina_cache

那么对应的手工配置信息如下：

节点1配置：

< cacheManagerPeerProviderFactory

class ="net.sf.ehcache.distribution.RMICacheManagerPeerProviderFactory"

properties ="hostName=localhost,

port=4567,

socketTimeoutMillis=2000,

peerDiscovery=manual,

rmiUrls=//192.168.0.12:4567/oschina_cache|//192.168.0.13:4567/oschina_cache"

其他节点配置类似，只需把 rmiUrls 中的两个IP地址换成另外两个节点对应的 IP 地址即可。

接下来在需要进行缓存数据复制的区域（Region）上配置如下即可：

< cache name ="sampleCache2"

maxElementsInMemory ="10"

eternal ="false"

timeToIdleSeconds ="100"

timeToLiveSeconds ="100"

overflowToDisk ="false" >

< cacheEventListenerFactory

class ="net.sf.ehcache.distribution.RMICacheReplicatorFactory"

properties ="replicateAsynchronously=true, replicatePuts=true, replicateUpdates=true,

replicateUpdatesViaCopy=false, replicateRemovals=true " />

</ cache >

具体每个参数代表的意义请参考 EhCache 的手册，此处不再详细说明。

EhCache 的 RMI 集群模式还有另外一种节点发现方式，就是通过多播（ multi_cast ）来维护集群中的所有有效节点。这也是最为简单而且灵活的方式，与手工模式不同的是，每个节点上的配置信息都相同，大大方便了节点的部署，避免人为的错漏出现。

在上述三个节点的例子中，配置如下：

< cacheManagerPeerProviderFactory

class ="net.sf.ehcache.distribution.RMICacheManagerPeerProviderFactory"

properties ="peerDiscovery=automatic, multi_castGroupAddress=230.0.0.1,

multi_castGroupPort=4446, timeToLive=32"

其中需要指定节点发现模式 peerDiscovery 值为 automatic 自动；同时组播地址可以指定 D 类 IP 地址空间，范围从 224.0.1.0 到 238.255.255.255 中的任何一个地址。

JGroups 集群模式

EhCache 从 1.5. 版本开始增加了 JGroups 的分布式集群模式。与 RMI 方式相比较， JGroups 提供了一个非常灵活的协议栈、可靠的单播和多播消息传输，主要的缺点是配置复杂以及一些协议栈对第三方包的依赖。

JGroups 也提供了基于 TCP 的单播 ( Uni_cast ) 和基于 UDP 的多播 ( Multi_cast ) ，对应 RMI 的手工配置和自动发现。使用单播方式需要指定其他节点的主机地址和端口，下面是一个两个节点，使用了单播方式的配置，TCP方式必须用文件的方式才行：

< cacheManagerPeerProviderFactory
class ="net.sf.ehcache.distribution.jgroups.JGroupsCacheManagerPeerProviderFactory"
properties ="file=jgroups_tcp.xml, syncMode=GET_ALL, syncTimeout=10000" />

jgroups_tcp.xml

< config xmlns ="urn:org:jgroups"
        xmlns:xsi ="http://www.w3.org/2001/XMLSchema-instance"
        xsi:schemaLocation ="urn:org:jgroups http://www.jgroups.org/schema/JGroups-2.8.xsd" >
     < TCP bind_port ="7800"
         loopback ="true"
         recv_buf_size ="${tcp.recv_buf_size:20M}"
         send_buf_size ="${tcp.send_buf_size:640K}"
         discard_incompatible_packets ="true"
         max_bundle_size ="64K"
         max_bundle_timeout ="30"
         enable_bundling ="true"
         use_send_queues ="true"
         sock_conn_timeout ="300"
         timer.num_threads ="4"

         thread_pool.enabled ="true"
         thread_pool.min_threads ="1"
         thread_pool.max_threads ="10"
         thread_pool.keep_alive_time ="5000"
         thread_pool.queue_enabled ="false"
         thread_pool.queue_max_size ="100"
         thread_pool.rejection_policy ="discard"

         oob_thread_pool.enabled ="true"
         oob_thread_pool.min_threads ="1"
         oob_thread_pool.max_threads ="8"
         oob_thread_pool.keep_alive_time ="5000"
         oob_thread_pool.queue_enabled ="false"
         oob_thread_pool.queue_max_size ="100"
         oob_thread_pool.rejection_policy ="discard" />

     < TCPPING timeout ="3000"
             initial_hosts ="${jgroups.tcpping.initial_hosts:192.168.1.200[7800],192.168.1.200[7801]}"
             port_range ="1"
             num_initial_members ="3" />
     < MERGE2   min_interval ="10000"
             max_interval ="30000" />
     < FD_SOCK />
     < FD timeout ="3000" max_tries ="3" />
     < VERIFY_SUSPECT timeout ="1500"    />
     < BARRIER />
     < pbcast .NAKACK
                   use_mcast_xmit ="false" gc_lag ="0"
                   retransmit_timeout ="300,600,1200,2400,4800"
                   discard_delivered_msgs ="true" />
     < UNICAST timeout ="300,600,1200" />
     < pbcast .STABLE stability_delay ="1000" desired_avg_gossip ="50000"
                   max_bytes ="400K" />
     < pbcast .GMS print_local_addr ="true" join_timeout ="3000"

                view_bundling ="true" />
     < FC max_credits ="2M"
        min_threshold ="0.10" />
     < FRAG2 frag_size ="60K"    />
     < pbcast .STREAMING_STATE_TRANSFER />
     
</ config >

使用多播方式配置如下：

< config xmlns ="urn:org:jgroups"
        xmlns:xsi ="http://www.w3.org/2001/XMLSchema-instance"
        xsi:schemaLocation ="urn:org:jgroups http://www.jgroups.org/schema/JGroups-2.8.xsd" >
     < UDP
          mcast_port ="${jgroups.udp.mcast_port:45588}"
         tos ="8"
         ucast_recv_buf_size ="20M"
         ucast_send_buf_size ="640K"
         mcast_recv_buf_size ="25M"
         mcast_send_buf_size ="640K"
         loopback ="true"
         discard_incompatible_packets ="true"
         max_bundle_size ="64K"
         max_bundle_timeout ="30"
         ip_ttl ="${jgroups.udp.ip_ttl:2}"
         enable_bundling ="true"
         enable_diagnostics ="true"
         thread_naming_pattern ="cl"
         timer.num_threads ="4"

         thread_pool.enabled ="true"
         thread_pool.min_threads ="2"
         thread_pool.max_threads ="8"
         thread_pool.keep_alive_time ="5000"
         thread_pool.queue_enabled ="true"
         thread_pool.queue_max_size ="10000"
         thread_pool.rejection_policy ="discard"

         oob_thread_pool.enabled ="true"
         oob_thread_pool.min_threads ="1"
         oob_thread_pool.max_threads ="8"
         oob_thread_pool.keep_alive_time ="5000"
         oob_thread_pool.queue_enabled ="false"
         oob_thread_pool.queue_max_size ="100"
         oob_thread_pool.rejection_policy ="Run" />

     < PING timeout ="2000"
            num_initial_members ="3" />
     < MERGE2 max_interval ="30000"
            min_interval ="10000" />
     < FD_SOCK />
     < FD_ALL />
     < VERIFY_SUSPECT timeout ="1500"    />
     < BARRIER />
     < pbcast .NAKACK use_stats_for_retransmission ="false"
                   exponential_backoff ="0"
                   use_mcast_xmit ="true" gc_lag ="0"
                   retransmit_timeout ="300,600,1200"
                   discard_delivered_msgs ="true" />
     < UNICAST timeout ="300,600,1200" />
     < pbcast .STABLE stability_delay ="1000" desired_avg_gossip ="50000"
                   max_bytes ="1M" />
     < pbcast .GMS print_local_addr ="true" join_timeout ="3000"

                view_bundling ="true" />
     < FC max_credits ="500K"
                    min_threshold ="0.20" />
     < FRAG2 frag_size ="60K"    />
     
     < pbcast .STATE_TRANSFER   />
     
</ config >

从上面的配置来看，JGroups 的配置要比 RMI 复杂得多，但也提供更多的微调参数，有助于提升缓存数据复制的性能。详细的 JGroups 配置参数的具体意义可参考 JGroups 的配置手册。

JGroups 方式对应缓存节点的配置信息如下：

< cache name ="mycache"

maxElementsInMemory ="10000"

eternal ="false"

timeToIdleSeconds ="600"

overflowToDisk ="false" >

< cacheEventListenerFactory

class ="net.sf.ehcache.distribution.jgroups.JGroupsCacheReplicatorFactory"

properties ="replicateAsynchronously=true, replicatePuts=true,

replicateUpdates=true, replicateUpdatesViaCopy=false, replicateRemovals=true" />

< bootstrapCacheLoaderFactory class ="net.sf.ehcache.distribution.jgroups.JGroupsBootstrapCacheLoaderFactory" />

</ cache >

使用组播方式的注意事项

使用 JGroups 需要引入 JGroups 的 jar 包以及 EhCache 对 JGroups 的封装包 ehcache-jgroupsreplication-xxx.jar 。

在一些启用了 IPv6 的电脑中，经常启动的时候报如下错误信息：

java.lang.RuntimeException: the type of the stack (IPv6) and the user supplied addresses (IPv4) don't match: /231.12.21.132.

解决的办法是增加 JVM 参数：-Djava.net.preferIPv4Stack=true 。如果是 Tomcat 服务器，可在 catalina.bat 或者 catalina.sh 中增加如下环境变量即可：

SET CATALINA_OPTS=-Djava.net.preferIPv4Stack=true

经过实际测试发现，集群方式下的缓存数据都可以在1秒钟之内完成到其他节点的复制。

EhCache Server

与前面介绍的两种集群方案不同的是， EhCache Server 是一个独立的缓存服务器，其内部使用 EhCache 做为缓存系统，可利用前面提到的两种方式进行内部集群。对外提供编程语言无关的基于 HTTP 的 RESTful 或者是 SOAP 的数据缓存操作接口。

项目是 EhCache Server 提供的对缓存数据进行操作的方法：

OPTIONS /{cache}}

获取某个缓存的可用操作的信息

HEAD /{cache}/{element}

获取缓存中某个元素的 HTTP 头信息，例如：

curl --head http://localhost:8080/ehcache/rest/sampleCache2/2
EhCache Server 返回的信息如下：
HTTP/1.1 200 OK
X-Powered-By: Servlet/2.5
Server: GlassFish/v3
Last-Modified: Sun, 27 Jul 2008 08:08:49 GMT
ETag: "1217146129490"
Content-Type: text/plain;_charset=iso-8859-1
Content-Length: 157
Date: Sun, 27 Jul 2008 08:17:09 GMT

GET /{cache}/{element}

读取缓存中某个数据的值

PUT /{cache}/{element}

写缓存

由于这些操作都是基于 HTTP 协议的，因此你可以在任何一种编程语言中使用它，例如 Perl、PHP 和 Ruby 等等。

下图是 EhCache Server 在应用中的架构：

EhCache Server 同时也提供强大的安全机制、监控功能。在数据存储方面，最大的Ehcache单实例在内存中可以缓存20GB。最大的磁盘可以缓存100GB。通过将节点整合在一起，这样缓存数据就可以跨越节点，以此获得更大的容量。将缓存20GB的50个节点整合在一起就是1TB了。

总结

以上我们介绍了三种 EhCache 的集群方案，除了第三种跨编程语言的方案外，EhCache 的集群对应用程序的代码编写都是透明的，程序人员无需考虑缓存数据是如何复制到其他节点上。既保持了代码的轻量级，同时又支持庞大的数据集群。EhCache 可谓是深入人心。

2009 年年中，Terracotta 宣布收购 EhCache 产品。Terracotta 公司的产品 Terracotta 是一个JVM级的开源群集框架，提供 HTTP Session 复制，分布式缓存，POJO 群集，跨越群集的JVM来实现分布式应用程序协调。最近 EhCache 主要改进都集中在跟 Terracotta 框架的集成上，这是一个真正意义上的企业级缓存解决方案。

EhCache 缓存系统简介

EhCache 缓存系统简介

你可能感兴趣的:(EhCache 缓存系统简介)