数据库读写分离

随着一个网站的业务不断扩展,数据不断增加,数据库的压力也会越来越大,对数据库或者SQL的基本优化可能达不到最终的效果,我们可以采用读写分离的策 略来改变现状。读写分离现在被大量应用于很多大型网站,这个技术也不足为奇了。ebay就做得非常好。ebay用的是oracle,听说是用Quest Share Plex 来实现主从复制数据。

     读写分离简单的说是把对数据库读和写的操作分开对应不同的数据库服务器,这样能有效地减轻数据库压力,也能减轻io压力。主数据库提供写操作,从数据库提 供读操作,其实在很多系统中,主要是读的操作。当主数据库进行写操作时,数据要同步到从的数据库,这样才能有效保证数据库完整性。Quest SharePlex就是比较牛的同步数据工具,听说比oracle本身的流复制还好,mysql也有自己的同步数据技术。mysql只要是通过二进制日志来复制数据。通过日志在从数据库重复主数据库的操作达到复制数据目的。这个复制比较好的就是通过异步方法,把数据同步到从数据库。

      主数据库同步到从数据库后,从数据库一般由多台数据库组成这样才能达到减轻压力的目的。读的操作怎么样分配到从数据库上?应该根据服务器的压力把读的操作分配到服务器,而不是简单的随机分配。mysql提供了MySQL-Proxy实现读写分离操作。不过MySQL-Proxy好像很久不更新了。oracle可以通过F5有效分配读从数据库的压力。



ebay的读写分离(网上找到就拿来用了)


 mysql的读写分离
       上面说的数据库同步复制,都是在从同一种数据库中,如果我要把oracle的数据同步到mysql中,其实要实现这种方案的理由很简单,mysql免费,oracle太贵。好像Quest SharePlex也实现不了改功能吧。好像现在市面还没有这个工具吧。那样应该怎么实现数据同步?其实我们可以考虑自己开发一套同步数据组件,通过消息,实现异步复制数据。其实这个实现起来要考虑很多方面问题,高并发的问题,失败记录等。其实这种方法也可以同步数据到memcache中。听说oracle的Stream也能实现,不过没有试过。

Dubbo与Zookeeper、SpringMVC整合使用

声明:该框架面向企业的大型互联网分布式企业架构,后期会介绍linux上部署高可用集群项目。有愿意了解框架技术或者源码的朋友直接加Q(2137028325)一起学习

欢迎大家前来学习了解jeesz大型分布式企业架构源码,具体咨询请加Q:2137028325

关键字:Maven, Springmvc mybatis shiro Druid Restful,Dubbo ZooKeeper,Redis,FastDFS ,ActiveMQ,Keepalived,Nginx,Hudson,MySQL读写分离

1.     项目核心代码结构截图
数据库读写分离_第1张图片

数据库读写分离_第2张图片

特别提醒:开发人员在开发的时候可以将自己的业务REST服务化或者Dubbo服务化

2.    项目依赖介绍

   2.1 后台管理系统、Rest服务系统、Scheculer定时调度系统依赖如下图:数据库读写分离_第3张图片

       2.2 Dubbo独立服务项目依赖如下图:
数据库读写分离_第4张图片

3.  项目功能部分截图:

数据库读写分离_第5张图片

数据库读写分离_第6张图片

数据库读写分离_第7张图片

数据库读写分离_第8张图片

数据库读写分离_第9张图片

数据库读写分离_第10张图片

数据库读写分离_第11张图片

数据库读写分离_第12张图片

数据库读写分离_第13张图片

数据库读写分离_第14张图片

数据库读写分离_第15张图片

数据库读写分离_第16张图片

数据库读写分离_第17张图片

数据库读写分离_第18张图片

4.      平台简介
        Jeesz是一个分布式的框架,提供项目模块化、服务化、热插拔的思想,高度封装安全性的Java EE快速开发平台。

       Jeesz本身集成Dubbo服务管控、Zookeeper注册中心、Redis分布式缓存技术、FastDFS分布式文件系统、ActiveMQ异步消息中间件、Nginx负载均衡等分布式技术

        使用Maven做项目管理,项目模块化,提高项目的易开发性、扩展性

        以Spring Framework为核心容器,Spring MVC为模型视图控制器,MyBatis为数据访问层, Apache Shiro为权限授权层,Ehcahe对常用数据进行缓存,Activit为工作流引擎等。

        前端集成Bootstrap4 metronic框架,UI响应式、扁平化布局,适应所有PC、Pad、Anroid、ios 移动设备等。

       Jeesz主要定位于互联网企业架构,已内置企业信息化系统的基础 功能和高效的代码生成工具,包括:系统权限组件、数据权限组件、数据字典组件、核心工具 组件、视图操作组件、工作流组件、代码生成等。采用分层设计、双重验证、提交数据安全编码、密码加密、访问验证、数据权限验证。

       Jeesz目前包括以下模块项目,后台系统管理系统RestFul独立服务系统Scheduler定时调度系统内容管理(CMS)系统在线办公(OA)系统我的待办(Task服务)我的收藏(Bookmark服务)

        后台管理系统包括企业组织架构(用户管理、机构管理、区域管理)、菜单管理、角色权限管理、字典管理等功能;

        RestFul独立提供标准Rest服务API,您可以快速实现自己的业务,提供需要的服务;

        Quartz定时调度系统可以动态配置您的任务规则等;

        内容管理(CMS)系统,包括内容管理,栏目管理、站点管理、公共留言、文件管理、前端网站展示等功能;

        在线办公(OA)系统,主要提供简单的流程实例。

       Jeesz提供了常用工具进行封装,包括日志工具、缓存工具、服务 器端验证、数据字典、当前组织机构数据(用户、机构、区域)以及其它常用小工具等。另外 还提供一个强大的在线 代码生成 工具,此工具提供简单的单表、一对多、树结构功能的生成,如果对外观要求不是很高,生成的功能就可以用了。使用了Jeesz基础框架,可以提高快速开发效 率。


5.    内置功能(只列了一部分功能)
    1.用户管理:用户是系统操作者,该功能主要完成系统用户配置。
    2.机构管理:配置系统组织机构(公司、部门、小组),树结构展现,可随意调整上下级。
    3.区域管理:系统城市区域模型,如:国家、省市、地市、区县的维护。
    4.菜单管理:配置系统菜单,操作权限,按钮权限标识等。
    5.角色管理:角色菜单权限分配、设置角色按机构进行数据范围权限划分。
    6.字典管理:对系统中经常使用的一些较为固定的数据进行维护,如:是否、男女、类别、级别等。
    7.操作日志:系统正常操作日志记录和查询;系统异常信息日志记录和查询。
    8.连接池监视:监视当期系统数据库连接池状态,可进行分析SQL找出系统性能瓶颈。
    9.工作流引擎:实现业务工单流转、在线流程设计器。


6.    开发工具
    1.Eclipse IDE:采用Maven项目管理,模块化。
    2.代码生成:通过界面方式简单配置,自动生成相应代码,目前包括三种生成方式(增删改查):单表、一对多、树结构。生成后的代码如果不需要注意美观程度,生成后即可用。


7.    技术选型(只列了一部分技术)
    1、后端
        服务框架:Dubbo、zookeeper、Rest服务
        缓存:Redis、ehcache
        消息中间件:ActiveMQ
        负载均衡:Nginx
        分布式文件:FastDFS
        数据库连接池:Alibaba Druid 1.0
        核心框架:Spring framework
        安全框架:Apache Shiro 1.2
        视图框架:Spring MVC 4.0
        服务端验证:Hibernate Validator 5.1
        布局框架:SiteMesh 2.4
        工作流引擎:Activiti 5.15
        任务调度:quartz 1.8.5
        持久层框架:MyBatis 3.2
        日志管理:SLF4J 1.7、Log4j
        工具类:Apache Commons、Jackson 2.2、Xstream 1.4、Dozer 5.3、POI
    2、前端
        JS框架:JQuery 1.9。
        CSS框架: Bootstrap 4 metronic
        客户端验证:JQuery Validation Plugin。
        富文本:CKEcitor
        文件管理:CKFinder
        动态页签:Jerichotab
        数据表格:jqGrid
        对话框:jQuery jBox
        树结构控件:jQuery zTree
        其他组件:Bootstrap 4 metronic
    3、支持
        服务器中间件:Tomcat 6、7、Jboss 7、WebLogic 10、WebSphere 8
        数据库支持:目前仅提供mysql数据库的支持,但不限于数据库,下个版本升级多数据源切换和数据库读写分离: 如:Oracle、SqlServer、H2等
        支持开发环境:Eclipse、MyEclipse、Ras、Idea等

欢迎大家前来学习了解jeesz大型分布式企业架构源码,具体咨询请加Q:2137028325

关键字:Maven, Springmvc mybatis shiro Druid Restful,Dubbo ZooKeeper,Redis,FastDFS ,ActiveMQ,Keepalived,Nginx,Hudson,MySQL读写分离


你可能感兴趣的:(springMVC,shiro,mybatis,分布式,DUBBO,Restful,数据库读写分离,App服务,zookeeper负载)