在2018年11月16日举行的『数据技术嘉年华』大会上,我对行业近期的观察和思考做了一个总结,在此和大家分享商榷。
(下载大会 PPT,关注“数据和云”公众号回复:2018DTC ,内容持续更新中,尚不完整)
我以为,近代数据库技术的发展可以划分为三个阶段,分别是:
商业数据库时代:以Oracle、DB2、Sybase、SQL Server 等产品为代表,开创了一个企业级软件时代;
开源数据库时代:以MySQL、PostgreSQL、MongoDB、Redis 等产品为代表,推动了互联网时代;
云数据库时代:以Oracle的自治数据库、AWS 的 Aurora、阿里云的PolarDB等产品为代表,开创了云时代;
在商业数据库时代,发展出一批伟大的产品和公司,Oracle 是其中的代表,至今仍以 2000亿美元 的市值巍峨屹立,这个时代的商业数据库成就了一系列庞大的企业级软件,ERP、CRM 等领域都有相当体量的企业存在,这个时代也是企业级软件的时代,微软 和 IBM 都有卓越的数据库产品,曾经是一个三足鼎立的数据库时代渐渐被 Oracle 一枝独秀.
在开源数据库时代,呈现百花齐放的生态,支撑和成就了互联网时代,然而这些开源数据库产品本身并未获得应有的价值回报,近期很多开源数据库都在调整其开源协议,尤其是面对云的时代变革。历数开源时代的代表 ,MySQL 以10亿美金卖身SUN公司,辗转落入Oracle的囊中,大数据的标志 Cloudera 和 Hortonworks 合并也仅仅 50亿左右的市值,MongoDB 市值 40亿美元左右,Elastic 市值 25亿左右,这些数据库产品似乎还不及『微软以262 亿美元全现金收购的LinkedIn』,这个时代是互联网的时代。
在云数据库时代,数据库则成为了云内核的一部分、一个组件,甚至不复单独存在,Amazon 提供 Redshift 和 Aurora 等多种数据库产品,阿里云有 PolarDB 等多种数据库,在这个时代云才是永恒的主角,数据库渐渐沉淀在底层,依托云的价值,AWS、微软、Google、阿里巴巴 成为了云时代的主角。
数据库领域经历了分分合合,再次呈现出百花齐放的局面,这让我想起《易经》的一句『见群龙无首,吉』,唯有百花齐放,才见活力,企业也才有了选择上的自由。
诚然,大时代风起云涌,但是如果落地到企业级,我们认为用户的核心诉求仍然是不变的,云和恩墨从创业开始,就在企业手册中描述了这样一个认知,无论对于数据库还是IT架构,用户的核心诉求安全、连续、高效 和 智能 不曾改变。所以我的主题演讲用了八个字:稳筑基石,云帆万里。只有打好基础,才能云途高远,否则一切都只是空中楼阁,遇到真正的危机就可能轰然倒塌。
就企业的核心数据而言:
安全:安全是基石,尤其是云时代的数据安全,没有数据安全甚至就没有企业生存,欧盟在2018年5月25日生效了 GDPR 法案,对于安全做出了严格的要求,对违反者做出2000万欧元或企业全球年营业额4%的重量级处罚。在国内,今年汉庭的严重数据泄露已经将近2亿用户的信息泄露;
连续:永续运行是云时代和互联网时代的核心诉求,无连续就无发展,传统企业也渐渐的走上了24x7不间断服务的道路上来,数据库的连续运行只是其中的一环;
高效:性能是支持业务高速增长,获得竞争力的关键,是成本和效率的核心。
智能:智慧智能是未来科技的必然发展方向,是企业竞争的制高点,是产品和技术演进的终极目标,信息技术的各个环节都在走向智能化。
就数据库而言,Oracle 数据库在不同版本中,同样是围绕这四个维度在不断的改进产品,以下是几个例证。
在 Oracle 12.2 中,针对由来已久的索引分裂问题,Oracle 做出了优化提升,尤其是在 RAC 集群中,通过消息改进、算法优化,极大的降低了索引分裂的竞争,图中可以看到 12.2 在索引分裂时几乎保持事务率的稳定增长:
为了提升性能,Oracle 在扩展性方面不断做出改进,在 12.2 引入 Sharding 技术之后,18c 进一步实现了 Sharded RAC 的新特性,可以将单一数据库中的表数据根据条件分片到不同实例的内存中,透明路由访问应用,减少了跨实例的交互,实现了近乎线性的扩展能力,测试曲线中,5个节点能够实现 4.6倍的性能,解决了 RAC 人工分片或分散访问的复杂性。
在多租户的特性中,12.2 和 18c 分别实现了 Container Map 和 动态 Container Map 的特性,事实上可以通过 MAP 映射将不同的表分区放置在独立的 PDB 当中,形成了一个 PDB Sharding 。
为了保证业务连续性和容灾,Oracle 的 Data Guard 技术一直在演进,为了加速主备切换,12.2 中实现了切换过程的连接保持,18c 实现了切换过程中的内存保持,这两个小的改变都能够极大的减少切换时间,确保业务连续性的实现:
在 19c 中,Oracle 进一步完善实现了 Data Guard 的自动 DML 转发,在偶尔发现到备库的 DML 时,自动转发到主库执行,传递日志到备库应用,实现备库的透明化,读写分离更加灵活。
Oracle 18c 自治数据库,其实也是 Oracle 的云数据库,基于云的环境,自治才得以灵活的实现,自动供应环境、自动安全保护、自动扩展、自动更新等。Oracle 正在全力的将其核心产品转移到云上来。
如前所诉,今天数据库的竞争已经转移到了云上来,而云时代的数据库更多的是依托前两个时代的技术积累,继承其一致性、可用性,增强其分布式、弹性伸缩、安全能力,应云而生、为云而生,谁能够在云上掌握话语权,谁才能够在未来的云时代掌握数据先机。
聊完了云上,我们再看看云下,其实在很多企业的工作日常中,基础运维工作还处在比较初级的状态,很多工作仍然需要依赖人肉手工作坊式进行工作。如何从手工运维快速迭代,进入 自动运维 和 AIOps ,是现阶段工作的主要核心。
固然企业级应用和互联网有着一定的差异性,但是随着云时代的快速发展,我们认为企业级系统建设应当着眼于云模式进行,以云理念建设企业环境:
云和恩墨云时代的愿景就是,紧紧围绕数据,帮助和促进用户实现从 应用到数据库、基础设施的安全、连续、高效、智能的云化环境。
云和恩墨致力于在 基础设施、数据库和应用三个层面,围绕数据核心,展开产品创新:
在 基础设施 层:云和恩墨可以为用户提供基于云时代的分布式存储一体机 zData,以低成本、高性能,为云时代数据环境加速,zData 可以作为存储资源池,实现弹性伸缩,作为IaaS层设施构建企业级数据库私有云,支持Oracle 、MySQL等多种数据库。
在 数据库 层:随着越来越多的数据库被引入到企业应用环境中(今天的一款企业级CRM就可能使用3种以上的数据库),传统的数据环境粗放式建设和管理模式应该改变,数据库底层部署时代应该演进到平台纳管部署时代,通过 PaaS 层平台自助、自动式进行数据库的部署和维护,实现企业级RDS服务提供,由此才能解决数据环境不断复杂化的挑战。以前系统建设是先安装数据库,再向上寻求管理监控,通过zCloud的多数据库支持,可以实现自上而下的统一部署和监控管理的企业RDS。
在 应用 层,业务总是通过 SQL 来访问数据,控制住 SQL 性能也就控制住了系统的性能和稳定性,我们可以想象,以前DBA面对一个数据库时就曾经四处救火焦头烂额,如果在云时代面临 5~10 种数据库将会是什么局面?我们必须改变线上优化排障的局面。云和恩墨的 SQM (SQL 性能管理)平台致力于在前端发现和解决SQL性能问题,通过自动化和智能化实现性能管控也就规避了线上救火。SQM 也已经在云上提供了 SaaS 服务。
云和恩墨的 SQM 产品,在支持 Oracle、MySQL 的基础之上,进一步扩展支持了 DB2 数据库 正式发布,除了基于规则的审核之外,2019年发布版本将支持智能的SQL优化建议,智能算法支持从10多个维度的详尽分析:
云和恩墨的 zCLoud 产品,将多数据库纳管于统一的云管平台,改变了原来的底层人工分散部署模式,通过平台的自动化部署和纳管,实现云化数据库管理模式,甚至可以为企业提供内部RDS服务:
zCLoud 在自动部署的功能之后,实现了高可用容灾自动部署,即可以支持 RAC 集群、DataGuard 部署,又可以支持 MySQL 集群主备环境的部署,将原本复杂低效的低层次工作完全自动化:
有了容灾和高可用环境,还要有可视化管理,近期云和恩墨帮助某银行客户实现了自动化的数据库容灾切换可视化,一键切换,自动检测:
统一的纳管之后,就可以轻松实现多数据库的统一监控和性能管理,zCloud 的理念是用同一个界面、同一套步骤实现异构数据库的统一化管理:
云和恩墨zCloud的监控可以独立剥离出来,通过 Bethune 提供给用户,将性能监控、智能巡检建议和安全扫描融于一体,特别适合中小规模的企业客户,Bethune 经过精心打磨,『漂亮的不像实力派』,彻底替代人力繁重的巡检等工作。欢迎大家了解测试:
云和恩墨的 zData 一体机已经经过了长达5年的客户实践考验,以零故障率获得了客户的信赖和认同。在传统的标准版之后,今天特别发布了 3节点融合版、2节点精简版,可以让小规模数据库以低廉的价格体验到硬件加速带来的卓越体验。
本次大会,云和恩墨的备份一体机正式发布,ZDBM 以 0 数据损失的技术,为用户实现5~10倍的存储缩减,而且可以通过备份一体机即时提供和生产一致的测试环境,让备份和测试『双网合一』:
在中国移动某省公司,云和恩墨已经通过创新的技术为用户打造了完整的数据库云平台,通过 zData 资源池,用户的统计、结算、电渠和计费数据库已经彻底资源池云化,通过多租户的数据库架构实现了云数据库部署,通过 zCloud 云管实现了多数据库的统一管理。
无论是互联网时代还是云时代,数据始终是用户的核心,云和恩墨致力于通过底层的基础架构加速、中层的PaaS数据库云平台纳管、顶层的SQL审核管理,为企业数据环境提供云时代的端到端解决方案。
面向云时代,云和恩墨的产品也在走向云化和免费化,云和恩墨的SQL审核、Bethune 智能巡检、MySQL 一体机 都已经免费提供,欢迎大家体验垂询。
在云数据库时代,我们更加坚信:数据驱动,成就未来!云和恩墨,不负所托!
云和恩墨
数据驱动,成就未来。整合业界顶尖的技术与合作伙伴资源,围绕数据及相关领域,提供解决方案和专业服务。
IT基础架构
专业服务:云化(分布式)数据中心解决方案
支撑软件:分布式存储软件
数据架构
Oracle DB2 MySQL NoSQL
专项服务:混合架构 / 安全 / 容灾 / 优化 / 整合升级迁移
运维服务:运维服务 | 云化运维
人才培养:个人教育培训 | 在线教育
支撑软件:自动化运维软件 | 数据库监控软件
应用架构
专业服务:中间件 | 数据建模与模型优化 | SQL审核与优化
支撑软件:应用开发质量管控平台
业务架构
数据治理 | 电子商务用户行业分析 | 数据资产运营