阿里专家:讲述支付宝内部架构剖析......

阿里专家:讲述支付宝内部架构剖析......_第1张图片


支付宝系统架构概况大数据



阿里专家:讲述支付宝内部架构剖析......_第2张图片


典型处理默认大数据


阿里专家:讲述支付宝内部架构剖析......_第3张图片



财务会计大数据


阿里专家:讲述支付宝内部架构剖析......_第4张图片


支付清算大数据


阿里专家:讲述支付宝内部架构剖析......_第5张图片


核算中心大数据



阿里专家:讲述支付宝内部架构剖析......_第6张图片


易大数据


阿里专家:讲述支付宝内部架构剖析......_第7张图片


柔性事务


阿里专家:讲述支付宝内部架构剖析......_第8张图片

阿里专家:讲述支付宝内部架构剖析......_第9张图片

阿里专家:讲述支付宝内部架构剖析......_第10张图片

阿里专家:讲述支付宝内部架构剖析......_第11张图片

阿里专家:讲述支付宝内部架构剖析......_第12张图片

阿里专家:讲述支付宝内部架构剖析......_第13张图片

阿里专家:讲述支付宝内部架构剖析......_第14张图片

阿里专家:讲述支付宝内部架构剖析......_第15张图片

阿里专家:讲述支付宝内部架构剖析......_第16张图片

阿里专家:讲述支付宝内部架构剖析......_第17张图片


支付宝的开源分布式消息中间件


Metamorphosis (MetaQ) 是一个高性能、高可用、可扩展的分布式消息中间件,类似于LinkedIn的Kafka,具有消息存储顺序写、吞吐量大和支持本地和XA事务等特性,适用 于大吞吐量、顺序消息、广播和日志数据传输等场景,在淘宝和支付宝有着广泛的应用,现已开源。


Metamorphosis是淘宝开源的一个Java消息中间件。关于消息中间件,你应该听说过JMS规范,以及一些开源实现,如ActiveMQ和HornetQ等。Metamorphosis也是其中之一。


Metamorphosis 的起源是我从对linkedin的开源MQ--现在转移到apache的kafka的学习开始的,这是一个设计很独特的MQ系统,它采用pull机制,而 不是一般MQ的push模型,它大量利用了zookeeper做服务发现和offset存储,它的设计理念我非常欣赏并赞同,强烈建议你阅读一下它的设计 文档,总体上说metamorphosis的设计跟它是完全一致的。但是为什么还需要meta呢?


简单概括下我重新写出meta的原因:

1.Kafka是scala写,我对scala不熟悉,并且kafka整个社区的发展太缓慢了。

2.有一些功能是kakfa没有实现,但是我们却需要:事务、多种offset存储、高可用方案(HA)等

3.Meta相对于kafka特有的一些功能:

-文本协议设计,非常透明,支持类似memcached stats的协议来监控broker

-纯Java实现,从通讯到存储,从client到server都是重新实现。

-提供事务支持,包括本地事务和XA分布式事务

-支持HA复制,包括异步复制和同步复制,保证消息的可靠性

-支持异步发送消息

-消费消息失败,支持本地恢复

-多种offset存储支持,数据库、磁盘、zookeeper,可自定义实现支持group commit,提升数据可靠性和吞吐量。

-支持消息广播模式

-一系列配套项目:python客户端、twitter storm的spout、tail4j等。

因此meta相比于kafka的提升是巨大的。meta在淘宝和支付宝都得到了广泛应用,现在每天支付宝每天经由meta路由的消息达到120亿,淘宝也有每天也有上亿的消息量。

Meta适合的应用:

-日志传输,高吞吐量的日志传输本来就是kafka的强项;

-消息广播功能,如广播缓存配置失效;

-数据的顺序同步功能,如mysql binlog复制;

-分布式环境下(broker,producer,consumer都为集群)的消息路由,对顺序和可靠性有极高要求的场景;

-作为一般MQ来使用的其他功能。


内部结构


阿里专家:讲述支付宝内部架构剖析......_第18张图片

以上内容分享给喜欢编程,有梦想成为架构师的程序员们,希望能够帮助到你们,如果觉得文章还不错,可以动动你们的手指,转发加收藏吧!谢谢


·END·

JAVA架构师的圈子

可以参与进来的架构师圈子,就等你了.......

阿里专家:讲述支付宝内部架构剖析......_第19张图片

微信:LITA941002778

你可能感兴趣的:(JAVA架构进阶,双十一电商项目实战,性能优化,源码分析,Java后端技术的博客)