关键词:
支付宝系统架构概况大数据
典型处理默认大数据
财务会计大数据
支付清算大数据
核算中心大数据
易大数据
柔性事务
支付宝的开源分布式消息中间件
Metamorphosis (MetaQ) 是一个高性能、高可用、可扩展的分布式消息中间件,类似于LinkedIn的Kafka,具有消息存储顺序写、吞吐量大和支持本地和XA事务等特性,适用 于大吞吐量、顺序消息、广播和日志数据传输等场景,在淘宝和支付宝有着广泛的应用,现已开源。
Metamorphosis是淘宝开源的一个Java消息中间件。关于消息中间件,你应该听说过JMS规范,以及一些开源实现,如ActiveMQ和HornetQ等。Metamorphosis也是其中之一。
Metamorphosis 的起源是我从对linkedin的开源MQ--现在转移到apache的kafka的学习开始的,这是一个设计很独特的MQ系统,它采用pull机制,而 不是一般MQ的push模型,它大量利用了zookeeper做服务发现和offset存储,它的设计理念我非常欣赏并赞同,强烈建议你阅读一下它的设计 文档,总体上说metamorphosis的设计跟它是完全一致的。但是为什么还需要meta呢?
简单概括下我重新写出meta的原因:
1.Kafka是scala写,我对scala不熟悉,并且kafka整个社区的发展太缓慢了。
2.有一些功能是kakfa没有实现,但是我们却需要:事务、多种offset存储、高可用方案(HA)等
3.Meta相对于kafka特有的一些功能:
-文本协议设计,非常透明,支持类似memcached stats的协议来监控broker
-纯Java实现,从通讯到存储,从client到server都是重新实现。
-提供事务支持,包括本地事务和XA分布式事务
-支持HA复制,包括异步复制和同步复制,保证消息的可靠性
-支持异步发送消息
-消费消息失败,支持本地恢复
-多种offset存储支持,数据库、磁盘、zookeeper,可自定义实现支持group commit,提升数据可靠性和吞吐量。
-支持消息广播模式
-一系列配套项目:python客户端、twitter storm的spout、tail4j等。
因此meta相比于kafka的提升是巨大的。meta在淘宝和支付宝都得到了广泛应用,现在每天支付宝每天经由meta路由的消息达到120亿,淘宝也有每天也有上亿的消息量。
Meta适合的应用:
-日志传输,高吞吐量的日志传输本来就是kafka的强项;
-消息广播功能,如广播缓存配置失效;
-数据的顺序同步功能,如mysql binlog复制;
-分布式环境下(broker,producer,consumer都为集群)的消息路由,对顺序和可靠性有极高要求的场景;
-作为一般MQ来使用的其他功能。
内部结构
以上内容分享给喜欢编程,有梦想成为架构师的程序员们,希望能够帮助到你们,如果觉得文章还不错,可以动动你们的手指,转发加收藏吧!谢谢
·END·
可以参与进来的架构师圈子,就等你了.......
微信:LITA941002778
支付宝系统架构内部剖析
支付宝系统架构概况典型处理默认 资金处理平台财务会计支付清算 核算中心 交易 柔性事务 消息系统 数据分布 数据缓存 支付宝技术产品线 支付宝的开源分布式消息中间件&nd... 查看详情
转最全最强解析:支付宝钱包系统架构内部剖析(架构图)
原文: 最全最强解析:支付宝钱包系统架构内部剖析(架构图)2015/06/05 支付宝系统架构概况 典型处理默认资金处理平台财务会计支付清算核算中心交易柔性事务支付宝的开源分布式消息中间件–Metamorphosis(MetaQ)Meta... 查看详情
最全最强解析:支付宝钱包系统架构内部剖析(架构图)
原文地址:http://www.woshipm.com/pmd/160822.html+支付宝系统架构概况典型处理默认资金处理平台财务会计支付清算核算中心交易柔性事务支付宝的开源分布式消息中间件–Metamorphosis(MetaQ)Metamorphosis(MetaQ)是一个高性能、高可用、可扩展... 查看详情
求贤若渴(java架构师技术专家)
我们是阿里数据库技术团队,一个管理阿里巴巴集团淘宝、天猫、支付宝、余额宝、B2B、高德地图、钉钉等业务所有数据的技术团队,负责历年双11、双12、春节红包大型活动数据保障,主导阿里去IOE、数据异地多活... 查看详情
支付宝soa框架发展思路(转载)
...好,这里是首届QConBeijing的现场,现在坐在我的旁边是的支付宝的首席架构师程立。先给大家介绍一下,支付宝架构发展到今天,经历哪些时期,都有哪些里程碑?我回忆一下,支付宝系统架构发展大概有这么几点。我本人大概... 查看详情
求贤若渴(java架构师技术专家)
我们是阿里数据库技术团队,一个管理阿里巴巴集团淘宝、天猫、支付宝、余额宝、B2B、高德地图、钉钉等业务所有数据的技术团队,负责历年双11、双12、春节红包大型活动数据保障,主导阿里去IOE、数据异地多活... 查看详情
支付宝支撑2135亿成交额的数据库架构原理
...用现成的方案,如商业数据库或者开源数据库呢?曾经,阿里巴巴拥有亚洲最大的Oracle集群,但是随着互联网业务的发展,尤其是近十年的发展非常迅速,阿里每年的流量呈指数型上升,而且在某些特定日期流量会出现激增,这... 查看详情
9月笔记
两阶段提交协议(twophasecommitprotocol,2PC)http://blog.csdn.net/shenlan211314/article/details/7283948支付宝系统架构内部剖析http://www.cnblogs.com/yudar/p/4782126.html?tvd利用AOP实现2PC框架http://www.cnblogs.com/selfteam/p/397 查看详情
前沿分享|阿里云资深技术专家魏闯先:analyticdbpostgresql年度新版本发布
...-云原生数据仓库AnalyticDB技术与实践峰会分论坛中,阿里云资深技术专家魏闯先关于“AnalyticDBPostgreSQL年度新版本发布”的分享。本篇内容将通过三个部分来介绍AnalyticDB PG年度新版本发布。一、AnalyticDB PG云原生架构二、云... 查看详情
各大互联网公司架构演进之路汇总
...淘宝架构演进背后——零售业务中台架构设计探讨及实践阿里游戏高可用架构设计实践阿里B2B技术架构演进详解秒杀系统 查看详情
阿里p9专家右军:以终为始的架构设计
P一艘民用的船只如果发展成一艘巨舰,在安全性、载重、动力设备、船只内部设计等各方面都有差异。而对于时下很火热的线下O2O业务,广大群众乐于比较价格,计算各种优惠,厂商也乐此不疲地发展营销创新,从街头的跳楼... 查看详情
支付宝架构
支付宝所使用的架构分为两类三层,分别是运维平台(IAAS),技术平台(PAAS),业务平台(SAAS)。这三个平台,分别从底层,中间层和应用层提供服务。因为双十一当天的用户数量,访问量,以及所有的数据都会是平时的几倍... 查看详情
前沿分享|阿里云资深技术专家魏闯先:analyticdbpostgresql年度新版本发布
...-云原生数据仓库AnalyticDB技术与实践峰会分论坛中,阿里云资深技术专家魏闯先关于“AnalyticDBPostgreSQL年度新版本发布”的分享。本篇内容将通过三个部分来介绍AnalyticDBPG年度新版本发布。一、AnalyticDBPG云原生架构二、云原生... 查看详情
支付平台的架构设计(代码片段)
...p;本文转载自公众号 Fastpay快付 作者李艳鹏,阿里P8技术专家,小灰在Qcon大会上有幸结识,技术又好为人又很谦和。 互联网平台架构日益成为互联网发展的基石,对于Java开发者和架构师而言,只有在了... 查看详情
支付宝架构解析:ios客户端启动性能优化初探(代码片段)
一、前言《支付宝客户端架构解析》系列将从支付宝客户端的架构设计方案入手,细分拆解客户端在“容器化框架设计”、“网络优化”、“性能启动优化”、“自动化日志收集”、“RPC组件设计”、“移动应用监控、诊断... 查看详情
听听八年阿里架构师怎样讲述dubbo和springcloud微服务架构
转自:https://baijiahao.baidu.com/s?id=1600174787011483381&wfr=spider&for=pc微服务架构是互联网很热门的话题,是互联网技术发展的必然结果。它提倡将单一应用程序划分成一组小的服务,服务之间互相协调、互相配合,为用户提供最终... 查看详情
阿里8年资深技术专家谈企业级互联网架构的演进之路
沈询,阿里巴巴中间件&稳定性平台资深技术专家,在淘宝工作八年间,主要负责的产品有淘宝分布式数据库(TDDL/DRDS)、分布式消息系统(Notify/ONS)等,故对整个分布式的互联网架构比较了解。本文分享围绕阿里技术架构演进... 查看详情
阿里专家:如何画出优秀的架构图?
<< 滑动查看更多专栏 >><< 滑动查看下一张图片 >>牛年最后一更!儒猿祝各位朋友新的一年:如意多金!虎虎生风!点个在看你最好看 查看详情