深入理解分布式事务

linnaf5 linnaf5     2023-02-04     753

关键词:

通俗定义:如果一个事务调用了不同服务器上的操作,那么它就成为了一个分布式事务。

考虑下面一种场景:当你发了工资之后,把你的当月工资¥1024从支付宝转到了余额宝。

如果在支付宝账户扣除¥1024之后,余额宝系统挂掉了,余额宝的账户并没有增加¥1024,这时候就出现了数据不一致的情况。

在一个分布式事务结束的时候,事务的原子特性要求所有参与该事务的服务器必须全部提交或全部放弃该事务。为了实现这一点,其中一个服务器承担了协调者(coordinater)的角色,由它来保证所有的服务器获得相同的结果。

协调者的工作方式取决于它选用的协议,“两阶段提交”市分布式事务中最常用的协议。

 

技术分享图片

1、两阶段提交协议

两阶段提交协议(two-phase commit protocol)的设计出发点是允许任何一个参与者自行放弃它自己的那部分事务。由于事务原子性的要求,如果部分事务被放弃,那么整个分布式事务也必须被放弃。

在该协议的第一个阶段,每个参与者投票表决该事务是放弃还是提交,一旦参与者要求提交事务,那么就不允许放弃该事务。因此,在一个参与者要求提交事务之前,它必须保证最终能够执行分布式事务中自己的那部分,即使该参与者出现故障而被中途替换掉。

一个事务的参与者如果最终能提交事务,那么可以说参与者处于事务的准备好(prepared)状态。为了保证能够提交,每个参与者必须将事务中所有发生改变的对象以及自身的状态(prepared)保存到持久性存储中。

在该协议的第二个阶段,事务的每个参与者执行最终统一的决定。如果任何一个参与者投票放弃事务,那么最终的决定是放弃事务。如果所有的参与者都投票提交事务,那么最终的决定是提交事务。

问题在于,要保证每个参与者都投票,并且达成一个共同的决定。在无故障时,该协议相当简单。但是,协议必须在出现各种故障(例如服务器崩溃,消息丢失或服务暂时无法通信)时能够正常工作。

2、两阶段提交的实现

为了实现两阶段提交协议,分布式事务中的协调者和参与者通常按照下面的接口进行通信:

  • canCommit(trans) 

协调者询问参与者是否可以提交事务,参与者回复自己的投票结果。

  • doCommit(trans) 

协调者告诉参与者提交它的那部分事务。

  • doAbort(trans) 

协调者告诉参与者放弃它的那部分事务。

  • haveCommitted(trans, participant) 

参与者用该操作向协调者确认它提交了事务。

  • getDecision(trans) ?

当参与者在投Yes票后一段时间内未收到应答时,参与者用该操作向协调者询问事务的投票表决结果。该操作用于从服务器崩溃或从消息延迟中恢复。

执行流程:

阶段一(投票阶段):

1)协调者向分布式事务的所有参与者发送cancommit?请求

2)当参与者收到cancommit请求后,它向协调者回复自己的投票(Yes/No)

在投yes前,它在持久性存储中保存所有对象,准备提交。如果投No,参与者立即放弃。

阶段二(提交阶段):

1)协调者收集所有的投票(包括它自己的投票)。

  a)如果不存在故障并且所有的投票都是yes时,那么协调者将决定提交事务并向所有的参与者发送docommit

  b)否则,协调者将决定放弃该事务,并向所有投Yes票的参与者发送doAbort请求

2)投Yes票的等待者等待协调者发送的docommit请求或则doAbort请求。参与者收到消息则根据消息作出相应反应,如果是提交事务,则还要向协调者发送一个haveCommited来确认事务已经提交。

3、分布式事务的故障模型

在分布式事务中执行的过程中,可能出现磁盘故障,进程崩溃以及消息的丢失,超时等。

两阶段提交是一种达成共识的协议,在该系统中,如果进程崩溃,那么是不可能达成共识的。但是,两阶段提交却是在这些条件下达成了共识,这是由于进程的崩溃被屏蔽,崩溃的进程被一个新的进程取代,新进程的状态根据持久性存储中保存的信息和其他进程拥有的信息来设定。

3.1、故障模型

Lampson提出过一个分布式事务的故障模型,包括了硬盘故障、服务器故障以及通信故障。该故障模型声称:可以保证算法在出现故障时正确工作,但是对于不可预见的灾难性故障则不能正确处理。尽管会出现错误,但是可以在发生不正确行为之前发现并处理这些错误。Lampson的故障模型包括以下故障:

  • 对持久性存储的写操作可能发生故障(或因为写操作无效或因为写入错误的值)。例如,将数据写到错误的磁盘块被认为是灾难性故障。文件存储可能损坏。在持久性存储中读数据时可根据校验和来判断数据块是否损坏。

  • 服务器可能偶尔崩溃。当一个崩溃的服务器由一个新进程取代后,它的可变内存被重置,崩溃之前的数据均丢失。此后新进程执行一个可恢复过程,根据持久存储中的信息以及从其他进程获得的信息设置对象的值,包括两阶段提交协议有关对象的值。当一个处理器出现故障时,服务器也会崩溃,这样它就不会发送错误的信息或将错误的值写入持久存储,即它不会产生随机故障。服务器崩溃可能出现在任何时候,特别是在恢复时也可能出现。

  • 消息传递可能有任意长的延迟。消息可能丢失、重复或者损坏。接收方(通过校验和)能够检测到受损消息。未发现的受损消息和伪造的消息可能会导致灾难性故障。

利用这个关于持久性存储、处理器和通信的故障模型能够设计出一个可靠系统,该系统的组件可对付任何单一故障,并提供一个简单的故障模型。特别是,可靠存储(stable storage)可以在出现一个write操作故障或者进程崩溃的情况下提供原子写操作。它是通过将每一个数据块复制到两个磁盘上实现的。此时一个write操作用于两个磁盘块,在一个磁盘出现故障的前提下,另一个好的磁盘也可以提供正确数据。可靠处理器(stable processor)使用可靠存储,用于在崩溃之后恢复对象。可通过可靠的远程过程调用机制来屏蔽通信错误。

3.2、两阶段提交协议的超时

在两阶段协议的不同阶段,协调者或参与者都会遇到这种场景:不能处理它的那部分协议,直到接收到下一个请求或应答为止。

首先考虑这样的情形:某个投票者投Yes票并等待协调者发回最终决定,即告诉它是提交事务还是放弃事务。这样参与者的结果是不确定(uncertain)的,它在协调者处得到投票结果之前不能进行进一步处理。参与者不能单方面决定下一步做什么,同时该事务使用的对象也不能释放以用于其他事物。参与者向协调者发出getDecision请求来获取事务的结果,直到收到应答时,才能进入两阶段协议的第二阶段。

同理,如果协调者发生故障,那么参与者将不能获得协定,直到协调者被替代为止,这可能导致不确定状态的参与者长时间的延迟。

不依赖协调者获取最终决定的方法是通过参与者协作来获得决定。这种策略的优点是可以在协调者出故障时使用。

4、两阶段提交的缺点

1.同步阻塞问题。执行过程中,所有参与节点都是事务阻塞型的。
当参与者占有公共资源时,其他第三方节点访问公共资源不得不处于阻塞状态。

2.单点故障。由于协调者的重要性,一旦协调者发生故障。
参与者会一直阻塞下去。尤其在第二阶段,协调者发生故障,那么所有的参与者还都处于锁定事务资源的状态中,而无法继续完成事务操作。(如果是协调者挂掉,可以重新选举一个协调者,但是无法解决因为协调者宕机导致的参与者处于阻塞状态的问题)

3.数据不一致。在二阶段提交的阶段二中,当协调者向参与者发送commit请求之后,发生了局部网络异常或者在发送commit请求过程中协调者发生了故障,这回导致只有一部分参与者接受到了commit请求。
而在这部分参与者接到commit请求之后就会执行commit操作。但是其他部分未接到commit请求的机器则无法执行事务提交。于是整个分布式系统便出现了数据不一致性的现象。

5、两阶段提交的性能

假设一切运转正常,即协调者参与者不出现故障,通信也正常时,有N个参与者的两阶段提交协议需要N个canCommit消息和应答,然后再有N个doCommit消息。这样消息开销和3N成正比,时间开销是3次消息往返。由于协议在没有haveCommitted消息时仍可以正常运作(它们的作用只是通知服务器删除过时的协调者消息),因此在估计协议开销上,不将haveCommitted消息计算在内。

在最坏的情况下,两阶段提交协议在执行过程中可能出现任意多次服务器和通信故障。尽管协议不能指定协议完成的时间限制,但它能正确处理连续故障(服务崩溃或者消息丢失),并保证最终完成。

6、使用消息队列来避免分布式事务

6.1、消息队列

由于分布式事务存在严重的性能问题,在设计高并发服务的时候,往往通过其他途径来解决数据一致性问题。

举例来讲,你在北京很有名的姚记炒肝点了炒肝并付了钱后,他们并不会直接把你点的炒肝给你,而是给你一张小票,然后让你拿着小票到出货区排队去取。为什么他们要将付钱和取货两个动作分开呢?原因很多,其中一个很重要的原因是为了使他们接待能力增强(并发量更高)。

还是回到我们的问题,只要这张小票在,你最终是能拿到炒肝的。同理转账服务也是如此,当支付宝账户扣除1万后,我们只要生成一个凭证(消息)即可,这个凭证(消息)上写着“让余额宝账户增加 1万”,只要这个凭证(消息)能可靠保存,我们最终是可以拿着这个凭证(消息)让余额宝账户增加1万的,即我们能依靠这个凭证(消息)完成最终一致性。

这样我们上述的转账就变成了如下过程:

  • 支付宝在扣款事务提交之前,向消息队列发送消息。此时的消息队列只记录消息,而并没有将消息发往余额宝。

  • 当支付宝扣款事务提交成功,向消息队列发送确认。在得到确认的指令后,消息队列向该消息发往余额宝。

  • 当支付宝扣款事务提交失败,向消息队列发送取消。在得到取消的指令后,消息队列取消该消息,该消息将不会被发送。

  • 对于那么未确认的消息,需要消息队列去支付宝系统查询这个消息的状态,并进行更新。(因为支付宝可能在扣款事务提交成功后挂掉,此时消息的状态未被更新为:“确认发送“。从而导致消息不能被发送。




分布式事务开山之作——《深入理解分布式事务:原理与实战》草图曝光!!(代码片段)

...们就暂时不聊【精通高并发系列】了,今天插播一下分布式事务,为啥?因为冰河联合猫大人共同创作的分布式事务领域的开山之作——《深入理解分布式事务:原理与实战》一书正式出版了,于2021年10月20日... 查看详情

分布式事务:深入理解什么是2pc,3pc及tcc协议

 1. 导读  对于分布式事务的概念,可能还会有很多同学不理解或者理解得不是很深刻的地方,在这篇文章中,作者打算重点给大家先介绍下分布式事务相关的基本概念,诸如2PC、3PC、TCC之类的基本问题。2.  数... 查看详情

深入理解分布式事务

...个事务调用了不同服务器上的操作,那么它就成为了一个分布式事务。考虑下面一种场景:当你发了工资之后,把你的当月工资¥1024从支付宝转到了余额宝。如果在支付宝账户扣除¥1024之后,余额宝系统挂掉了,余额宝的账户... 查看详情

分布式事务开山之作——《深入理解分布式事务:原理与实战》草图曝光!!(代码片段)

...们就暂时不聊【精通高并发系列】了,今天插播一下分布式事务,为啥?因为冰河联合猫大人共同创作的分布式事务领域的开山之作——《深入理解分布式事务:原理与实战》一书正式出版了,于2021年10月20日... 查看详情

分布式事务之深入理解什么是2pc3pc及tcc协议?

导读 在上一篇文章《【分布式事务】基于RocketMQ搭建生产级消息集群?》中给大家介绍了基于RocketMQ如何搭建生产级消息集群。因为本系列文章最终的目的是介绍基于RocketMQ的事物消息来解决分布式系统中的数据一致性问题,... 查看详情

深入理解分布式事务,高并发下分布式事务的解决方案

1、什么是分布式事务分布式事务就是指事务的参与者、支持事务的服务器、资源服务器以及事务管理器分别位于不同的分布式系统的不同节点之上。以上是百度百科的解释,简单的说,就是一次大的操作由不同的小操作组成,... 查看详情

深入理解分布式事务,高并发下分布式事务的解决方案

参考技术A1、什么是分布式事务分布式事务就是指事务的参与者、支持事务的服务器、资源服务器以及事务管理器分别位于不同的分布式系统的不同节点之上。以上是百度百科的解释,简单的说,就是一次大的操作由不同的小操... 查看详情

mysql事务的实现原理(代码片段)

《深入理解分布式事务》第二章MySQL事务的实现原理文章目录《深入理解分布式事务》第二章MySQL事务的实现原理一、RedoLog1.RedoLog基本概念2.RedoLog基本原理3.RedoLog刷盘规则4.RedoLog写入机制5.RedoLog的LSN机制6.RedoLog相关参数二、UndoLog... 查看详情

深入理解工厂模式

...limb/Java_Guide历史回顾:深入理解单例模式历史文章推荐:分布式系统的经典基础理论可能是最漂亮的Spring事务管理详解面试中关于Java虚拟机(jvm)的问题看这篇就够了[TOC]一工厂模式介绍1.1工厂模式的定义先来看一下GOF为工厂模... 查看详情

深入理解分布式系统的2pc和3pc

深入理解分布式系统的2PC和3PC关注我的博客(http://www.hollischuang.com)的人可能都知道,我之前写过一篇文章专门介绍了一下2PC和3PC(详见:关于分布式事务、两阶段提交协议、三阶提交协议)。上一篇文章中主要介绍了下这两种... 查看详情

分布式事务

分布式事务我在上一期介绍了spring的事务原理(详情见《深入理解spring事务原理》),Spring事务本质是单机下的事务,是由数据库本身保证的。今天,我将介绍一种比较复杂的事务:分布式事务。1、什么是分布式事务分布式事... 查看详情

一览不间断持续更新

文章目录目标架构设计分布式技术-理论篇分布式实战-分布式事务分布式实战-分布式服务分布式实战-分布式缓存分布式实战-分布式存储分布式实战-消息队列分布式实战-分布式高可用架构进阶之路超高并发设计专项漫谈HappyContin... 查看详情

分布式事务相关资料

1、tcc-transaction源码地址tcc-transaction https://github.com/changmingxie/tcc-transaction2、TCC事务机制简介http://www.bytesoft.org/2017/03/29/tcc/3、ByteJTA源码地址https://github.com/liuyangming/ByteJTA/4、深入理解分布式 查看详情

深入理解spring事务原理

一、事务的基本原理Spring事务的本质其实就是数据库对事务的支持,没有数据库的事务支持,spring是无法提供事务功能的。对于纯JDBC操作数据库,想要用到事务,可以按照以下步骤进行:获取连接Connectioncon=DriverManager.getConnection... 查看详情

深入理解spring事务原理

一、事务的基本原理Spring事务的本质其实就是数据库对事务的支持,没有数据库的事务支持,spring是无法提供事务功能的。对于纯JDBC操作数据库,想要用到事务,可以按照以下步骤进行:获取连接Connectioncon=DriverManager.getConnection... 查看详情

深入理解spring事务原理

一、事务的基本原理Spring事务的本质其实就是数据库对事务的支持,没有数据库的事务支持,spring是无法提供事务功能的。对于纯JDBC操作数据库,想要用到事务,可以按照以下步骤进行:获取连接Connectioncon=DriverManager.getConnection... 查看详情

深入理解spring事务原理

本文由码农网 –吴极心原创,转载请看清文末的转载要求,欢迎参与我们的付费投稿计划!一、事务的基本原理Spring事务的本质其实就是数据库对事务的支持,没有数据库的事务支持,spring是无法提供事务功能的。对于... 查看详情

对事务的深入理解

1.事务是对一系列动作的组合2.事务是对一系列动作的组合3.事务是对一系列动作的组合4.事务是对一系列动作的组合,要么全都成功,要么全都失败回滚5.事务是对一系列动作的组合,要么全都成功,要么全都失败回滚6.事务是对... 查看详情