关于幂等问题以及解决方案

什么是幂等

幂等(idempotent、idempotence)是一个数学与计算机学概念,常见于抽象代数中。

通俗的讲就是:就是针对一个操作,不管做多少次,产生效果或返回的结果都是一样的

比如:

  1. select 查询天然幂等
  2. delete 删除也是幂等,删除同一个多次效果一样
  3. update 直接更新某个值的,幂等
  4. update 更新累加操作的,非幂等
  5. insert 非幂等操作,每次新增一条

产生原因

由于重复点击或者网络重发,比如:

  • 点击提交按钮两次
  • 点击刷新按钮;
  • 使用浏览器后退按钮重复之前的操作,导致重复提交表单;
  • 使用浏览器历史记录重复提交表单;
  • 浏览器重复的HTTP请;
  • nginx 重发等情况;
  • 分布式 RPC 的 try 重发等;

解决方案

1. 前段 js 提交禁止按钮可以用一些 js 组件

2. 唯一索引,防止新增脏数据

唯一索引,防止新增脏数据。 比如:支付宝的资金账户,支付宝也有用户账户,每个用户只能有一个资金账户,怎么防止给用户创建资金账户多个,那么给资金账户表中的用户 ID 加唯一索引,所以一个用户新增成功一个资金账户记录。

要点: 唯一索引或唯一组合索引来防止新增数据存在脏数据 (当表存在唯一索引,并发时新增报错时(org.springframework.dao.DuplicateKeyException),再查询一次就可以了,数据应该已经存在了,返回结果即可)

3. Token 机制,防止页面重复提交

  • 要求:页面的数据只能被点击提交一次
  • 发生原因:由于重复点击或者网络重发,或者 nginx 重发等情况会导致数据被重复提交
  • 解决办法:
    • 集群环境:采用 token 加 redis
    • 单 JVM 环境:采用 token 加 redis 或 token 加 jvm 内存
  • 处理流程
    • 数据提交前要向服务申请 token,token 放到 redis 或 jvm 内存,token 需要设置有效时间
    • 提交后在后台校验 token,同时删除 token,生成新的 token 返回
  • token特点:要申请,一次有效性,可以限流

注意:redis 要用删除操作来判断 token,删除成功代表 token 校验通过,如果用 select+delete 来校验 token,会存在并发问题,不建议使用。

4. 悲观锁

获取数据的时候加锁获取

select * from table_xxx where id='xxx' for update;

注意:id 字段一定是主键或者唯一索引,不然是锁表,会死人的。

悲观锁使用时一般伴随事务一起使用,数据锁定时间可能会很长,根据实际情况选用

5. 乐观锁

乐观锁只是在更新数据那一刻锁表,其他时间不锁表,所以相对于悲观锁,效率更高。

乐观锁的实现方式多种多样可以通过 version 或者其他状态条件:

1. 通过版本号实现

update table_xxx set name = #name#, version = version + 1 where version = #version#;

如下图:


关于幂等问题以及解决方案_第1张图片
image

2. 通过条件限制

-- 可用量-金额 > 0
update tablexxx set avaiamount = avaiamount - #subAmount# where avaiamount - #subAmount# >= 0

这个情景适合不用版本号,只更新是做数据安全校验,适合库存模型,扣份额和回滚份额,性能更高

注意:乐观锁的更新操作,最好用主键或者唯一索引来更新,这样是行锁,否则更新时会锁表,上面两个sql改成下面的两个更好

update tablexxx set name = #name#, version = version + 1 where id =#id# and version = #version#
update tablexxx set avaiamount = avaiamount - #subAmount# where id = #id# and avai_amount - #subAmount# >= 0

6. 分布式锁

还是拿插入数据的例子,如果是分布是系统,构建全局唯一索引比较困难,例如唯一性的字段没法确定

这时候可以引入分布式锁,通过第三方的系统(redis 或 zookeeper),在业务系统插入数据或者更新数据,获取分布式锁,然后做操作,之后释放锁

要点:某个长流程处理过程要求不能并发执行,可以在流程执行之前根据某个标志(用户ID+后缀等)获取分布式锁,其他流程执行时获取锁就会失败,也就是同一时间该流程只能有一个能执行成功,执行完成后,释放分布式锁(分布式锁要第三方系统提供)。

7. select + insert

并发不高的后台系统,或者一些任务 JOB,为了支持幂等,支持重复执行,简单的处理方法是,先查询下一些关键数据,判断是否已经执行过,在进行业务处理,就可以了。

注意:核心高并发流程不要用这种方法。

8. 状态机幂等

在设计单据相关的业务,或者是任务相关的业务,肯定会涉及到状态机(状态变更图),就是业务单据上面有个状态,状态在不同的情况下会发生变更,一般情况下存在有限状态机

如果状态机已经处于下一个状态,这时候来了一个上一个状态的变更,理论上是不能够变更的,这样的话,保证了有限状态机的幂等。

注意:订单等单据类业务,存在很长的状态流转,一定要深刻理解状态机,对业务系统设计能力提高有很大帮助

9. 对外提供接口的 api 如何保证幂等

如银联提供的付款接口:需要接入商户提交付款请求时附带:source来源,seq序列号

source+seq在数据库里面做唯一索引,防止多次付款,(并发时,只能处理一个请求)

重点:对外提供接口为了支持幂等调用,接口有两个字段必须传,一个是来源source,一个是来源方序列号seq,这个两个字段在提供方系统里面做联合唯一索引。这样当第三方调用时,先在本方系统里面查询一下,是否已经处理过,返回相应处理结果;没有处理过,进行相应处理,返回结果。

注意:为了幂等友好,一定要先查询一下,是否处理过该笔业务,不查询直接插入业务系统,会报错,但实际已经处理了。

转自:http://825635381.iteye.com/blog/2276077

你可能感兴趣的:(关于幂等问题以及解决方案)