什么是幂等
幂等(idempotent、idempotence)是一个数学与计算机学概念,常见于抽象代数中。
通俗的讲就是:就是针对一个操作,不管做多少次,产生效果或返回的结果都是一样的
比如:
- select 查询天然幂等
- delete 删除也是幂等,删除同一个多次效果一样
- update 直接更新某个值的,幂等
- update 更新累加操作的,非幂等
- insert 非幂等操作,每次新增一条
产生原因
由于重复点击或者网络重发,比如:
- 点击提交按钮两次
- 点击刷新按钮;
- 使用浏览器后退按钮重复之前的操作,导致重复提交表单;
- 使用浏览器历史记录重复提交表单;
- 浏览器重复的HTTP请;
- nginx 重发等情况;
- 分布式 RPC 的 try 重发等;
解决方案
1. 前段 js 提交禁止按钮可以用一些 js 组件
2. 唯一索引,防止新增脏数据
唯一索引,防止新增脏数据。 比如:支付宝的资金账户,支付宝也有用户账户,每个用户只能有一个资金账户,怎么防止给用户创建资金账户多个,那么给资金账户表中的用户 ID 加唯一索引,所以一个用户新增成功一个资金账户记录。
要点: 唯一索引或唯一组合索引来防止新增数据存在脏数据 (当表存在唯一索引,并发时新增报错时(org.springframework.dao.DuplicateKeyException
),再查询一次就可以了,数据应该已经存在了,返回结果即可)
3. Token 机制,防止页面重复提交
- 要求:页面的数据只能被点击提交一次
- 发生原因:由于重复点击或者网络重发,或者 nginx 重发等情况会导致数据被重复提交
- 解决办法:
- 集群环境:采用 token 加 redis
- 单 JVM 环境:采用 token 加 redis 或 token 加 jvm 内存
- 处理流程
- 数据提交前要向服务申请 token,token 放到 redis 或 jvm 内存,token 需要设置有效时间
- 提交后在后台校验 token,同时删除 token,生成新的 token 返回
- token特点:要申请,一次有效性,可以限流
注意:redis 要用删除操作来判断 token,删除成功代表 token 校验通过,如果用 select+delete 来校验 token,会存在并发问题,不建议使用。
4. 悲观锁
获取数据的时候加锁获取
select * from table_xxx where id='xxx' for update;
注意:id 字段一定是主键或者唯一索引,不然是锁表,会死人的。
悲观锁使用时一般伴随事务一起使用,数据锁定时间可能会很长,根据实际情况选用
5. 乐观锁
乐观锁只是在更新数据那一刻锁表,其他时间不锁表,所以相对于悲观锁,效率更高。
乐观锁的实现方式多种多样可以通过 version 或者其他状态条件:
1. 通过版本号实现
update table_xxx set name = #name#, version = version + 1 where version = #version#;
如下图:
2. 通过条件限制
-- 可用量-金额 > 0
update tablexxx set avaiamount = avaiamount - #subAmount# where avaiamount - #subAmount# >= 0
这个情景适合不用版本号,只更新是做数据安全校验,适合库存模型,扣份额和回滚份额,性能更高
注意
:乐观锁的更新操作,最好用主键或者唯一索引来更新,这样是行锁,否则更新时会锁表,上面两个sql改成下面的两个更好
update tablexxx set name = #name#, version = version + 1 where id =#id# and version = #version#
update tablexxx set avaiamount = avaiamount - #subAmount# where id = #id# and avai_amount - #subAmount# >= 0
6. 分布式锁
还是拿插入数据的例子,如果是分布是系统,构建全局唯一索引比较困难,例如唯一性的字段没法确定
这时候可以引入分布式锁,通过第三方的系统(redis 或 zookeeper),在业务系统插入数据或者更新数据,获取分布式锁,然后做操作,之后释放锁
要点
:某个长流程处理过程要求不能并发执行,可以在流程执行之前根据某个标志(用户ID+后缀等)获取分布式锁,其他流程执行时获取锁就会失败,也就是同一时间该流程只能有一个能执行成功,执行完成后,释放分布式锁(分布式锁要第三方系统提供)。
7. select + insert
并发不高的后台系统,或者一些任务 JOB,为了支持幂等,支持重复执行,简单的处理方法是,先查询下一些关键数据,判断是否已经执行过,在进行业务处理,就可以了。
注意
:核心高并发流程不要用这种方法。
8. 状态机幂等
在设计单据相关的业务,或者是任务相关的业务,肯定会涉及到状态机(状态变更图),就是业务单据上面有个状态,状态在不同的情况下会发生变更,一般情况下存在有限状态机
如果状态机已经处于下一个状态,这时候来了一个上一个状态的变更,理论上是不能够变更的,这样的话,保证了有限状态机的幂等。
注意:订单等单据类业务,存在很长的状态流转,一定要深刻理解状态机,对业务系统设计能力提高有很大帮助
9. 对外提供接口的 api 如何保证幂等
如银联提供的付款接口:需要接入商户提交付款请求时附带:source来源,seq序列号
source+seq
在数据库里面做唯一索引,防止多次付款,(并发时,只能处理一个请求)
重点:对外提供接口为了支持幂等调用,接口有两个字段必须传,一个是来源source,一个是来源方序列号seq,这个两个字段在提供方系统里面做联合唯一索引。这样当第三方调用时,先在本方系统里面查询一下,是否已经处理过,返回相应处理结果;没有处理过,进行相应处理,返回结果。
注意:为了幂等友好,一定要先查询一下,是否处理过该笔业务,不查询直接插入业务系统,会报错,但实际已经处理了。
转自:http://825635381.iteye.com/blog/2276077