分布式定时任务原理(附解决方案)

点击上方“Java基基”,选择“设为星标”

做积极的人,而不是积极废人!

每天 14:00 更新文章,每天掉亿点点头发...

源码精品专栏

 
  • 原创 | Java 2021 超神之路,很肝~

  • 中文详细注释的开源项目

  • RPC 框架 Dubbo 源码解析

  • 网络应用框架 Netty 源码解析

  • 消息中间件 RocketMQ 源码解析

  • 数据库中间件 Sharding-JDBC 和 MyCAT 源码解析

  • 作业调度中间件 Elastic-Job 源码解析

  • 分布式事务中间件 TCC-Transaction 源码解析

  • Eureka 和 Hystrix 源码解析

  • Java 并发源码

来源:blog.csdn.net/luomao2012/
article/details/107035609

  • 一、单机指定时间执行定时任务实现方式

  • 二、分布式指定时间执行的定时任务实现方式(自行Redis实现)

  • 三、分布式指定时间执行的定时任务实现方式(三方框架)

分布式定时任务原理(附解决方案)_第1张图片


一、单机指定时间执行定时任务实现方式

1.Timer运行机制

分布式定时任务原理(附解决方案)_第2张图片

2.ScheduledThreadPoolExecutor的运行机制

1.原理图

分布式定时任务原理(附解决方案)_第3张图片

2.Leader/Follower模式

3.Timer和ScheduledThreadPoolExucutor区别

  • Timer是基于绝对时间,ScheduledThreadPoolExucutor基于相对时间

  • Timer是单线程,ScheduledThreadPoolExucutor是多线程

  • Timer运行发生异常,整个TimerThread崩溃,而ScheduledThreadPoolExucutor对异常进行捕获

4.自行实现指定时间执行的定时任务

  • 建立数据库定时任务表,用户存入要执行的定时任务,业务ID

  • 定义Producer类,用于生产指定定时任务,往延迟队列里写入数据,指定的毫秒时间戳

  • 定义Consumer接口,自身业务可以通过实现Consumer接口消费队列中的数据

  • 定义SpringBoot自启动方法,死循环从延迟队列中取最小时间戳数据,与当前时间进行对比如果小于则开始执行,休眠100ms继续下一次循环

5.Quartz实现

参考文档:https://www.w3cschool.cn/quartz_doc/quartz_doc-2put2clm.html

推荐下自己做的 Spring Boot 的实战项目:

https://github.com/YunaiV/ruoyi-vue-pro

二、分布式指定时间执行的定时任务实现方式(自行Redis实现)

1.流程设计分析

  • 因为是应用是分布式部署,所以需要考虑分布式锁处理分布式一致性

  • 使用Redis的有序集合(Sorted Set)将要执行任务的ID和毫秒时间戳ZAdd到有序集合中

  • 使用SpringBoot的定时任务,定时1秒去执行消费定任务任务方法

  • 消费方法加分布式锁,避免重复消息,通过死循环获取有序集合最小的时间戳与当前时间戳做对比,如果小于则执行,如果大于等线程等待100ms后继续下一次循环。

/**
 * 获得分布式锁
 *
 * @param redisClientId Redis客户端ID
 * @return bool
 */
public boolean redisDistributedLock(String key, String redisClientId, long timeout, TimeUnit unit) {
    ValueOperations ops = redisTemplate.opsForValue();
    if (ops.setIfAbsent(key, redisClientId, timeout, unit)) {
        return true;
    }
    String cacheClientId = ops.get(key);
    if (cacheClientId.equals(redisClientId)) {
        redisExpire(key, timeout, unit);
        return true;
    }
    return false;
}
/**
 * 执行定时任务
 */
public void runBenchGameDelayTask(BenchDelayTaskType type) {
    while (true) {
        Set> typedTuples = benchGameCacheService.benchGameTaskZRange(type);
        if (typedTuples.size() > 0) {
            benchGameTaskProcess(type, typedTuples);
        }
        try {
            Thread.sleep(100);
        } catch (InterruptedException e) {
            e.printStackTrace();
            log.error("[runBenchGameDelayTask] type={}, error={}", type.getData(), e);
        }
    }
}

推荐下自己做的 Spring Cloud 的实战项目:

https://github.com/YunaiV/onemall

三、分布式指定时间执行的定时任务实现方式(三方框架)

1.Quartz集群解决方案

在quartz的集群解决方案里有张表scheduler_locks,quartz采用了悲观锁的方式对triggers表进行行加锁,以保证任务同步的正确性。一旦某一个节点上面的线程获取了该锁,那么这个Job就会在这台机器上被执行,同时这个锁就会被这台机器占用。同时另外一台机器也会想要触发这个任务,但是锁已经被占用了,就只能等待,直到这个锁被释放

quartz的分布式调度策略是以数据库为边界资源的一种异步策略。各个调度器都遵守一个基于数据库锁的操作规则从而保证了操作的唯一性

原理图

分布式定时任务原理(附解决方案)_第4张图片

缺点:quartz的分布式只是解决了高可用的问题,并没有解决任务分片的问题,还是会有单机处理的极限

2.TBSchedule

TBSchedule是一款非常优秀的高性能分布式调度框架,广泛应用于阿里巴巴、淘宝、支付宝、京东、聚美、汽车之家、国美等很多互联网企业的流程调度系统。tbschedule在时间调度方面虽然没有quartz强大,但是它支持分片功能。和quartz不同的是,tbschedule使用ZooKeeper来实现任务调度的高可用和分片

原理图

分布式定时任务原理(附解决方案)_第5张图片

TBSchedule的分布式机制是通过灵活的Sharding方式实现的,分片的规则由客户端决定,比如可以按所有数据的ID按10取模分片、按月份分片等等

BSchedule会定时扫描当前服务器的数量,重新进行任务分配。TBSchedule不仅提供了服务端的高性能调度服务,还提供了一个scheduleConsole的war包,随着宿主应用的部署直接部署到服务器,可以通过web的方式对调度的任务、策略进行监控管理,以及实时更新调整

3.elastic-job

Elastic-Job当当开源的分布式调度解决方案,由两个相互独立的子项目Elastic-Job-Lite和Elastic-Job-Cloud组成。Elastic-Job-Lite定位为轻量级无中心化解决方案,使用jar包的形式提供分布式任务的协调服务

原理图:

分布式定时任务原理(附解决方案)_第6张图片 分布式定时任务原理(附解决方案)_第7张图片

特点:

  • 分布式调度协调

  • 弹性扩容缩容

  • 失效转移

  • 错过执行作业重触发

  • 作业分片一致性,保证同一分片在分布式环境中仅一个执行实例

  • 自诊断并修复分布式不稳定造成的问题

  • 支持并行调度

  • 支持作业生命周期操作

  • 丰富的作业类型

  • Spring整合以及命名空间提供

  • 运维平台

4.唯品会开源框架Sature

特性如下:

  • Time based and language unrestricted job

  • Easy job implmentation and web based management

  • Parallel subtask(shard) scheduling

  • 1-second-level scheduling supported

  • Intelligent load based job allocation

  • Fail detection & failover support

  • Statistical data visualization

  • All-around monitoring and easy troubleshooting

  • Multi-active cluster deployment support

  • Container friendly

  • Stand the test of billion times scheduling per day



欢迎加入我的知识星球,一起探讨架构,交流源码。加入方式,长按下方二维码噢

分布式定时任务原理(附解决方案)_第8张图片

已在知识星球更新源码解析如下:

分布式定时任务原理(附解决方案)_第9张图片

分布式定时任务原理(附解决方案)_第10张图片

分布式定时任务原理(附解决方案)_第11张图片

分布式定时任务原理(附解决方案)_第12张图片

最近更新《芋道 SpringBoot 2.X 入门》系列,已经 101 余篇,覆盖了 MyBatis、Redis、MongoDB、ES、分库分表、读写分离、SpringMVC、Webflux、权限、WebSocket、Dubbo、RabbitMQ、RocketMQ、Kafka、性能测试等等内容。

提供近 3W 行代码的 SpringBoot 示例,以及超 6W 行代码的电商微服务项目。

获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。

文章有帮助的话,在看,转发吧。
谢谢支持哟 (*^__^*)

你可能感兴趣的:(分布式,数据库,中间件,java,redis)