XXL-Job分布式任务调度框架-知识点汇总5

一 XXLlob

1.1 xxl-job

XXL-JOB是一个轻量级分布式任务调度平台XXL-JOB主要提供了任务的动态配置管理、任务监控和统计报表以及调度日志几大功能模块,支持多种运行模式和路由策略,可基于单机多任务分片和多机分片数据处理模式。

1.2 xxl-job组件组成部分

1.调度中心: 任务调度控制台,平台自身并不承担业务逻辑,只是负责任务的统一管理和调度执行,并且提供任务管理平台。如从github下载的xxl-job-admin工程代码。调度中心就是源码中的 xxl-job-admin 工程,我们需要将其配置成自己需要的调度中心,通过该工程我们能够以图形化的方式统一管理任务调度平台上调度任务,负责触发调度执行。

2.执行器: 负责接收“调度中心”的调度并执行,可直接部署执行器,也可以将执行器集成到现有业务项目中。 通过将任务的调度控制和任务的执行解耦,业务使用只需要关注业务逻辑的开发。如自己编写的工程, xxl-job-dingshi。在调度中心新增配置的执行器会周期性以AppName为对象进行自动注册。可通过该配置自动发现注册成功的执行器, 供任务调度时使用;

XXL-Job分布式任务调度框架-知识点汇总5_第1张图片

1.3 常见概念

 1.3.1 幂等性

它描述了一次和多次请求某一个资源,对资源本身应该具有同样的结果。幂等性是为了解决重复提交问题,比如:恶意刷单、重复支付等。

二  执行器和调度中心配置

2.1 执行器映射关系

这里需要注意的是:配置执行器的名称、IP地址、端口号,后面如果配置多个执行器时,要防止端口冲突,再就是执行器的名称要和管理界面执行器中的名称对应。如下图所示

XXL-Job分布式任务调度框架-知识点汇总5_第2张图片

2.2 执行器的API

2.2.1 配置项截图

XXL-Job分布式任务调度框架-知识点汇总5_第3张图片

XXL-JOB执行器的相关配置项:

1.xxl.job.admin.addresses

调度中心的部署地址。若调度中心采用集群部署,存在多个地址,则用逗号分隔。执行器将会使用该地址进行”执行器心跳注册”和”任务结果回调”

2.xxl.job.executor.appname

执行器的应用名称,它是执行器心跳注册的分组依据。

3.xxl.job.executor.ip

执行器的IP地址,用于”调度中心请求并触发任务”和”执行器注册”。执行器IP默认为空,表示自动获取IP。多网卡时可手动设置指定IP,手动设置IP时将会绑定Host。

4.xxl.job.executor.port

执行器的端口号,默认值为9999。单机部署多个执行器时,注意要配置不同的执行器端口

5.xxl.job.accessToken

执行器的通信令牌,非空时启用。

6.xxl.job.executor.logpath

执行器输出的日志文件的存储路径,需要拥有该路径的读写权限。

7.xxl.job.executor.logretentiondays

执行器日志文件的定期清理功能,指定日志保存天数,日志文件过期自动删除。限制至少保存3天,否则功能不生效。

2.3 配置执行器

点击 执行器管理----》新增执行器---》,如下如下界面,然后填充此表格,点击保存即可。

XXL-Job分布式任务调度框架-知识点汇总5_第4张图片

1.AppName:是每个执行器集群的唯一标识AppName, 执行器会周期性以AppName为对象进行自动注册。可通过该配置自动发现注册成功的执行器, 供任务调度时使用;
2.名称:执行器的名称, 因为AppName限制字母数字等组成,可读性不强, 名称为了提高执行器的可读性;
3.注册方式:调度中心获取执行器地址的方式,
4.机器地址:

  1. 自动注册:执行器自动进行执行器注册,调度中心通过底层注册表可以动态发现执行器机器地址;
  2. 手动录入:人工手动录入执行器的地址信息,多地址逗号分隔,供调度中心使用;

2.4  调度器任务的配置

XXL-Job分布式任务调度框架-知识点汇总5_第5张图片相关参数说明:

1.执行器:任务的绑定的执行器,任务触发调度时将会自动发现注册成功的执行器, 实现任务自动发现功能; 另一方面也可以方便的进行任务分组。每个任务必须绑定一个执行器, 可在 "执行器管理" 进行设置。
2.任务描述:任务的描述信息,便于任务管理;
3.路由策略:当执行器集群部署时,提供丰富的路由策略,包括;
FIRST(第一个):固定选择第一个机器;
LAST(最后一个):固定选择最后一个机器;
ROUND(轮询):
RANDOM(随机):随机选择在线的机器;
CONSISTENT_HASH(一致性HASH):每个任务按照Hash算法固定选择某一台机器,且所有任务均匀散列在不同机器上。
LEAST_FREQUENTLY_USED(最不经常使用):使用频率最低的机器优先被选举;
LEAST_RECENTLY_USED(最近最久未使用):最久为使用的机器优先被选举;
FAILOVER(故障转移):按照顺序依次进行心跳检测,第一个心跳检测成功的机器选定为目标执行器并发起调度;
BUSYOVER(忙碌转移):按照顺序依次进行空闲检测,第一个空闲检测成功的机器选定为目标执行器并发起调度;
SHARDING_BROADCAST(分片广播):广播触发对应集群中所有机器执行一次任务,同时系统自动传递分片参数;可根据分片参数开发分片任务;
Cron:触发任务执行的Cron表达式;
运行模式:
​ BEAN模式:任务以JobHandler方式维护在执行器端;需要结合 "JobHandler" 属性匹配执行器中任务;
  GLUE模式(Java):任务以源码方式维护在调度中心;该模式的任务实际上是一段继承自IJobHandler的Java类代码并 "groovy" 源码方式维护,它在执行器项目中运行,可使用@Resource/@Autowire注入执行器里中的其他服务;
  GLUE模式(Shell):任务以源码方式维护在调度中心;该模式的任务实际上是一段 "shell" 脚本;
  GLUE模式(Python):任务以源码方式维护在调度中心;该模式的任务实际上是一段 "python" 脚本;
  GLUE模式(PHP):任务以源码方式维护在调度中心;该模式的任务实际上是一段 "php" 脚本;
  GLUE模式(NodeJS):任务以源码方式维护在调度中心;该模式的任务实际上是一段 "nodejs" 脚本;
  GLUE模式(PowerShell):任务以源码方式维护在调度中心;该模式的任务实际上是一段 "PowerShell" 脚本;
JobHandler:运行模式为 "BEAN模式" 时生效,对应执行器中新开发的JobHandler类“@JobHandler”注解自定义的value值;
阻塞处理策略:调度过于密集执行器来不及处理时的处理策略;
单机串行(默认):调度请求进入单机执行器后,调度请求进入FIFO队列并以串行方式运行;
丢弃后续调度:调度请求进入单机执行器后,发现执行器存在运行的调度任务,本次请求将会被丢弃并标记为失败;
覆盖之前调度:调度请求进入单机执行器后,发现执行器存在运行的调度任务,将会终止运行中的调度任务并清空队列,然后运行本地调度任务;
子任务:每个任务都拥有一个唯一的任务ID(任务ID可以从任务列表获取),当本任务执行结束并且执行成功时,将会触发子任务ID所对应的任务的一次主动调度。
任务超时时间:支持自定义任务超时时间,任务运行超时将会主动中断任务;
失败重试次数;支持自定义任务失败重试次数,当任务失败时将会按照预设的失败重试次数主动进行重试;
报警邮件:任务调度失败时邮件通知的邮箱地址,支持配置多邮箱地址,配置多个邮箱地址时用逗号分隔;
负责人:任务的负责人;
执行参数:任务执行所需的参数,多个参数时用逗号分隔,任务执行时将会把多个参数转换成数组传入;

三 源码篇

3.1 关于分片数量的获取源码

//当前的执行器编号
int shardIndex = XxlJobHelper.getShardIndex();
//总的分片数,就是执行器的集群数量
int shardTotal = XxlJobHelper.getShardTotal();

查看源码,通过while循环从   private LinkedBlockingQueue triggerQueue;不停拿到最新的分片数目。https://www.cnblogs.com/fantongxue/p/16615093.html

 如下图所示:

XXL-Job分布式任务调度框架-知识点汇总5_第6张图片

你可能感兴趣的:(分布式)