分布式任务定时框架elasticjob详解
序言
如果你需要管理job，可以考虑使用elasticjob。
如果你想动态添加job ，也可以考虑使用elasticjob。
如果对系统可靠性，稳定性和服务器弹性等要求比较高，还可以考虑elasticjob。
Elastic-Job是当当网基于Zookepper，Quartz开发并且开源的Java分布式定时任务，解决Quartz不支持分布式的弊端。它由两个相
互独立的子项目Elastic-Job-Lite和Elastic-Job-Cloud组成。
一 基本概念
- 分片概念：任务分布式的执行，需要将一个任务拆分成多个独立的任务项，然后由分布式的服务器分别执行某一个或几个分片项。
- 个性化参数：shardingItemParameter，可以和分片项匹配对应关系。比如：将商品的状态分成上架，下架。那么配置0=上架,1=下架，代码中直接使用上架下架的枚举值即可完成分片项与业务逻辑的对应关系。
- 作用高可用：将分片总数设置成1，多台服务器执行作业将采用1主n从的方式执行。
- 弹性扩容：将任务拆分为n个任务项后，各个服务器分别执行各自分配到的任务项。一旦有新的服器加入集群或有服务器宕机。Elastic-Job将保留本次任务不变，下次任务开始前重新分片。
- 并行调度：采用任务分片方式实现。将一个任务拆分为n个独立的任务项，由分布式的服务器并行执行各自分配到的分片项。
- 集中管理：采用基于zookepper的注册中心，集中管理和协调分布式作业的状态，分配和监听。外部系统可直接根据Zookeeper的数据管理和监控elastic-job。
- 定制化流程任务：作业可分为简单和数据流处理两种模式，数据流又分为高吞吐处理模式和顺序性处理模式，其中高吞吐处理模式可以开启足够多的线程快速的处理数据，而顺序性处理模式将每个分片项分配到一个独立线程，用于保证同一分片的顺序性，这点类似于kafka的分区顺序性。
二 整体架构图
三 Elastic-Job的具体模块的底层及如何实现
Elastic-Job采用去中心化设计，主要分为注册中心、数据分片、分布式协调、定时任务处理和定制化流程型任务等模块。
- 去中心化：指Elastic-Job没有调度中心这一概念。每个运行在集群中的作业服务器都是对等的，节点之间通过注册中心进行分布式协调。但elastic-job有主节点的概念，主节点用于处理一些集中式任务，如分片，清理运行时信息等，并无调度功能，定时调度都是由作业服务器自行触发。
| 中心化 | 去中心化 | |
| 实现难度 | 难 | 易 |
| 部署难度 | 难 | 易 |
| 触发时间统一控制 | 可以 | 不可以 |
| 触发延迟 | 有 | 无 |
| 异构语言支持 | 容易 | 困难 |
- 注册中心：注册中心模块目前直接使用zookeeper，用于记录作业的配置，服务器信息以及作业运行状态。Zookeeper虽然很成熟，但原理复杂，使用较难，在海量数据支持的情况下也会有性能和网络问题。
- 数据分片：数据分片是elastic-job中实现分布式的重要概念，将真实数据和逻辑分片对应，用于解耦作业框架和数据的关系。作业框架只负责将分片合理的分配给相关的作业服务器，而作业服务器需要根据所分配的分片匹配数据进行处理。服务器分片目前都存储在注册中心中，各个服务器根据自己的IP地址拉取分片。
- 分布式协调：分布式协调模块用于处理作业服务器的动态扩容缩容。一旦集群中有服务器发生变化，分布式协调将自动监测并将变化结果通知仍存活的作业服务器。协调时将会涉及主节点选举，重分片等操作。目前使用的Zookeeper的临时节点和监听器实现主动检查和通知功能。
- 定时任务处理：定时任务处理根据cron表达式定时触发任务，目前有防止任务同时触发，错过任务重出发等功能。主要还是使用Quartz本身的定时调度功能，为了便于控制，每个任务都使用独立的线程池。
- 定制化流程型任务：定制化流程型任务将定时任务分为多种流程，有不经任何修饰的简单任务；有用于处理数据的fetchData/processData的数据流任务；以后还将增加消息流任务，文件任务，工作流任务等。用户能以插件的形式扩展并贡献代码
四 作业开发
Elastic-Job提供Simple、Dataflow和Script 3种作业类型。方法参数shardingContext包含作业配置、片和运行时信息。可通过getShardingTotalCount(), getShardingItem()等方法分别获取分片总数，运行在本作业服务器的分片序列号等。
- Simple类型的作业：该类型意为简单实现，只需实现SimpleJob接口，重写它的execute方法即可
- Dataflow类型作业：用于处理数据流，实现DataflowJob接口，并重写两个方法——用于抓取(fetchData方法)和处理(processData方法)数据。比如在fetchData方法里面查询没有上架的商品，在processData方法修改该商品的状态。注意：可通过DataflowJobConfiguration配置是否流式处理。当配置成流式处理，fetchData方法返回值（返回值是集合）是null或长度是0，作业才停止抓取，否则将一直运行。非流式的则每次作业只执行一次这两个方法就结束该作业。
- 注意：可通过DataflowJobConfiguration配置是否流式处理。当配置成流式处理，fetchData方法返回值（返回值是集合）是null或长度是0，作业才停止抓取，否则将一直运行。非流式的则每次作业只执行一次这两个方法就结束该作业。
- Script类型作业：意为脚本类型作业，支持shell、python、perl等类型脚本。只需通过控制台或代码配置scriptCommandLine即可，无需编码。
五 引入Maven依赖
io.elasticjob
elastic-job-lite-core
${latest.release.version}
io.elasticjob
elastic-job-lite-spring
${latest.release.version}
六 作业配置
Elasti-Job配置分成3个层级，Core, Type和Root。
- Core对应JobCoreConfiguration，用于提供作业核心配置信息，如：作业名称、分片总数、CRON表达式等。
- Type对应JobTypeConfiguration，有三个子类分别对应SIMPLE, DATAFLOW和SCRIPT类型作业，供3种作业需要的不同配置，如：DATAFLOW类型是否流式处理或SCRIPT类型的命令行等。
- Root对应JobRootConfiguration，有两个子类分别对应Lite和Cloud部署类型，提供不同部署类型所需的配置，如：Lite类型的是否需要覆盖本地配置或Cloud占用CPU或Memory数量等。
七 与Spring结合
补充：启动zookepper，通过spring启动配置，作业就能加载。
Spring部分配置参数说明
全部配置参考配置手册
注册中心配置（只支持zookepper）
- id：注册中心在Spring容器中的主键
- server-lists：IP地址加端口号，可配置多个，用逗号隔开
- namespace：zookepper的命名空间
- max-retries：最大重置次数
作业配置
JobCoreConfiguration属性
- id：作业名称
- class：作业实现类，需实现ElasticJob接口
- cron：cron表达式，控制作用触发时间
- sharding-total-count：作业分片总数
- registry-center-ref：注册中心bean的引用
- sharding-item-parameters：分片序列号和参数用等号分隔，多个键值对用逗号分隔片，序列号从0开始，不可大于或等于作业分片总数如：0=a,1=b,2=c
- failover：是否开启失效转移
补充：开启失效转移的情况下，如果任务执行过程中一台服务器失去连接，那么已经分配到该服务器的任务，将会在下次任务执行之前被当前集群中正常的服务器获取分片并执行，执行结束后再进行下一次任务；未开启失效转移，那么服务器丢失后，程序将不作任务处理，任由其丢失，但下次任务会重新分片。 - disabled：作业是否禁止启动
- overwrite：本地配置是否可覆盖注册中心配置，如果可覆盖，每次启动作业都以本地配置为准
- event-trace-rdb-data-source：作业事件追踪的数据源Bean引用
- streaming-process：dataflow特有的——是否流式处理数据
- job-sharding-strategy-class：作业分片策略实现类全路径
分片策略
- AverageAllocationJobShardingStrategy：平均分配，默认分配策略，不能整除的多余分片将依次追加到序号小的服务器
- OdevitySortByNameJobShardingStrategy：根据作业名的哈希值奇偶数决定IP升降序算法的分片策略。作业名的哈希值为奇数则IP升序，偶数则IP降序
- RotateServerByNameJobShardingStrategy：根据作业名的哈希值对服务器列表进行轮转的分片策略
- 自定义策略：实现JobShardingStrategy接口并实现sharding方法，接口方法参数为作业服务器IP列表和分片策略选项，分片策略选项包括作业名称，分片总数以及分片序列号和个性化参数对照表
八 动态添加job
springboot项目
创建一个简单的springboot项目，maven依赖和上边差不多，使用yaml进行相关属性的配置，主要配置的是数据库连接池，jpa
1 依赖
2 yaml配置
elasticjob:
serverlists: 172.31.31.48:2181
namespace: boot-job
spring:
datasource:
url: jdbc:mysql://localhost:3306/test?characterEncoding=utf-8&verifyServerCertificate=false&useSSL=false&requireSSL=false
driver-class-name: com.mysql.jdbc.Driver
username: root
password: root
type: com.zaxxer.hikari.HikariDataSource
# 自动创建更新验证数据库结构
jpa:
hibernate:
ddl-auto: update
show-sql: true
database: mysql
3 elastic-job相关的配置改成java代码实现
使用java配置实现，代替官方文档的xml配置
@Configuration
@Data
@ConfigurationProperties(prefix = "elasticjob")
public class ElasticJobConfig {
private String serverlists;
private String namespace;
@Resource
private HikariDataSource dataSource;
@Bean
public ZookeeperConfiguration zkConfig() {
return new ZookeeperConfiguration(serverlists, namespace);
}
@Bean(initMethod = "init")
public ZookeeperRegistryCenter regCenter(ZookeeperConfiguration config) {
return new ZookeeperRegistryCenter(config);
}
/**
* 将作业运行的痕迹进行持久化到DB
*
* @return
*/
@Bean
public JobEventConfiguration jobEventConfiguration() {
return new JobEventRdbConfiguration(dataSource);
}
@Bean
public ElasticJobListener elasticJobListener() {
return new ElasticJobListener(100, 100);
}
}
所有相关的配置到这里就已经OK了，接下来开始具体的编码实现。
定时任务实现
先实现一个自己的任务类，需要实现elastic-job提供的SimpleJob接口，实现它的execute(ShardingContext shardingContext)方法
@Slf4j
public class MyElasticJob implements SimpleJob {
@Override
public void execute(ShardingContext shardingContext) {
//打印出任务相关信息，JobParameter用于传递任务的ID
log.info("任务名：{}, 片数：{}, id={}", shardingContext.getJobName(), shardingContext.getShardingTotalCount(),
shardingContext.getJobParameter());
}
}
接下来实现一个分布式的任务监听器，如果任务有分片，分布式监听器会在总的任务开始前执行一次，结束时执行一次。监听器在之前的ElasticJobConfig已经注册到了Spring容器之中。
public class ElasticJobListener extends AbstractDistributeOnceElasticJobListener {
@Resource
private TaskRepository taskRepository;
public ElasticJobListener(long startedTimeoutMilliseconds, long completedTimeoutMilliseconds) {
super(startedTimeoutMilliseconds, completedTimeoutMilliseconds);
}
@Override
public void doBeforeJobExecutedAtLastStarted(ShardingContexts shardingContexts) {
}
@Override
public void doAfterJobExecutedAtLastCompleted(ShardingContexts shardingContexts) {
//任务执行完成后更新状态为已执行
JobTask jobTask = taskRepository.findOne(Long.valueOf(shardingContexts.getJobParameter()));
jobTask.setStatus(1);
taskRepository.save(jobTask);
}
}
实现一个ElasticJobHandler，用于向Elastic-job中添加指定的作业配置，作业配置分为3级，分别是JobCoreConfiguration，JobTypeConfiguration和LiteJobConfiguration。LiteJobConfiguration使用JobTypeConfiguration，JobTypeConfiguration使用JobCoreConfiguration，层层嵌套。
@Component
public class ElasticJobHandler {
@Resource
private ZookeeperRegistryCenter registryCenter;
@Resource
private JobEventConfiguration jobEventConfiguration;
@Resource
private ElasticJobListener elasticJobListener;
/**
* @param jobName
* @param jobClass
* @param shardingTotalCount
* @param cron
* @param id 数据ID
* @return
*/
private static LiteJobConfiguration.Builder simpleJobConfigBuilder(String jobName,
Class jobClass,
int shardingTotalCount,
String cron,
String id) {
return LiteJobConfiguration.newBuilder(new SimpleJobConfiguration(
JobCoreConfiguration.newBuilder(jobName, cron, shardingTotalCount).jobParameter(id).build(), jobClass.getCanonicalName()));
}
/**
* 添加一个定时任务
*
* @param jobName 任务名
* @param cron 表达式
* @param shardingTotalCount 分片数
*/
public void addJob(String jobName, String cron, Integer shardingTotalCount, String id) {
LiteJobConfiguration jobConfig = simpleJobConfigBuilder(jobName, MyElasticJob.class, shardingTotalCount, cron, id)
.overwrite(true).build();
new SpringJobScheduler(new MyElasticJob(), registryCenter, jobConfig, jobEventConfiguration, elasticJobListener).init();
}
}
到这里，elastic-job的注册中心，数据源相关配置，以及动态添加的逻辑已经做完了，接下来在service中调用上面写好的方法，验证功能是否正常。
编写一个ElasticJobService类，扫描数据库中状态为0的任务，并且把这些任务添加到Elastic-job中，这里的相关数据库操作使用了spring-data-jpa，dao层相关代码就不贴了，可以在源码中查看。
@Service
public class ElasticJobService {
@Resource
private ElasticJobHandler jobHandler;
@Resource
private TaskRepository taskRepository;
/**
* 扫描db，并添加任务
*/
public void scanAddJob() {
Specification query = (Specification
.and(criteriaBuilder.equal(root.get("status"), 0));
List
jobTasks.forEach(jobTask -> {
Long current = System.currentTimeMillis();
String jobName = "job" + jobTask.getSendTime();
String cron;
//说明消费未发送，但是已经过了消息的发送时间，调整时间继续执行任务
if (jobTask.getSendTime() < current) {
//设置为一分钟之后执行，把Date转换为cron表达式
cron = CronUtils.getCron(new Date(current + 60000));
} else {
cron = CronUtils.getCron(new Date(jobTask.getSendTime()));
}
jobHandler.addJob(jobName, cron, 1, String.valueOf(jobTask.getId()));
});
}
}
在Junit中添加几条测试数据
@RunWith(SpringJUnit4ClassRunner.class)
@SpringBootTest
public class JobTaskTest {
@Resource
private TaskRepository taskRepository;
@Test
public void add() {
//生成几个任务，第一任务在三分钟之后
Long unixTime = System.currentTimeMillis() + 60000;
JobTask task = new JobTask("test-msg-1", 0, unixTime);
taskRepository.save(task);
unixTime += 60000;
task = new JobTask("test-msg-2", 0, unixTime);
taskRepository.save(task);
unixTime += 60000;
task = new JobTask("test-msg-3", 0, unixTime);
taskRepository.save(task);
unixTime += 60000;
task = new JobTask("test-msg-4", 0, unixTime);
taskRepository.save(task);
}
}
此时，数据库中多了四条状态为0的数据
最后，就可以开始验证整个流程了，代码如下
@SpringBootApplication
public class ElasticJobApplication implements CommandLineRunner {
@Resource
private ElasticJobService elasticJobService;
public static void main(String[] args) {
SpringApplication.run(ElasticJobApplication.class, args);
}
@Override
public void run(String... strings) throws Exception {
elasticJobService.scanAddJob();
}
}
可以看到，在启动过程中，多个任务被加入到了Elastic-job中，并且一小段时间之后，任务一次执行，执行成功之后，因为我们配置了监听器，会打印数据库的更新SQL，当任务执行完成，再查看数据库，发现状态也更改成功。数据库中同时也会多出两张表JOB_EXECUTION_LOG，JOB_STATUS_TRACE_LOG，这是我们之前配置的JobEventConfiguration，通过数据源持久化了作业配置的相关数据，这两张表的数据可以供Elastic-job提供的运维平台使用，具体请查看官方文档。
以上 主要实现了动态添加job 功能 还可以动态管理job，例如动态删除，修改等。
4 elastic-job-lite-console 动态管理
1.下载或者克隆elastic-job源码
地址：https://github.com/dangdangdotcom/elastic-job
2.maven编译安装
进入到elastic-job目录，按住Shift+鼠标右键，选择“在此处打开命令窗口（W）”，执行如下命令：
等待编译安装结束
3.解压上一步打好的包
路径：elastic-job\elastic-job-lite\elastic-job-lite-console\target\elastic-job-lite-console-2.1.5.tar.gz
elastic-job-lite-console-2.1.5\bin目录下是启动脚本
windows环境用：start.bat
linux环境用：start.sh
elastic-job-lite-console-2.1.5\conf目录下是配置文件auth.properties，配置的用户名和密码
root.username=root
root.password=root
guest.username=guest
guest.password=guest
4.以windows环境为例，双击start.bat启动
打开启动脚本看到启动的端口：8899
@echo off
if ""%1"" == ""-p"" goto doSetPort
if ""%1"" == """" goto doStart
echo Usage: %0 [OPTIONS]
echo -p [port] Server port (default: 8899)
goto end
:doSetPort
shift
set PORT=%1
:doStart
set CFG_DIR=%~dp0%..
set CLASSPATH=%CFG_DIR%
set CLASSPATH=%~dp0..\lib\*;%CLASSPATH%
set CONSOLE_MAIN=io.elasticjob.lite.console.ConsoleBootstrap
echo on
if ""%PORT%"" == """" set PORT=8899
java -cp "%CLASSPATH%" %CONSOLE_MAIN% %PORT%
:end
5.访问：localhost:8899 ，登录用户名：root，密码：root
九 对比
与Spring Batch比较
- Spring Batch 是一款批处理应用框架，不是调度框架。如果我们希望批处理任务定期执行，可结合 Quartz 等成熟的调度框架实现。Elastic-Job集成了调度框架，不需要额外添加
- Spring Batch提供了丰富的读写组件，适用于复杂的流程化作业
- Elastic-Job采用分片的方式，是分布式调度解决方案。适用场景是：相对于流程比较简单，但是任务可以拆分到多个线程去执行。
参考
https://www.cnblogs.com/yushangzuiyue/p/9655847.html
https://www.lmlphp.com/user/1387/article/item/29572
https://blog.csdn.net/oppo5630/article/details/79963490
https://www.cnblogs.com/liugx/p/9855612.html
https://blog.csdn.net/zhpengfei0915/article/details/80262817