原文链接:Django 2.1.7 Celery 4.3.0 signatures 任务签名 以及 Primitives 任务执行流程 group 、chain
相关篇章:
- Django 2.1.7 Celery 4.3.0 示例,解决Task handler raised error: ValueError('not enough values to unp...
- Django 2.1.7 集成Celery 4.3.0 从介绍到入门
- Django 2.1.7 Celery 4.3.0 配置
- Django 2.1.7 Celery 4.3.0 在项目中使用Celery
- Django 2.1.7 Celery 4.3.0 调用任务(Calling Task)
官网文档
https://celery.readthedocs.io/en/latest/userguide/canvas.html
1. signature
到前面的调用任务篇章为止,我们在调用任务的时候只是学习了如何使用delay()和apply_async()方法,当然这两个方法也是非常常用的。但是有时我们并不想简单的将任务发送到队列中,我们想将一个任务函数(由参数和执行选项组成)作为一个参数传递给另外一个函数中,为了实现此目标,Celery使用一种叫做signatures的东西。
signature()包含了以下参数:
- 任务调用的 arguments(参数,即任务本身的参数,像add(x,y)中的参数)
- keyword arguments(关键字参数,就是debug=false,true这类参数)
- execution options(执行选项,比如运行时间countdown,到期时间expirt)。
一个signature包装了一个参数和执行选项的单个任务调用。我们可将这个signature传递给函数。
我们先看下tasks.py模块中定义的任务函数:
from celery_tasks.celery import app as celery_app
# 创建任务函数
@celery_app.task
def my_task1():
print("任务函数(my_task1)正在执行....")
@celery_app.task
def my_task2():
print("任务函数(my_task2)正在执行....")
@celery_app.task
def my_task3():
print("任务函数(my_task3)正在执行....")
@celery_app.task
def my_task4(a,b):
print("任务函数(my_task4)正在执行....")
return a + b
我们将my_task1() 任务包装signature 执行看看:
# 导入signature
In [24]: from celery import signature
# 对任务进行签名
In [25]: t1 = signature(my_task1,countdown=1)
# 调用任务
In [27]: t1.delay()
Out[27]:
In [28]:
看看celery的worker这块的执行情况,如下:
下面再来对 my_task4() 需要传参数的任务进行signature包装。
In [28]: t4 = signature(my_task4,args=(20, 30),countdown=1)
In [29]: t4.delay()
Out[29]:
再来看看celery的worker执行情况,如下:
2. Primitives
这些primitives本身就是signature对象,因此它们可以以多种方式组合成复杂的工作流程。primitives如下:
group: 一组任务并行执行,返回一组返回值,并可以按顺序检索返回值。
chain: 任务一个一个执行,一个执行完将执行return结果传递给下一个任务函数.
tasks.py模块如下:
from celery_tasks.celery import app as celery_app
# 创建任务函数
@celery_app.task
def my_task1(a, b):
print("任务函数(my_task1)正在执行....")
return a + b
@celery_app.task
def my_task2(a, b):
print("任务函数(my_task2)正在执行....")
return a + b
@celery_app.task
def my_task3(a, b):
print("任务函数(my_task3)正在执行....")
return a + b
group案例如下:
# 导入各个task任务
In [1]: from celery_tasks.tasks import my_task1, my_task2, my_task3
# 导入group
In [2]: from celery import group
# 导入signature
In [3]: from celery import signature
# 创建signature
In [4]: t1 = signature(my_task1,args=(1, 2),countdown=1)
In [5]: t2 = signature(my_task2,args=(3, 4),countdown=1)
In [6]: t3 = signature(my_task3,args=(5, 6),countdown=1)
# 将多个signature放入同一组中
In [7]: my_group = group(t1,t2,t3)
# 执行组任务
In [11]: ret = my_group()
# 输出每个任务结果
In [13]: print(ret.get())
[3, 7, 11]
从celery的worker日志来看,执行group任务的时候,三个task任务是同时进行的。
chain案例如下:
In [1]: from celery_tasks.tasks import my_task1, my_task2, my_task3
In [2]: from celery import signature
In [3]: from celery import chain
# 将多个signature组成一个任务链
# my_task1的运行结果将会传递给my_task2
# my_task2的运行结果会传递给my_task3
In [4]: my_chain = chain(my_task1.s(10,10) | my_task2.s(20) | my_task3.s(30))
# 执行任务链
In [5]: ret = my_chain()
# 输出最终结果
In [6]: print(ret.get())
70
In [7]:
查看worker日志如下:
可以看到,执行的结果是三个任务执行相加的总和。其中my_task1.s(10,10)
也是signature的一种写法。