1、celery通过消息进行通信,通常使用一个叫Broker(中间人)来协client(任务的发出者)和worker(任务的处理者). clients发出消息到队列中,broker将队列中的信息派发给worker来处理。一个celery系统可以包含很多的worker和broker,可增强横向扩展性和高可用性能。
2、Celery需要一种解决消息的发送和接受的方式,我们把这种用来存储消息的的中间装置叫做message broker, 也可叫做消息中间人。 作为中间人,通常用的是RabbitMQ或者Redis:
(1)、RabbitMQ是一个功能完备,稳定的并且易于安装的broker. 它是生产环境中最优的选择。使用RabbitMQ的细节参照以下链接: http://docs.celeryproject.org/en/latest/getting-started/brokers/rabbitmq.html#broker-rabbitmq
如果我们使用的是Ubuntu或者Debian发行版的Linux,可以直接通过下面的命令安装RabbitMQ: sudo apt-get install rabbitmq-server 安装完毕之后,RabbitMQ-server服务器就已经在后台运行。如果您用的并不是Ubuntu或Debian, 可以在以下网址: http://www.rabbitmq.com/download.html 去查找自己所需要的版本软件。
(2)、Redis也是一款功能完备的broker可选项,但是其更可能因意外中断或者电源故障导致数据丢失的情况。 关于是有那个Redis作为Broker,可访下面网址: http://docs.celeryproject.org/en/latest/getting-started/brokers/redis.html#broker-redis
3、安装celery,很简单,使用下面命令即可:
pip install -U Celery
如果是在项目虚拟目录底下的话,只会安装在虚拟目录底下,不过还可以去官网下载压缩包:https://pypi.python.org/pypi/celery/
找到想安装的版本,解压后,通过python命令编译:
tar xvfz celery-0.0.0.tar.gz
cd celery-0.0.0
python setup.py build
python setup.py install
此时celery可就安装到本机的python环境目录底下了,而不是对应项目的虚拟目录底下。
4、创建一个项目,这里我先创建了一个flask项目,其中可能还要用使用命令:pip install flask安装下flask,如果没有celery的话,也要用pip install -U Celery安装下
5、创建应用,在那个项目底下新建一个tasks.py文件,代码如下:
from celery import Celery
# 测试应用,使用redis作为broker(消息中间人)
app = Celery('test', broker='redis://:[email protected]/1')
# 创建任务函数
@app.task
def my_task():
print("任务函数正在执行。。。。。")
(1)、Celery第一个参数是给其设定一个名字, 第二参数我们设定一个中间人broker, 在这里我们使用Redis作为中间人。my_task函数是我们编写的一个任务函数, 通过加上装饰器app.task, 将其注册到broker的队列中。
(2)、现在我们在创建一个worker, 等待处理队列中的任务.打开终端,cd到tasks.py同级目录中,执行命令:
celery -A tasks worker --loglevel=info
(3)、发现报了这个错误:ImportError: Missing redis library (pip install redis)
(4)、于是要装下相关redis的库,使用命令:
pip install -U "celery[redis]"
(5)、安装成功后,运行第(2)点,创建一个worker的命令,发现:
原来是没启动redis的服务端,于是在redis安装目录执行命令:
redis-server.exe redis.windows.conf
接着又发现
(6)、好像说客户端认证,没有一个密码设置,redis的密码没设置的问题吗?于是查找资料说redis默认是不需要密码的,在配置文件里用#注释了,需要打开来,于是找到对应的配置文件redis.windows.conf的那一行,去掉#注释:
(7)、保存后,重新用命令redis-server.exe redis.windows.conf,启动下redis的服务端:
(8)、好像密码不对,结果发现是程序底下写的配置redis的密码是332572,redis的URL的配置:
redis://:password@hostname:port/db_number
URL 的所有配置都可以自定义配置的,默认使用的是 localhost 的 6379 端口中 0 数据库。( Redis 默认有 16 个数据库),当然我们上述代码中,是用的1数据库。
(9)、于是改下代码:
from celery import Celery
# 测试应用,使用redis作为broker(消息中间人)
app = Celery('test', broker='redis://:[email protected]/1')
# 创建任务函数
@app.task
def my_task():
print("任务函数正在执行。。。。。")
运行后如下图所示:
6、调用任务,任务加入到broker队列中,以便刚才我们创建的celery workder服务器能够从队列中取出任务并执行。如何将任务函数加入到队列中,可使用delay()。
(1)、进入python终端, 执行如下代码:
from tasks import my_task
my_task.delay()
如下图所示:
(2)、回到创建worker执行的那个终端页面,发现执行好像有点问题,如下图所示:
(3)、找下解决办法,开始尝试,需要安装eventlet模块,执行命令:
pip install eventlet
(4)、安装成功后,然后启动worker的时候加一个参数,如下:(执行任务)
之前的:
celery -A tasks worker --loglevel=info
改为:
celery -A tasks worker --loglevel=info -P eventlet
执行后如下图所示:
(5)、最后再重新执行下my_task.delay()命令,回到执行worker的命令行页面,如下图所示:
我们通过worker的控制台,可以看到我们的任务被worker处理,并打印出了任务函数正在执行的字符串。调用一个任务函数,将会返回一个AsyncResult对象,这个对象可以用来检查任务的状态或者获得任务的返回值。
7、存储结果,如果我们想跟踪任务的状态,Celery需要将结果保存到某个地方。有几种保存的方案可选:SQLAlchemy、Django ORM、Memcached、 Redis、RPC (RabbitMQ/AMQP)。
(1)、例子仍然使用Redis作为存储结果的方案,任务结果存储配置通过Celery的backend参数来设定。修改tasks.py的代码如下:
from celery import Celery
# 测试应用,使用redis作为broker(消息中间人)
app = Celery('test', backend='redis://:[email protected]:6379/2',
broker='redis://:[email protected]/1')
# 创建任务函数
@app.task
def my_task(a, b):
print("任务函数正在执行。。。。。")
return a + b
我们给Celery增加了backend参数,指定redis作为结果存储,并将任务函数修改为两个参数,并且有返回值。
(2)、ctrl+c关掉之前的worker,重新执行下命令,再创建一个worker:
celery -A tasks worker --loglevel=info -P eventlet
(3)、重新进入python命令行,重新执行命令,调用任务:
from tasks import my_task
my_task.delay(1,1)
(4)、回到创建worker执行的那个命令行窗口,如下图所示,发现把1加1的值打印出来了:
(5)、更多关于AsyncResult对象信息,可在这个网站查阅:http://docs.celeryproject.org/en/latest/reference/celery.result.html#module-celery.result
8、配置,Celery使用简单,配置也非常简单。Celery有很多配置选项能够使得celery能够符合我们的需要,但是默认的几项配置已经足够应付大多数应用场景了。配置信息可以直接在app中设置,或者通过专有的配置模块来配置。
(1)、直接通过app来配置:
from celery import Celery
app = Celery('test')
# 增加配置
app.conf.update(
result_backend='redis://:[email protected]:6379/2',
broker_url='redis://:[email protected]:6379/1',
)
(2)、专有配置文件,对于比较大的项目,我们建议配置信息作为一个单独的模块。我们可以通过调用app的函数来告诉Celery使用我们的配置模块。
配置模块的名字我们取名为celeryconfig, 这个名字不是固定的,我们可以任意取名,建议这么做。我们必须保证配置模块能够被导入。 配置模块的名字我们取名为celeryconfig, 这个名字不是固定的,我们可以任意取名,建议这么做。我们必须保证配置模块能够被导入。
下面我们在tasks.py模块 同级目录下创建配置模块celeryconfig.py:
result_backend = 'redis://:[email protected]:6379/2'
broker_url = 'redis://:[email protected]:6379/1'
tasks.py文件修改为:
from celery import Celery
import celeryconfig
# 我们这里案例使用redis作为broker
app = Celery('test')
# 从单独的配置模块中加载配置
app.config_from_object('celeryconfig')
(3)、更多配置,可参考文档: http://docs.celeryproject.org/en/latest/userguide/configuration.html#configuration
以上内容仅供参考学习,也是我参考网上的资料来的,后面遇到的问题解决之类的,但是我找不到出处,如知道的,请下方评论,并附上链接,我这边修改下,谢谢!