scrapy 定时启动爬虫

定时启动爬虫

引用:https://www.jianshu.com/p/c1c9f7ea742f中的方法
方法:使用time模块
首先在scrapy.cfg同一目录下创建一个main.py文件(XX.py)
然后运行以下代码就可以实现定时启动爬虫

import time
import os
while True:
    os.system("scrapy crawl spider_name")
    time.sleep(20)# 爬虫运行时间的间隔

你可能感兴趣的:(scrapy初学)