爬虫文件的本地部署

首先第一步要打开scrapyd

在pycham中我们必须在可以看到 scrapy.cfg 的目录里面执行一下代码也就是项目文件夹下

第二步发布项目到远端服务器

scrapyd-deploy -p projectname #不指定版本号的

scrapyd-deploy -p projectname --version 版本 #指定版本号的

安装curl后执行apI,控制爬虫

sudo apt install curl

第三步 启动命令

curl http://localhost:6800/schedule.json -d project=shijijiayua -d spider sjjy

结束的命令

curl http://localhost:6800/cancel.json -d project=shijijiayua -d job= id

返回远端的部署的项目

curl http://localhost:6800/listprojects.json