首先安装 pip install scrapyd来进行管理scrapy项目
然后安装scrapyd_client来进行部署scrapy项目至scrapyd中
在scrapy项目中修改scrapy.cfg文件
[deploy]
url = http://localhost:6800/addversion.json
然后cmd启动scrapyd
接着进入项目内部进行部署scrapyd-deploy,这时讲道理windows下都会报错。解决方式:
1.进到D:/python/Scripts 目录下,创建两个新文件:
scrapy.bat
scrapyd-deploy.bat
2. 编辑两个文件:
scrapy.bat文件中输入以下内容 :
@echo off
D:\Python36\python D:\Python36\Scripts\scrapy %*
scrapyd-deploy.bat 文件中输入以下内容:
@echo off
D:\Python36\python D:\Python36\Scripts\scrapyd-deploy %*
3. 保存退出,并确保你的 D:/python 和D:/python/Scripts 都在环境变量。这样就可以正常运行scrapy-deploy命令了。
以上步骤完成之后需要使用curl来进行管理scrapy项目。所以需要在windows下安装curl
当然如果不使用curl进行管理,则可以直接安装pip install python-scrapyd-api 具体操作可以在github中搜索scrapyd api,然后进行查看