scrapyd部署各种问题

第一次弄爬虫部署 搞好久...  win7下弄的

一、环境安装

pytho scrapy scrapyd scrayd-client

可以用后面三个装的有pip的话可以直接用pip装 很快

看是否安装成功:

在cmd里面输scrapyd  出现下面的画面就是成功了

scrapyd部署各种问题_第1张图片

二、部署部分

一般第一次弄的话直接敲 scrapyd-deploy 就可以 因为只有一个项目嘛

但是这里在win下一般不会识别 需要自己添加两个文件在安装python的目录下,我做的时候用的虚拟环境所以我就放在虚拟环境下面的。

解决方案:

在你的python目录下的Scripts文件夹中,我的路径是“F:\py\scrapy\venv\Scripts”,增加一个scrapyd-deploy.bat文件。

内容为:

@echo off
F:\py\scrapy\hello\venv\Scripts\python F:\py\scrapy\hello\venv\Scripts\scrapyd-deploy %*

和 scrapyd.bat文件

内容:

@echo off

F:\py\scrapy\hello\venv\Scripts\python F:\py\scrapy\hello\venv\Scripts\scrapyd-deploy %*


识别之后我在这里卡了好久 虽然能识别出来 但是我打了scrapy-deploy之后一直是这个错误:

scrapyd部署各种问题_第2张图片

搜好久都没有看到 后来看到这篇https://blog.csdn.net/u013708440/article/details/53425655

里面的三.2解决了我的问题  

解决方案:

开两个cmd,在同项目根目录下,一个先打scrapyd运行起来之后,在打scrapy-deploy

scrapy-deploy这个命令可以加参数

可以是这样的

scrapyd-deploy -p

这里的target就是这个

scrapyd部署各种问题_第3张图片

可以自己定义的 自己加上去就好了  后面那个project 就是图里面的testbot


后面就要用到curl了 但是win不自带 

找到了一篇博 解决的很完美 

https://blog.csdn.net/qq_21126979/article/details/78690960?locationNum=10&fps=1


参考:

https://blog.csdn.net/xiaoquantouer/article/details/53164306  整个过程写的很好 不过就是我被坑那里没解释清楚... 其他完美





你可能感兴趣的:(scrapyd部署各种问题)