Scrapy项目部署到Gerapy分布式爬虫框架流程


参考链接:https://blog.csdn.net/qq_38003892/article/details/80427278

准备工作

  • 安装Gerapy ,pip install gerapy
  • 安装Scrapyd ,'pip install scrapyd'

开始部署

(1)在电脑任意位置新建一个文件夹,如view_spider
(2)打开cmd,进入到这个文件夹下,输入命令gerapy init

01.png

这时他会生成一个文件夹


02.png

在这个文件夹下还有一个文件夹

03.png

(3)进入到gerapy文件夹下,在输入 gerapy migrate完成gerapy初始化工作
Scrapy项目部署到Gerapy分布式爬虫框架流程_第1张图片
Image 4.png

(4)将scrapy项目放到projects目录下
(5)利用gerapy runserver,启动gerapy
Scrapy项目部署到Gerapy分布式爬虫框架流程_第2张图片
Image 5.png

(6)打开浏览器输入 127.0.0.1:8000
Scrapy项目部署到Gerapy分布式爬虫框架流程_第3张图片
image.png

(7)另开启一个新的cmd,输入 scrapyd,开启 scrapyd
Scrapy项目部署到Gerapy分布式爬虫框架流程_第4张图片
Image 6.png

(8)在gerapy中加载scrapyd服务器
Scrapy项目部署到Gerapy分布式爬虫框架流程_第5张图片
image.png

(9)填写信息
Scrapy项目部署到Gerapy分布式爬虫框架流程_第6张图片
image.png

(10)打包部署项目


Scrapy项目部署到Gerapy分布式爬虫框架流程_第7张图片
image.png

Scrapy项目部署到Gerapy分布式爬虫框架流程_第8张图片
image.png

你可能感兴趣的:(Scrapy项目部署到Gerapy分布式爬虫框架流程)