将爬虫项目部署到windows服务器上

前两个周写好了一个淘宝的爬虫项目,但是为了应对淘宝的反爬机制(为了账号安全着想),爬取的过程比较缓慢于是就萌生了将项目放到windows服务器上进行长时间爬取的准备。

1.配置python环境

Python 3.11.0

将类输出到requirements.txt中

pip freeze > requirements.txt 将第三方包输出到一个文件中 文件名为:requirements.txt 

获得一下类:
将爬虫项目部署到windows服务器上_第1张图片
windows下载python
下载所有的类包

pip install -r requirements.txt

2. 配置selenium环境

参考网站

3.配置数据库等信息

放在setting文件中进行配置
存在一个小的问题就是我使用的是云数据库所以需要对服务器的主机ip设置到白名单中,但是发现在百度查到的ip和ipconfig查到的不一样,使用ipconfig中的不好使。原因
将爬虫项目部署到windows服务器上_第2张图片
可以在服务器中正常运行

你可能感兴趣的:(爬虫,python,开发语言)