Python丨scrapy实战简书网站保存数据到mysql

Python丨scrapy实战简书网站保存数据到mysql_第1张图片

 

1:创建项目

Python丨scrapy实战简书网站保存数据到mysql

Python丨scrapy实战简书网站保存数据到mysql_第2张图片

2:创建爬虫

Python丨scrapy实战简书网站保存数据到mysql

 

3:编写start.py文件用于运行爬虫程序

Python丨scrapy实战简书网站保存数据到mysql

 

4:设置settings.py文件的相关设置

Python丨scrapy实战简书网站保存数据到mysql

 

Python丨scrapy实战简书网站保存数据到mysql

 

Python丨scrapy实战简书网站保存数据到mysql

 

爬取详情页数据

Python丨scrapy实战简书网站保存数据到mysql_第3张图片

 

编写items.py文件

Python丨scrapy实战简书网站保存数据到mysql_第4张图片

 

编写js.py

Python丨scrapy实战简书网站保存数据到mysql_第5张图片

 

设计数据库和表

数据库jianshu

表article

Python丨scrapy实战简书网站保存数据到mysql_第6张图片

 

id设置为自动增长

Python丨scrapy实战简书网站保存数据到mysql

 

将爬取到的数据存储到mysql数据库中

Python丨scrapy实战简书网站保存数据到mysql_第7张图片

 

运行start.py效果如下

Python丨scrapy实战简书网站保存数据到mysql_第8张图片

你可能感兴趣的:(python,数据库,python,mysql,java,linux)