python-scrapy教程(二):网页跳转

我们接着上一教程开始讲解scrapy中网页的跳转

首先,先看我们要采集的网站:优酷list列表--http://list.youku.com/category/show/c_96_r_2017_s_1_d_1_p_1.html


我们所要采集的信息呢在这个详情页

python-scrapy教程(二):网页跳转_第1张图片

这个详情页是通过播放页的节目简介这儿的入口进入的

python-scrapy教程(二):网页跳转_第2张图片

接下来我们看看代码(只需要在教程一中的代码进行修改):

python-scrapy教程(二):网页跳转_第3张图片

python-scrapy教程(二):网页跳转_第4张图片

python-scrapy教程(二):网页跳转_第5张图片

python-scrapy教程(二):网页跳转_第6张图片

settings设置:

python-scrapy教程(二):网页跳转_第7张图片

记住设置items.py中的参数,例如我们设变量title和actor分别表示电影名和演员名,那么:

python-scrapy教程(二):网页跳转_第8张图片



好了,大家可以跟着这个思路做做翻页的效果,即那个url的list不止一页,现在如果我想采集这一分类下的所有电影,那么应该怎么做呢?


你可能感兴趣的:(Python)