【python爬虫】4.爬虫实操（菜品爬取）
文章目录
- 前言
- 项目：解密吴氏私厨
- 分析过程
- 代码实现（一）
-
- 获取与解析
- 提取最小父级标签
- 一组菜名、URL、食材
- 写循环，存列表
- 代码实现（二）
- 复习总结
前言
上一关，我们学习了用BeautifulSoup库解析数据和提取数据，解析数据的方法是：
提取数据的方法是用find() 与find_all()
最后，我们把事情串起来，就变成下图中的模样。它所对应的，正是爬虫四步中的前三步。
项目：解密吴氏私厨
我们继续说回到吴氏私厨的事。我在业余时，有一个爱好是烹饪美味的食物。几乎每个周末、节日，我都会邀请朋友、同事来我的家中做客，设宴款待。在快节奏的都市，这是一种奢侈而美好的享受。
我喜欢尝试新的东西，去做新的菜式，因为新鲜感能让朋友们对赴宴“吴氏私厨”总是心怀期待。
有朋友会好奇：为什么你可以会这么多种不同的菜式？这里面可有什么不为人知的秘密？我笑而不答，说你回头看我写的爬虫关卡就知道。
现在，我要将秘密揭晓。
答案就是我懂编程。在我看来，下厨和Python非常相像。学Python你只需要懂最基础的语法：列表字典、判断循环……然后合理地调用模块，就已经能做出很多有趣的事，代码跳跃在屏幕上，自有千般变化。
下厨你只需要懂最基础的操作手法：蒸炒炖焖煮、烧炸煎煲卤……然后去找合适的菜谱，大江南北，少有你烹不出的风味。
显然我懂厨房的基础手法，我只需要找合适的菜谱。
我写过一段Python代码，它能在每个周五爬取最新出的热门菜谱清单，发送到我的邮箱。内含：菜名、原材料、详细烹饪流程的URL。
我会选择里面看上去美味又没尝试过的，作为周末款待宾客的菜单。
下面，我要带你复现这个代码的编写过程。
项目目标：我们要去爬取热门菜谱清单，内含：菜名、原材料、详细烹饪流程的URL。而定时爬取和发送邮件，我会在第10关讲给你方案。
在这个项目里，我会带你体验BeautifulSoup库的实战应用，让你感受一个爬虫项目是如何一步步实现的。同时，也会有一些爬虫项目实战的经验分享。
分析过程
在这个项目里，我们选取的网站是“下厨房”。它有一个固定栏目，叫做“本周最受欢迎”，收集了当周最招人喜欢的菜谱。地址如下：
http://www.xiachufang.com/explore/
在进行爬取之前，我们先去看看它的robots协议。网址在此：
http://www.xiachufang.com/robots.txt
因为这个页面挺长的，所以我不再为你放截图。阅读这个robots协议，你会发现：我们要爬取的/explore/不在禁止爬取的列表内，但如果你要爬取/recipe/服务器就会不欢迎。在网页里，recipe是每一道菜的详情页面，记录了这道菜的做法。
如果你真要爬/recipe/里的信息，也能爬取到。只是人家都这样说了，我们就不要去爬它。
我们计划拿到的信息，就是下图页面上：菜名、所需材料、和菜名所对应的详情页URL。
获取数据是容易的，使用requests.get()就能实现。不过由于网址反爬策略升级的问题，如果运行不成功的话，我们就需要添加headers参数并在本地运行。
headers参数今天我会直接提供在所有代码题当中，后面的课程再进行详细讲解。如果本地运行代码报错，请及时联系助教。
获取完数据后，我们需要用BeautifulSoup去解析数据。打开检查工具，我们先在Elements里查看这个网页是怎样的结构。
点击开发者工具左上角的小箭头，然后选中一个菜名，如我选的就是“猪肉炖粉条”，那么Elements那边就会自动标记出对应的代码。 所以到时候，我们可以去提取 步骤可以说是非常清晰了！用中学老师的话讲，这叫给未来的解析与提取打下坚实基础。 那趁热打铁。我们再去找找食材在哪里。和查找菜名一样的操作，去点击小箭头，去挑选一个食材。 它们有的是 根据菜名的路径、URL的路径、食材的路径，我们可以找到这三者的最小共同父级标签，是： 现在，我们就找到了所有待爬取的数据藏身何处。现在，去校验一下，其它菜名、URL、食材是不是也在同样位置。如下，猪肉白菜炖粉条： 这说明，我们找的规律没错。那么基于此，我们可以产生两种写爬虫的思路： 思路一：我们先去爬取所有的最小父级标签 思路二：我们分别提取所有的菜名、所有的URL、所有的食材。然后让菜名、URL、食材给一一对应起来（这并不复杂，第0个菜名，对应第0个URL，对应第0组食材，按顺序走即可）。 这两种思路，理论上来说都能够实现我们的目标。那么，我们应该选哪种？ 小孩子才做选择，大人们则是全都要。下面，我们会详细介绍思路一，而把思路二留给你做练习。 在最后，提取到了数据我们要存储。但文件存储我们要到第6关才学习。所以，我们就先把数据存到列表里：每一组菜名、URL、食材是一个小列表，小列表组成一个大列表。如下： 到这，我们可以去尝试写代码。 我们先使用思路一来写代码，即：先去爬取所有的最小父级标签 我们选取的URL是http://www.xiachufang.com/explore/，我们用requests.get()来获取数据。 接着，使用BeautifulSoup来解析，这两步都不算是难事。所以我把它交给你当作开胃小菜。下面，请完成获取数据和解析数据两步，并将解析的结果打印出来。 获取数据：选取的URL是：http://www.xiachufang.com/explore/， 接着，使用BeautifulSoup对获取的数据进行解析。 参考代码如下： 我们来看这个父级标签： 参考代码如下： 非常幸运的是，这里一次就打印出了正确的东西。在实践操作当中，其实常常会因为标签选取不当，或者网页本身的编写没做好板块区分，你可能会多打印出一些奇怪的东西。 当遇到这种糟糕的情况，一般有两种处理方案：数量太多而无规律，我们会换个标签提取；数量不多而有规律，我们会对提取的结果进行筛选——只要列表中的若干个元素就好。 下面，我们可以进行下一步。针对查找结果中的每一个元素，再次查找位于里面的菜名、URL、食材。 我们不先急于提取出所有的菜名、URL和食材。我们先尝试提取一组，等成功了，再去写循环提取所有。我们来看图： 只查找第0个标签，应该用什么语句？3、2、1，回答我。 用find()。我们对父级标签，使用find()方法来查找标签就对了，所用的参数就是 当拿到 现在，我们可以去做这样一个练习：续写下方代码，提取出第0个父级标签中的第0个 提示一：记得要提取的是第0个父级标签，而不是整个父级标签列表； 提示二：提取出的菜名的前后会有很多空格和换行，你可以使用字符串的strip()方法，把多余的内容裁剪掉（字符串.strip()），一起来体验一下它的用法吧： 运行结果： 提示三：提取出的URL需要和http://www.xiachufang.com做拼接。 以下，是我提供的参考答案。 现在我们来看，如何提取食材。 标签，再去写一个find_all()去寻找它里面的所有标签，然后写一个循环，使用text去提取每一个标签里的纯文本信息。 紧接着，用同样的手法，拿到所有标签里的纯文本信息。最后，把这些全都拼接起来。 天呐，这实在是麻烦坏了。 下面我要告诉你一个好消息：你完全不需要这样做，你只需要查找 不信，你可以做这样一个小测试，直接点击运行即可： 惟有痴情难学佛独无媚骨不如人 运行结果： 你会发现输出的结果是“惟有痴情难学佛独无媚骨不如人”。当我们在用text获取纯文本时，获取的是该标签内的所有纯文本信息，不论是直接在这个标签内，还是在它的子标签内。 需要强调的一点是，text可以这样做，但如果是要提取属性的值，是不可以的。父标签只能提取它自身的属性值，不能提取子标签的属性值。如下，就会报错： 标签没有属性href，href属于标签 有了这个知识，请你在之前代码的基础上，写出提取食材的代码，并打印出来。提示：只是用p标签做参数是不够的，因为这里不止一个p标签存在。你还要加class_参数。 以下，是我提供的参考答案。 标签 这部分没什么需要讲解，所以我打算把它直接交给你来实操。 要求：写一个循环，提取当前页面的所有菜名、URL、食材，并将它存入列表。其中每一组菜名、URL、食材是一个小列表，小列表组成一个大列表。如下： 现在，请开始练习，我会在稍后提供参考答案。 以下，是我提供的参考答案。 至此，一个项目就算从头到尾结束。 就像我们之前所说，这个项目还存在着另一个解决思路：我们分别提取所有的菜名、所有的URL、所有的食材。然后让菜名、URL、食材给一一对应起来。 对于这个实操，我不再一步一步为你讲解，而是换一种方式。我会为你简单描述大致思路，由你来自行写代码，结束之后再来和标准答案比照。 首先，获取数据，解析数据，略过。 去查找所有，包含菜名和URL的 为什么不直接选 当遇到这种糟糕的情况，一般有两种处理方案：数量太多而无规律，我们会换个标签提取；数量不多而有规律，我们会对提取的结果进行筛选——只要列表中的若干个元素就好。 这里如果是直接提取 去查找所有，包含食材的 创建一个空列表，启动循环，循环长度等于 在每一次的循环里，去提取一份菜名、URL、食材。拼接为小列表，小列表拼接成大列表。输出打印。 也就是说，换一种思路写代码：我们分别提取所有的菜名、所有的URL、所有的食材。然后让菜名、URL、食材给一一对应起来。 参考答案： 标签 标签 一个项目，两种解法。恭喜你！全都掌握。当菜谱在手，大江南北，便少有你烹不出的风味。 严格来说，我们这一关其实没有新的知识进入，它是一个比较纯粹的项目关卡，汇总代码如下： 标签 标签 这个项目里有许多东西，值得我们回过头来看，记录到小本本上，下面是我的总结： 确认目标-分析过程-代码实现，是我们做每一个项目的必经之路。未来在此基础上，还会有许多演化，但基础都是这些。 将想要的数据分别提取，再做组合是一种不错的思路。但是，如果数据的数量对不上，就会让事情比较棘手。比如，在我们的案例里，如果一个菜有多个做法，其数量也没规律，那么菜名和URL的数量就会对不上。 寻找最小共同父级标签是一种很常见的提取数据思路，它能有效规避这个问题。但有时候，可能需要你反复操作，提取数据。 所以在实际项目实操中，需要根据情况，灵活选择，灵活组合。我们本关卡所做的项目，只是刚刚好两种方式都可以爬取。 text获取到的是该标签内的纯文本信息，即便是在它的子标签内，也能拿得到。但提取属性的值，只能提取该标签本身的。 惟有痴情难学佛独无媚骨不如人 在爬虫实践当中，其实常常会因为标签选取不当，或者网页本身的编写没做好板块区分，你可能会多提取到出一些奇怪的东西。 当遇到这种糟糕的情况，一般有两种处理方案：数量太多而无规律，我们会换个标签提取；数量不多而有规律，我们会对提取的结果进行筛选——只要列表中的若干个元素就好。 以上，就是我要分享的全部信息。 爬虫，它是一项需要许多实操，才能灵活掌握的技能。欢迎你在后面，做更多的尝试。 在下一关，我们将会学习一种新的爬虫。具体是什么，容我卖个关子。期待你和我在周杰伦的歌声里相会！ 我们下一关见！
刚刚打开Elements，它会默认展开body，其余都关闭。我的鼠标悬停在
如此，我们就定位到了菜名的所在位置，标签内的文本，甚至还顺带找到了详情页URL的所在位置。如上图，标签里有属性href，其值是/recipe/103646251/。点击它，你会跳转到这道菜的详情页。标签。接着，先用text拿到它的文本，再使用[href]获取到半截URL，和http://www.xiachufang.com)做拼接即可。
这说找一个，竟是全给找到了。猪肉白菜炖粉条，所需食材是：白菜、五花肉、红薯粉条、干尖椒、花椒、葱、姜、食盐、八角、香叶、料酒、酱油、香油……标签里的纯文本，有的是标签里的纯文本。它们的共同父级标签（相对于子标签，上级标签的意思，父标签包含子标签）是。
菜名是标签内的文本，URL是标签里属性href的值，食材藏身于。最后，它们三者的最小共同父级标签，是[[菜A,URL_A,食材A],[菜B,URL_B,食材B],[菜C,URL_C,食材C]]
代码实现（一）
获取与解析
# 引用requests库
import requests
# 引用BeautifulSoup库
from bs4 import BeautifulSoup
# 为躲避反爬机制，伪装成浏览器的请求头
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36'}
# 获取数据
res_foods = requests.get('http://www.xiachufang.com/explore/', headers=headers)
# 解析数据
bs_foods = BeautifulSoup(res_foods.text,'html.parser')
# 打印解析结果
print(bs_foods)
提取最小父级标签
它的标签是
现在，请尝试续写代码：使用find_all()语法查找最小父级标签，并把查找的结果打印出来。
# 引用requests库
import requests
# 引用BeautifulSoup库
from bs4 import BeautifulSoup
# 为躲避反爬机制，伪装成浏览器的请求头
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36'}
# 获取数据
res_foods = requests.get('http://www.xiachufang.com/explore/',headers=headers)
# 解析数据
bs_foods = BeautifulSoup(res_foods.text,'html.parser')
# 查找最小父级标签
list_foods = bs_foods.find_all('div',class_='info pure-u')
# 打印最小父级标签
print(list_foods)
一组菜名、URL、食材
如何拿到URL和菜名？答案显而易见：我们可以查找父级标签中的第0个标签，里面就会有我们想要的信息。标签本身。标签之后呢，我们应该如何提取纯文本，以及某个属性的值？3、2、1，回答我。
标签，并输出菜名和URL。string = ' python '
# 去掉字符串string前后两端的空格
str = string.strip()
print(str)
python
# 引用requests库
import requests
# 引用BeautifulSoup库
from bs4 import BeautifulSoup
# 为躲避反爬机制，伪装成浏览器的请求头
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36'}
# 获取数据
res_foods = requests.get('http://www.xiachufang.com/explore/',headers=headers)
# 解析数据
bs_foods = BeautifulSoup(res_foods.text,'html.parser')
# 查找最小父级标签
list_foods = bs_foods.find_all('div',class_='info pure-u')
# 提取第0个父级标签中的标签
tag_a = list_foods[0].find('a')
# 输出菜名，使用strip()去掉了多余的空格
print(tag_a.text.strip())
# 输出URL
print('http://www.xiachufang.com'+tag_a['href'])
你可能会想：我们去写一个find()去寻找标签，然后使用text提取标签里的纯文本信息，就可以了！from bs4 import BeautifulSoup
bs = BeautifulSoup('惟有痴情难学佛独无媚骨不如人
from bs4 import BeautifulSoup
# 以下此处多出来的\，是转义字符。
bs = BeautifulSoup('','html.parser')
tag = bs.find('p')
# 这样会报错，因为# 引用requests库
import requests
# 引用BeautifulSoup库
from bs4 import BeautifulSoup
# 为躲避反爬机制，伪装成浏览器的请求头
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36'}
# 获取数据
res_foods = requests.get('http://www.xiachufang.com/explore/',headers=headers)
# 解析数据
bs_foods = BeautifulSoup(res_foods.text,'html.parser')
# 查找最小父级标签
list_foods = bs_foods.find_all('div',class_='info pure-u')
# 提取第0个父级标签中的标签
tag_a = list_foods[0].find('a')
# 菜名，使用strip()函数去掉了多余的空格
name = tag_a.text.strip()
# 获取URL
URL = 'http://www.xiachufang.com'+tag_a['href']
# 提取第0个父级标签中的写循环，存列表
[[菜A,URL_A,食材A],[菜B,URL_B,食材B],[菜C,URL_C,食材C]]
# 引用requests库
import requests
# 引用BeautifulSoup库
from bs4 import BeautifulSoup
# 为躲避反爬机制，伪装成浏览器的请求头
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36'}
# 获取数据
res_foods = requests.get('http://www.xiachufang.com/explore/',headers=headers)
# 解析数据
bs_foods = BeautifulSoup(res_foods.text,'html.parser')
# 查找最小父级标签
list_foods = bs_foods.find_all('div',class_='info pure-u')
# 创建一个空列表，用于存储信息
list_all = []
for food in list_foods:
tag_a = food.find('a')
# 菜名，使用strip()函数去掉多余的空格
name = tag_a.text.strip()
# 获取URL
URL = 'http://www.xiachufang.com'+tag_a['href']
tag_p = food.find('p',class_='ing ellipsis')
# 食材，使用strip()函数去掉多余的空格
ingredients = tag_p.text.strip()
# 将菜名、URL、食材，封装为列表，添加进list_all
list_all.append([name,URL,ingredients])
# 打印
print(list_all)
代码实现（二）
标签。此处标签是标签的父标签。标签？还记得我们怎么说的吗？在实践操作当中，其实常常会因为标签选取不当，或者网页本身的编写没做好板块区分，你可能会多打印出一些奇怪的东西。标签，你就会遇到这种情况。如果你愿意，也可以试试看。标签。标签的总数——你可以借助range(len())语法。# 引用requests库
import requests
# 引用BeautifulSoup库
from bs4 import BeautifulSoup
# 为躲避反爬机制，伪装成浏览器的请求头
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36'}
# 获取数据
res_foods = requests.get('http://www.xiachufang.com/explore/',headers=headers)
# 解析数据
bs_foods = BeautifulSoup(res_foods.text,'html.parser')
# 查找包含菜名和URL的
恭喜你，成功入门爬虫~复习总结
# 引用requests库
import requests
# 引用BeautifulSoup库
from bs4 import BeautifulSoup
# 为躲避反爬机制，伪装成浏览器的请求头
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36'}
# 获取数据
res_foods = requests.get('http://www.xiachufang.com/explore/',headers=headers)
# 解析数据
bs_foods = BeautifulSoup(res_foods.text,'html.parser')
# 查找包含菜名和URL的from bs4 import BeautifulSoup
bs = BeautifulSoup('