python2.7爬虫实例-用案例让你一文搞懂python网络爬虫

声明：本文来自于微信公众号  数据EDTA(ID：livandata)，作者： livan，授权站长之家转载发布。

很久以前写了一篇爬虫的文章，把它放在CSDN上(livan1234)没想到点击量竟然暴涨，足以看到大家在数据获取方面的需求，爬虫技术现在已经非常普遍，其用途也非常广泛，很多牛人在各个领域做过相关的尝试，比如：

1)爬取汽车之家数据，利用论坛发言的抓取以及NLP，对各种车型的车主做画像。

2)抓取各大电商的评论及销量数据，对各种商品(颗粒度可到款式)沿时间序列的销量以及用户的消费场景进行分析。

3)还可以根据用户评价做情感分析，实时监控产品在消费者心目中的形象，对新发布的产品及时监控，以便调整策略。

4)抓取房产买卖及租售信息，对热热闹闹的房价问题进行分析。

5)抓取大众点评、美团网等餐饮及消费类网站：各种店面的开业情况以及用户消费和评价，了解周边变化的口味，所谓是“舌尖上的爬虫”。以及各种变化的口味，比如：啤酒在衰退，重庆小面在崛起。

6) 58 同城等分类信息网站：抓取招商加盟的数据，对定价进行分析，帮助网友解惑。

7)拉勾网、中华英才网等招聘网站：抓取各类职位信息，分析最热门的职位以及薪水。

8)挂号网等医疗信息网站：抓取医生信息并于宏观情况进行交叉对比。

9)应用宝等App市场：对各个App的发展情况进行跟踪及预测。(顺便吹一下牛，我们这个榜单很早就发现小红书App的快速增长趋势以及在年轻人中的极佳口碑)

10)携程、去哪儿及 12306 等交通出行类网站：对航班及高铁等信息进行抓取，能从一个侧面反映经济是否正在走入下行通道。

11)雪球等财经类网站：抓取雪球KOL或者高回报用户的行为，找出推荐股票

12) 58 同城二手车、易车等汽车类网站：什么品牌或者型号的二手车残值高?更保值?反之，什么类型的贬值较快?- 二手车，找出最佳的买车时间以及最保值的汽车。

13)神州租车、一嗨租车等租车类网站：抓取它们列举出来的租车信息，长期跟踪租车价格及数量等信息。

14)各类信托网站：通过抓取信托的数据，了解信托项目的类型及规模。其实还有很多数据，不一一列举了。

上次的文章是在讨论移动端的数据获取：点此查看

本文对爬虫做一个全面的总结，不一定包治百病，但是能治好大部分疾病，希望能够对大家有所帮助：

1、 urllib 库：这是一个在爬虫领域绕不开的库，他支持 http 的爬取，几乎可以取到方方面面的内容。

以下面的豆瓣案例做一个简要的解释：

豆瓣小案例：

常用函数：

2、超时设置：

由于网络速度或者对方服务器的问题，我们爬取一个网页的时候，都需要设置时间，我们访问一个网页，如果该网页长时间未响应，那么我们的系统就会判断该网页超时了，即无法打开该网页。

有时候，我们需要根据自己的需求，来设置超时的时间值，比如：有些网站会反应快，我们希望 2 秒种没有反应则判断为超时，那么此时，timeout= 2 即为设置方式，即在 urlopen 中加入 timeout 参数。再比如，有些网站服务器反应慢，那么我们希望 100 秒没有反应，才判断超时，此时的timeout即设置为100，接下来为大家讲解爬虫超时的设置。

3、自动模拟 Http 请求：

客户端如果要与服务器端进行通信，需要通过http进行请求，http请求有很多种，我们在此会讲post与get两种请求方式，比如登录、搜索某些信息的时候会用到。

1)处理 get 请求：

2)理 post 请求：

所谓post请求即为 HTML 的 form 中存在 method=“post”的标签，如下文：

body

form action=””，method=”post”

姓名：input name=”name” type=”text”/br

密码：input name=”pass” type=”text”/br

input name=”” type=”submit” value=”点击提交”

/body

在新浪 login.sina.com.cn 中即可看到，form 为 post 方式。我们只需要 form 表单中的 name 属性即可。

如下图：

4、爬虫的异常处理：

爬虫在运行的过程中，很多时候都会遇到这样或那样的异常。如果没有异常处理，爬虫遇到异常时就会直接崩溃停止运行，下次再次运行时，又会重头开始，所以，要开发一个具有顽强生命力的爬虫，必须要进行异常处理。

异常处理主要是为了增强代码的稳定性。

两者都是异常处理的类，HTTPError是URLError的子类，HTTPError有异常状态码与异常原因，URLError没有异常状态码，所以，在处理的时候，不能使用URLError直接替代HTTPError。如果要替代，必须要判断是否有状态码属性。

接下来我们通过实战讲解：

具体的实战为：

5、爬虫的伪装技术：

浏览器伪装技术原理：

我们可以试试爬取csdn博客，我们发现会返回403，因为对方服务器会对爬虫进行屏蔽。此时我们需要伪装成浏览器才能爬取。

浏览器伪装我们一般通过报头进行，接下来我们通过实战分析一下。

6、新闻网站爬取：

需求：将新浪新闻首页(http：//news.sina.com.cn/)所有新闻都爬到本地。

思路：先爬首页，通过正则获取所有新闻链接，然后依次爬各新闻，并存储到本地。

7、爬虫防屏蔽手段之代理服务器：

如何做代理：

8、图片爬虫实战： 在浏览器爬取时，有时不同的浏览器会有不同的查询结果，解析出不同的源码。

首先在“审查元素”中确定元素的重点字段是哪些，然后再在“源码”中查找对应的图片位置，确定图片 url 的规则。

#!/usr/bin/env python # _*_ UTF-8 _*_

在源码解决不了的情况下，需要进行抓包。作业：千图网的爬取(可以通过调试找到报错原因)：

9、抓包分析实战(一)

获取淘宝的评论信息、腾讯的娱乐新闻信息等需要抓包分析。如何抓取 https 的数据包以及腾讯视频的评论。

TextView：显示返回的信息;

通过 fiddler 找到含有评论的网址，复制出对应的网址，观察网址的规则。

设置完 fiddler 之后，点击要爬取的页面，回到 fiddler 中，确定有 js 内容的链接：

对应的网址为：（点此）

然后确定其中的 itemId 等字段的内容，其中的部分内容未必有用处，可以直接删除，比如 上面 url的 ua 字段。

如果要抓取 https 的数据：

Fiddler 默认只能抓取 HTTP 协议的网页，不能抓取 HTTPS 协议的网页，而我们很多时候，都需要抓 HTTPS 协议的网页，比如抓淘宝数据等。今天，韦玮老师会为大家讲解如何使用 Fiddler 抓取 HTTPS 协议的网页。

打开 Fiddler，点击“Tools--FiddlerOptions--HTTPS”，把下方的全部勾上，如下图所示：

然后，点击 Action，选择将CA 证书导入到桌面，即第二项，导出后，点击上图的 ok 保存配置。

然后在桌面上就有了导出的证书，如下所示：

随后，我们可以在浏览器中导入该证书。我们打开火狐浏览器，打开“选项--高级--证书- -导入”，选择桌面上的证书，导入即可。随后，Fiddler 就可以抓 HTTPS 协议的网页 了。如下图所示。

抓取腾讯视频的评论：

下图为带评论的 js 文件(从 fiddler 中获取)：

其中有多个字段，commentid 等，在点击“加载更多”时，commentID 会发生变化，在第一个url 的源码中会找到下一个评论 url 的地址，找到 last 字段，即为下一个 url 的commentid， 以此来构造下一个 url。

10、微信爬虫实战：

如何解决微信的限制?

11、多线程爬取实战 糗事百科的代码：微信爬虫的爬取依然是使用浏览器，即在搜狗浏览器上使用微信网页版，然后编辑这个页面的 url，以获取内容。

将此程序改为多进程为：

技术总是在不停的进步的，现在的这些爬虫技术一定不能适应所有的环境，如有各位意犹未尽，请关注我的公众号：livandata