python爬虫伪装成浏览器_在Python爬虫中将PhantomJS伪装成Chrome浏览器

前言

在写爬虫的过程中，出于系统环境或是效率的问题，我们经常使用PhantomJS作为Selenium操纵的浏览器webdriver，而不是直接使用Chrome或FireFox的webdriver，尽管后者更加直观。

PhantomJS的优点虽然很多，但是缺点却也不少，有一个不能称之为缺点的缺点就是，PhantomJS的浏览器标识是“PhantomJS”(勇敢的做自己竟然有错……：))

PhantomJS的标识本没有什么问题，但是在现在越来越多的网站不断升级自己的反爬虫技术的情况下，PhantomJS显然成为了一个和“requests”一样的靶子。

只要服务器后台识别到访问者的User-Agent为PhantomJS，就有可能被服务器判定为爬虫行为，而导致爬虫失效。

如同在requests中修改header头域以伪装成浏览器一样，我们可以在Selenium中将PhantomJS的浏览器标识修改为任意浏览器的标识。下面介绍一下：

PhantomJS的浏览器标识

首先来看看PhantomJS的浏览器标识是怎样的。

http://service.spiritsoft.cn/ua.html是一个获取浏览器标识User-Agent的网站，访问它就会显示当前使用的浏览器的标识：

我们使用Selunium操纵PhantomJS访问http://service.spiritsoft.cn/ua.html，看看返回的结果：

很明显的有PhantomJS的痕迹。接下来，我们对PhantomJS的浏览器标识进行修改。

伪装成Chrome

引入一个关键的模块——DesiredCapabilities：

这个模块是干什么用的呢？我们看看源码的解释：

描述了一系列封装的浏览器属性的键值对，大致就是用来设置webdriverde的属性。我们使用它来设置PhantomJS的User-Agent。

首先将DesiredCapabilities转换为一个字典，方便添加键值对：

然后添加一个浏览器标识的键值对：

最后，在实例化PhantomJS中设为参数：

完整的代码如下：

我们运行一下代码：

成功地将PhantomJS标识为了Chrome浏览器。

是不是很简单？

PS：公众号上显示代码着实是痛苦，设成代码块一保存，样式就丢了，设成图片，一些长的代码又看不清。如果代码看不清的，可以点击原文，在博客上阅读。