python爬虫怎么伪装?

大家都只知道爬取内容,但是内容也不是没有防御的,随随便便让我们去爬取的,往往有1必有2,因此绝大多数内容,他们都有反侦察,避免信息被一些人给获取了,因此,如果非要去爬取这些信息,在python语言里是怎么做的呢?对于基础的,一些信息,我们给大家提供以下工具,供大家使用。

fake_useragent是一个模拟真实浏览器ua的工具,可以随机产生ua。以下简单介绍其常见用法。

fake_useragent的安装

cmd窗口中输入:

 
pip install fake-useragent

常见用法举例

1、使用前先引入UserAgent:

 
from fake_useragent import UserAgent

ua = UserAgent()

2、想随机产生一个ua,则

ua.random

运行结果:

 
'Mozilla/5.0 (Windows NT 6.2; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/30.0.1599.17 Safari/537.36'

3、利用for循环运行5次,产生5个ua:

for i in range(5):

 print(ua.random)

运行后,产生5个随机的ua:

Mozilla/5.0 (Windows NT 10.0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/40.0.2214.93 Safari/537.36

Mozilla/5.0 (Windows NT 6.2; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/32.0.1667.0 Safari/537.36

Opera/9.80 (Windows NT 6.1; U; cs) Presto/2.7.62 Version/11.01

Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_5) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/27.0.1453.93 Safari/537.36

Mozilla/5.0 (Windows NT 6.2) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/28.0.1467.0 Safari/537.36

4、可以产生特定浏览器的ua:

IE浏览器:

ua.ie

运行结果:

 
'Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; WOW64; Trident/5.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; Zune 4.0; InfoPath.3; MS-RTC LM 8; .NET4.0C; .NET4.0E)'

以上都是干货内容,实际操作起来都是非常好用的,大家如果在遇到这种问题情况,可以来看下这个内容,就可以继续操作编程代码了哈~

你可能感兴趣的:(python,编程语言,机器学习,java,selenium)