fake-useragent,python爬虫伪装请求头

在爬取百度搜索词的链接的时候,User-Agent在爬取一遍后,在爬取使用相同的User-Agent,会出现百度安全验证,可以使用fake-useragent动态生成User-Agent来请求百度。

安装fake-useragent

pip install fake-useragent

使用fake-useragent

from fake_useragent import UserAgent
ua = UserAgent()
ua.random  #生成随机User-Agent

例子

from fake_useragent import UserAgent
import requests
ua=UserAgent()
#请求的网址
url="http://www.baidu.com/s?wd=python&pn=10"
#请求头
headers={
     "User-Agent":ua.random}
#请求网址
response=requests.get(url=url,headers=headers)
#响应体内容
print(response.text)
#响应状态信息
print(response.status_code)
#响应头信息
print(response.headers)

你可能感兴趣的:(python)