在爬取百度搜索词的链接的时候,User-Agent在爬取一遍后,在爬取使用相同的User-Agent,会出现百度安全验证,可以使用fake-useragent动态生成User-Agent来请求百度。
安装fake-useragent
pip install fake-useragent
使用fake-useragent
from fake_useragent import UserAgent
ua = UserAgent()
ua.random #生成随机User-Agent
例子
from fake_useragent import UserAgent
import requests
ua=UserAgent()
#请求的网址
url="http://www.baidu.com/s?wd=python&pn=10"
#请求头
headers={
"User-Agent":ua.random}
#请求网址
response=requests.get(url=url,headers=headers)
#响应体内容
print(response.text)
#响应状态信息
print(response.status_code)
#响应头信息
print(response.headers)