下面我就给大家整理了Requests
库的使用方法和细节。
Requests
是Python
语言编写,基于urllib3
,采用Apache2 Licensed
开源协议的HTTP库。它比urllib
更加方便,可以节约我们大量的工作,完全满足HTTP
测试需求。是Python
实现的简单易用的HTTP
库。
安装也很简单:
1pip install requests
1import requests
2response = requests.get( http://www.baidu.com/ )
3print(response.status_code)
4print(type(response.text))
5print(response.text)
6print(response.cookies)
7
8200
9<class str >
10
11# ...HTML网页源码..
12<RequestsCookieJar[]>
13
1import requests
2
3requests.get( http://httpbin.org/get ) # 发送get请求
4requests.post( http://httpbin.org/post ) # 发送post请求,只要调用post方法,传入一个url参数
5requests.put( http://httpbin.org/put )
6requests.delete( http://httpbin.org/delete )
1.基本GET请求
1import requests
2
3resp = requests.get( http://httpbin.org/get )
4print(resp.text)
2.带参数的GET请求这个我们前面有使用过,也是最常用的方法。运行成功就可以看到网页的源码了。
1import requests
2
3data = {
4 name : jack ,
5 age : 20
6}
7resp = requests.get( http://httpbin.org/get , params=data)
8print(resp.text)
3.解析json传入参数只需要我们把数据生成一个字典,然后调用params
参数,赋值给他就可以,是不是很方便。
1import requests
2import json
3
4resp = requests.get( http://httpbin.org/get )
5print(resp.text)
6print(resp.json())
7print(json.loads(resp.text))
8print(type(resp.json()))
可以看出Requests
的jaon
解析和json
的loads
方法解析出来的结果是完全一样的。所以Requests
可以很方便的解析json
数据。
1import requests
2
3resp = requests.get( http://www.baidu.com/img/baidu_jgylogo3.gif )
4print(resp.content)
5print(resp.text)
6
7with open( logo.gif , wb ) as f:
8 f.write(resp.content)
运行成功我们可以看到content
方法获取的图片页面源码是二进制数据,而text
获取的则是字符串代码。显然获取图片这种二进制数据需要使用content
方法。这样我们就保存了图片,我们可以在文件夹下看到这张图片。
1import requests
2
3headers = { User-Agent : Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36 }
4resp = requests.get( http://www.baidu.com , headers=headers)
5print(resp.text)
有些网页如果我们直接去请求的话,他会查看请求的对象是不是浏览器,如果没有浏览器信息就会禁止我们爬虫的访问,这个时候我们就要给爬虫加一个headers
,加一个浏览器的user-agent
信息。这样我们就可以正常访问了。如果有的伙伴不知道怎么得到User-Agent
,可以打开浏览器的审查元素,找到network
,随便点击一个链接就可以看到User-Agent
的信息了。
6.基本POST请求
1import requests
2
3data = {
4 name : jack ,
5 age : 20
6}
7resp = requests.post( http://httpbin.org/post , data=data)
8print(resp.text)
一个POST
必然是要有一个Form Data
的表单提交的,我们只要把信息传给data
参数就可以了。一个POST
请求只需要调用post
方法,是不是特别方便呢。如果不觉得方便的话,可以去参考urllib
的使用方法。
1import requests
2
3response = requests.get( http://www.baidu.com/ )
4print(type(response.status_code)) # 状态码
5print(type(response.text)) # 网页源码
6print(type(response.headers)) # 头部信息
7print(type(response.cookies)) # Cookie
8print(type(response.url)) # 请求的url
9print(type(response.history)) # 访问的历史记录
2.状态码判断获取这些信息只需要简单的调用就可以实现了。
1import requests
2
3response = requests.get( http://www.baidu.com/ )
4exit() if not resp.status_code == 200 else print( Sucessful )
5Sucessful
6
7#如果发送了一个错误请求(一个4XX客户端错误,或者5XX服务器错误响应),我们可以通过 Response.raise_for_status() 来抛出异常:
8
9bad_r = requests.get( http://httpbin.org/status/404 )
10bad_r.status_code
11404
12
13bad_r.raise_for_status()
14Traceback (most recent call last):
15 File "requests/models.py", line 832, in raise_for_status
16 raise http_error
17requests.exceptions.HTTPError: 404 Client Error
好了,这篇文章我们了解了Requests
库的基本语法操作,相信大家对Requests
库的请求和响应已经很清楚了,大家完全可以抓取一些网页了。
推荐阅读
还没毕业,我的专业就被社会淘汰了
看我Git 72变,GitHub发布4已超过8000星
5 个Python高级应用,你确定知道?
11行Python代码,盗取了室友的U盘内容
喜欢就点击“在看”吧!