python并发发送http请求_用python异步发送http请求来提升效率

需求

在一个我做的项目里，业务流程有一环需要调用http的接口。

这个接口本身是同步处理的，返回响应的速度会根据要处理的数据量不同而不同。

为了不拖慢主业务流程，客户要求采用异步的方式来请求，即只要得到http状态码为200即认为请求成功，无须关心接口具体的返回结果。

分析

这个业务场景可以概括为，我这边处理了所有数据的流程之后，将结果通过这个接口告知服务方，只要对方收到通知即可。

这种场景一般有好几种处理方法，比如：

(1)将被请求的接口改为异步模式，即接口本身只将发来的数据放入队列这一件事情并返回ok即可。数据的处理由其他进程去完成，接口仅仅只扮演一个生产者的角色；

(2)调用方采用socket方式发送UDP请求；

(3)调用方发送一个异步的HTTP请求。

在这个项目里，接口是其他团队提供的，由于一些原因，不可能要求对方支持异步模式，所以采用我方发送异步请求的方式。

在python中，可以使用第三方库grequests来实现这一需求。

准备工作

代码示例

import grequests

def invoke_async(self, url, data):

# print("async ver")

headers = {

"Content-Type": "text/xml",

"User-Agent":"xxxx"

}

rs = [grequests.