首先:谢谢曹向志老师的指点。
下面来看一下这个问题:
问题出现
前几天一位珠海网友highoo问了一个问题:在使用LR进行性能测试的过程中出现了错误:WSA_IO_PENDING,Message Code 27740。
官方troubleshooting如下:
Message Code 27740
Overlapped transmission of request to '%1' for URL 'URL' failed.
The transmission of data to the server failed. It could be a network, router, or server problem. The word Overlapped refers to the way LoadRunner sends data in order to get a Web Page Breakdown.
Troubleshooting
Add the following statement to the beginning of the script to disable the breakdown of the "First Buffer" into server and network time: web_set_sockets_option("OVERLAPPED_SEND", "0");
|
解决方式
添加:web_set_sockets_option("OVERLAPPED_SEND", "0")语句。
解析原因
IO Overlapped
是一种异步
IO
,在socket层,只有少量数据发送的时候,只要create new thread,send, receive,就可以了。但是,当数据量增加的时候,要考虑资源的充分利用,也要避免资源的拥塞队列,如果创建线程过多,和CPU内存磁盘等资源的交互过多,可能导致拥塞出现。在这时就要考虑资源的拥塞问题了,在socket中有两种处理的方式:
1, IO overlapped
工作方式是这样的:
A:调用WSARecv, WSARecvFrom, WSASend, WSASendTo, 或 WSAIoctl.等函数,传入overlapped参数,表示这个函数要执行这个动作;
B:调用WSAGetOverlappedResult函数来取数据;
C:再执行A,调用另一个带有overlapped的参数另一个线程交替处理。
这种方式,可以处理一定量的数据。但是在大数据量的时候,这种处理方式显示出了先天的不足。因为使用这种方式会创建新的线程,这样势必增加系统的开销。当出现成千上万的线程时,系统的开销已经相当大了,因为要频繁的在上下文之间切换。所以在socket编程里,这种方式,处理线程数不是很大的情况下是比较有优势的。
2, IO completion port
在winsock2中引入了异步IO的API:IOCP。其实这里也是overlapped的理念。但有不同,如下描述:
这种异步IO的工作方式是:先开一些线程,处在hold的状态下,应用线程和completion port关联起来,当某个线程要处理数据时,就与completion port进行通信,这样就可以进行socket操作了,这种处理方式就是在刚开始的时候,消耗一些资源开线程,处理大数据量的socket通信,如图:
这样一来completion port就可以处理threads和IO Device之间的交互了。
打个比方来说:
有很多人早上都去坐地铁,但是,如果不限制人往站台走的速度,售票口就要增加很多个才能处理
乘客的请求,这样成本就会增加很多,并且站台上最后会挤满了人,最后导致危机出现;而现在,在进入地铁的时候,加上有序的限流措施,这样一来售票口不用增加,也可以处理
乘客的请求,站台上就不会有那么大的压力。
在我的理解中,completion port就有着这么一个功能。在处理大数据量的时候,它起着维持秩序的作用。
以上为socket在处理数据量较大时的两种方式。
而在性能测试中,如果开的线程过多,可能某些资源不足导致不停的上下文切换,就会有thread得不到资源,从而出现pending。
如果我们关闭了overlapped,就会同步执行。这时如果CPU速度够快(同时其他资源是足够用的),是可以处理所有请求,并且不会出现pending的。但是,如果thread开的越来越多,也可能导致CPU处理不了,从而出现CPU频繁的上下文切换,或者队列增长。最后出错。这时,我们可以针对性的来提出解决方案了。