IOCP Tips

Tip 1 : 使用WSASend/WSARecv来收发数据，而不是使用ReadFile/WriteFile
一句话，前者具有更好的性能

Tip 2:  理解IOCP的最大并发线程数和工作线程数
应该让工作线程数(调用GetQueuedCompletionStatus那些线程)大于等于在CreateIoCompletionPort 指定的NumberOfConcurrentThreads数。
标准做法是永远设置NumberOfConcurrentThreads=0

Tip 3: 利用GetQueuedCompletionStatus的completion key和overlapped structure参数在异步操作中来传递信息
通常completion key用来传递和handle/socket/session的信息
而overlapped structure用来传递每次异步I/O的一些信息，通常的做法是会定义一个structure来派生于OVERLAPPED
struct MY_IO_DATA : public OVERLAPPED

Tip 4: 理解IOCP的完成包的排队行为
从GetQueuedCompletionStatus得到完成包的次序可能跟调用WSASend/WSARecv的次序不一样。
微软唯一保证是如果调用WSASend/WSARecv得到SUCCESS或者IO_PENDING，就一定会有一个完成包出现在IOCP的队列上，不管这个socket是否关闭了。
如果关闭socket,那么之后的WSASend/WSARecv调用就一定返回失败的结果。

关于IOCP包可能次序错乱和解决方法，有一篇文章可以参考: http://www.codeproject.com/KB/IP/reusablesocketserver4.aspx
我的做法是避免多次调用WSARecv

Tip 5: IOCP的清除
最重要的一点是，在I/O完成之前，不要释放overlapped structure。可以用HasOverlappedIoCompleted来监测OV是否完成。

通常的做法是
1) 调用PostQueueCompletionStatus N次(N=工作线程数),来传递特殊的退出信息给所有的工作线程
2) 关闭所有的socket，如果很在意处理完未完成的数据包，需要使用一个计数器来跟踪异步I/O事件，直到计数器为0，才关闭相应的socket
3) 关闭completion port