Delphi实现高性能的Socket通讯服务器(完成端口模型IOCP)

很多人费尽心思,都没有找到一个完美的 I/O CP 例程,甚至跟人于误解,先将本人编写的例程公布出来,希望对那些苦苦寻觅的人带来收获。本例程可以作为初学者的学习之用,亦可以作为大型服务程序的通讯模块。其处理速度可以说,优化到了极点。如果理解了本例程的精髓,加上一个高效的通讯协议,你完全可以用它来构建一个高性能的通讯服务器。

  在公布代码前,先谈谈I/O CP。对I/O CP的函数不多做说明了,网上很多,都一样。在此本人仅说一些技术上要注意的问题

一、如何管理内存
1、IO数据缓冲管理
 动态分配内存,是一种灵活的方式。但对于系统资源浪费是巨大的。因此本人采用的是预先分配服务器最大需要的内存,用链表来管理。任何时候分配交还都不需要遍历,仅需要互斥而已。
 更巧妙的是,将IO发送信息和内存块有机的结合在一起,减少了链表的管理工作。

 //IO操作标志
 TIOFlag = (IO_ACCEPT, IO_READ, IO_WRITE);
 //IO操作信息
 PIOInfo =^ TIOInfo;
 TIOInfo = packed record
  Overlapped: TOverlapped;  //重叠结构
  DataBuf: TWSABUF;          //IO数据信息
  Socket: TSocket;
  Flag: TIOFlag;
  TickCountSend: DWord;
  Next: PIOInfo;
  Prior: PIOInfo;
 end;

 PUNode =^ TUNode;
 TUNode = record
  Next: Pointer;
 end;

 PIOMem =^ TIOMem;
 TIOMem = packed record
  IOInfo: TIOInfo;
  Data: array[1..IO_MEM_SIZE] of Byte;
  //申请内存的时候,返回的是Data的地址
 end;


2、链路数据管理
 采用双向链表结构,减少删除节点时遍历消耗的时间

 //每个连接的信息
 PLink =^ TLink;
 TLink = record
  Socket: TSocket;
  RemoteIP: string[30];
  RemotePort: DWord;
  //最后收到数据时的系统节拍
  TickCountActive: DWord;
  //处理该连接的当前线程的信息
  Worker: PWorker;
  Data: Pointer;    //应用层可以设置这个成员,当OnReceive的时候,就不要每次遍历每个连接对应的数据区了
  Section: TRTLCriticalSection;
  Next: PLink;
  Prior: PLink;
 end;

二、如何管理线程
 每个工作线程创建的时候,调用:OnWorkerThreadCreateEvt,该函数可以返回这个线程对应的信息,比如为该线程创建的数据库连接控件或对应的类等,在OnReceive的可以从Link的Worker访问该成员Worker^.Data。

//工作线程信息
 PWorker =^ TWorker;
 TWorker = record
  ID: THandle;
  CompletionPort: THandle;
  Data: Pointer;  //调用OnWorkerThreadCreateEvt返回的值
  //用于反应工作情况的数据
  TickCountLong,
  TickCountActive: DWord;
  ExecCount: Integer;
  //线程完成后设置
  Finished: THandle;
  Next: PWorker;
 end;

 同理,服务线程也是具有一样的特点。相见源码。

  关于线程同步,一直是众多程序头疼的问题。在本例程中,尽量避免了过多的互斥,并有效地防止了死锁现象。用RTLCriticalSection,稍微不注意,就会造成死锁的灾难。哪怕是两行代码的差别,对多线程而言都是灾难的。在本例程中,对数据同步需要操作的是在维护链路链表方面上。服务线程需要计算哪个连接空闲超时了,工作线程需要处理断线情况,应用层主动发送数据时需要对该链路独占,否则一个在发送,一个在处理断线故障,就会发送冲突,导致灾难后果。

 在本人的压力测试中,已经有效的解决了这个问题,应用层部分不需要做什么同步工作,可以安心的收发数据了。同时每个线程都支持了数据库连接。


三、到底要创建多少个工作线程合适
 很多文章说,有N个CPU就创建N个线程,也有说N*2+2。最不喜欢说话不负责任的人了,本例程可以让刚入门 I/O CP 的人对它有更深入的了解。

四、该不该使用类
  有人说,抛弃一切类,对于服务器而言,会为类付出很多代价,从我的观点看,为类付出代价的,主要是动态创建的原因。其实,类成员访问和结构成员访问一样,需要相对地址。如果都是预先创建的,两者没有多大的差别。本例程采用裸奔函数的方式,当然在应用层可以采用类来管理,很难想象,如果没有没有类,需要多做多少工作。

五、缺点
  不能发大数据包,只能发不超过固定数的数据包。但对于小数据报而言,它将是优秀的。

 

原文:http://club.topsage.com/thread-2234914-1-1.html

你可能感兴趣的:(socket)