单机高并发模型设计

背景

在微服务架构下，我们习惯使用多机器、分布式存储、缓存去支持一个高并发的请求模型，而忽略了单机高并发模型是如何工作的。这篇文章通过结构客户端与服务端的建立连接和数据传输过程，阐述下如何进行单机高并发模型设计。

经典C10K问题

如何在一台物理机上同时服务10K用户，及10000个用户，对于java程序员来说，这不是什么难事，使用netty就能构建出支持并发超过10000的服务端程序。那么netty是如何实现的？首先我们忘掉netty，从头开始分析。每个用户一个连接，对于服务端就是两件事

1. 管理这10000个连接
2. 处理10000个连接的数据传输

TCP连接与数据传输

连接建立

我们以常见TCP连接为例。

 

一张很熟悉的图。这篇重点在服务端分析，所以先忽略客户端细节。服务器端通过创建socket,bind端口，listen准备好了。最后通过accept和客户端建立连接。得到一个connectFd,即 连接套接字 （在Linux都是文件描述符)，用来唯一标识一个连接。之后数据传输都基于这个。

数据传输

 

为了进行数据传输，服务端开辟一个线程处理数据。具体过程如下