OpenResty 高性能服务器，单机可达10K

一、OpenResty 是个啥

OpenResty是基于Ngnix和Lua的高性能web平台，内部集成精良的LUa库、第三方模块、依赖项。用于方便搭建能够处理高并发、扩展性极高的动态web应用、web服务、动态网关。可以使用Lua脚本调用Ngnix支持的C以及Lua模块，快速构建10K～1000K单机并发连接的高性能web应用系统。

 

OpenResty的目标是让web服务直接运行在Nginx服务内部，利用Ngnix的非阻塞IO模型，对HTTP客户端请求和后端DB进行一致的高性能响应。

二、OpenResty 的工作方式

OpenResty 是 Nginx+LuaJIT 的完美组合。

 

由于Nginx采用的是master-worker模型，也就是一个master主进程管理多个worker进程，基本的事件处理都是放在worker中，master仅负责一些全剧初始化，以及对worker的管理。在OpenResty中，每个worker使用一个LuaVM，每个请求被分配到worker时，将在这个LuaVM中创建一个coroutine协程。协程之间数据隔离，每个协程具有独立的全局变量_G。

Lua中的协程和多线程下的线程类似，都有自己的堆栈、局部变量、指令指针...，但是和其他协程程序共享全局变量等信息。线程和协程主要不同在于：多处理器的情况下，概念上来说多线程是同时运行多个线程，而协程是通过代码来完成协程的切换，任何时刻只有一个协程程序在运行。并且这个在运行的协程只有明确被要求挂起时才会被挂起。

根据实际测试，OpenResty性能接近于Nginx 性能之王c module，甚至超过。

三、OpenResty 的架构

1、负载均衡

LVS+HAProxy将流量转发给核心Nginx1和Nginx2，即实现了流量的负载均衡。

 

2、单机闭环

所有想要的数据都能从本服务器直接获取，大多数时候无需通过网络或去其他服务器获取。

 

3、分布式闭环

单机闭环会遇到2个主要问题

1. 数据不一致
2. 例如没有主从架构导致不同服务器数据不一致
3. 遇到存储瓶颈
4. 磁盘或内存遇到天花板

解决数据不一致比较好的办法是采用主从或分布式集中存储，而遇到存储瓶颈就需要进行按业务键进行分片，将数据分散到多台服务器。

 

4、接入网关

接入网关又叫接入层，即接收流量的入口，在入口处做如下事情：

 

四、附录其他：Socket编程

Linux Socket编程领域为了处理大量连接请求场景，需要使用非阻塞I/O和复用，select、poll、epoll是Linux API提供的I/O复用方式，自从Linux2.6中加入了epoll之后，高性能服务器领域得到广泛的应用，Nignx就是使用epoll来实现I/O复用支持高并发。

对于“高性能”服务端而言，我们所关注的并不是语言的性能，而是缓存和语言支持异步非阻塞。

 

1、缓存

针对缓存要明白通信速度的快慢顺序

• 内存>SSD>机械磁盘
• 本机>网络
• 进程内 > 进程间

缓存系统的目标是希望在进程内的命中率是最高的，那么此时缓存系统整体的效率也是最高的。

2、异步非阻塞

希望访问数据库、访问网络，访问一些比较慢的IO设备时，不要在等待上耗费大量时间。而是使用事件驱动的方式，当系统完成某项任务后再来通知我们。这样就可以将服务器CPU的空闲资源，用来服务客户端连接。

OpenResty 作为高性能的服务端，非常实用，大家再做架构的时候可以考虑下。