OpenResty 高性能服务器,单机可达10K

一、OpenResty 是个啥

OpenResty是基于Ngnix和Lua的高性能web平台,内部集成精良的LUa库、第三方模块、依赖项。用于方便搭建能够处理高并发、扩展性极高的动态web应用、web服务、动态网关。可以使用Lua脚本调用Ngnix支持的C以及Lua模块,快速构建10K~1000K单机并发连接的高性能web应用系统。

OpenResty 高性能服务器,单机可达10K_第1张图片

 

OpenResty的目标是让web服务直接运行在Nginx服务内部,利用Ngnix的非阻塞IO模型,对HTTP客户端请求和后端DB进行一致的高性能响应。

二、OpenResty 的工作方式

OpenResty 是 Nginx+LuaJIT 的完美组合。

OpenResty 高性能服务器,单机可达10K_第2张图片

 

由于Nginx采用的是master-worker模型,也就是一个master主进程管理多个worker进程,基本的事件处理都是放在worker中,master仅负责一些全剧初始化,以及对worker的管理。在OpenResty中,每个worker使用一个LuaVM,每个请求被分配到worker时,将在这个LuaVM中创建一个coroutine协程。协程之间数据隔离,每个协程具有独立的全局变量_G。

Lua中的协程和多线程下的线程类似,都有自己的堆栈、局部变量、指令指针...,但是和其他协程程序共享全局变量等信息。线程和协程主要不同在于:多处理器的情况下,概念上来说多线程是同时运行多个线程,而协程是通过代码来完成协程的切换,任何时刻只有一个协程程序在运行。并且这个在运行的协程只有明确被要求挂起时才会被挂起。

根据实际测试,OpenResty性能接近于Nginx 性能之王c module,甚至超过。

三、OpenResty 的架构

1、负载均衡

LVS+HAProxy将流量转发给核心Nginx1和Nginx2,即实现了流量的负载均衡。

OpenResty 高性能服务器,单机可达10K_第3张图片

 

2、单机闭环

所有想要的数据都能从本服务器直接获取,大多数时候无需通过网络或去其他服务器获取。

OpenResty 高性能服务器,单机可达10K_第4张图片

 

3、分布式闭环

单机闭环会遇到2个主要问题

  1. 数据不一致
  2. 例如没有主从架构导致不同服务器数据不一致
  3. 遇到存储瓶颈
  4. 磁盘或内存遇到天花板

解决数据不一致比较好的办法是采用主从或分布式集中存储,而遇到存储瓶颈就需要进行按业务键进行分片,将数据分散到多台服务器。

OpenResty 高性能服务器,单机可达10K_第5张图片

 

4、接入网关

接入网关又叫接入层,即接收流量的入口,在入口处做如下事情:

OpenResty 高性能服务器,单机可达10K_第6张图片

 

四、附录其他:Socket编程

Linux Socket编程领域为了处理大量连接请求场景,需要使用非阻塞I/O和复用,select、poll、epoll是Linux API提供的I/O复用方式,自从Linux2.6中加入了epoll之后,高性能服务器领域得到广泛的应用,Nignx就是使用epoll来实现I/O复用支持高并发。

对于“高性能”服务端而言,我们所关注的并不是语言的性能,而是缓存和语言支持异步非阻塞。

OpenResty 高性能服务器,单机可达10K_第7张图片

 

1、缓存

针对缓存要明白通信速度的快慢顺序

  • 内存>SSD>机械磁盘
  • 本机>网络
  • 进程内 > 进程间

缓存系统的目标是希望在进程内的命中率是最高的,那么此时缓存系统整体的效率也是最高的。

2、异步非阻塞

希望访问数据库、访问网络,访问一些比较慢的IO设备时,不要在等待上耗费大量时间。而是使用事件驱动的方式,当系统完成某项任务后再来通知我们。这样就可以将服务器CPU的空闲资源,用来服务客户端连接。

OpenResty 作为高性能的服务端,非常实用,大家再做架构的时候可以考虑下。

你可能感兴趣的:(随手笔记,nginx,openretry,高并发,lua)