Netty学习笔记(1)

一、Netty介绍

Netty 是一款异步的事件驱动的网络应用程序框架,支持快速地开发可维护的高性能的面向协议的服务器和客户端,例如zookeeper、阿里的dubbo等。

Netty的主要特性如下所示(吐槽下MD的表格。。):

分类 Netty的特性
设计 统一的API,支持多种传输类型;阻塞的和非阻塞的简单而强大的线程模型;真正的无连接数据报套接字支持;链接逻辑组件以支持复用
易于使用 详实的Javadoc和大量的示例集;不需要超过JDK 1.6+的依赖。(一些可选的特性可能需要Java 1.7+和/或额外的依赖)
性能 拥有比Java 的核心API 更高的吞吐量以及更低的延迟;得益于池化和复用,拥有更低的资源消耗;最少的内存复制
健壮性 不会因为慢速、快速或者超载的连接而导致OutOfMemoryError;消除在高速网络中NIO 应用程序常见的不公平读/写比率
安全性 完整的SSL/TLS 以及StartTLS 支持;可用于受限环境下,如Applet 和OSGI
社区驱动 发布快速而且频繁

二、Java NIO

传统的IO操作面向数据流,意味着每次从流中读一个或多个字节,直至完成,数据没有被缓存在任何地方。而NIO操作面向缓冲区,数据从Channel读取到Buffer缓冲区,随后在Buffer中处理数据。

Java NIO 由以下几个核心部分组成:

  • Buffer:即缓冲区,本质上是一个基本数据类型的数组,包括:ByteBuffer、CharBuffer、IntBuffer等。ByteBuffer的实现类包括 "HeapByteBuffer" 和 "DirectByteBuffer" 两种,前者在JVM堆上申请内存,后者通过unsafe.allocateMemory申请堆外内存,并维护指向该内存的地址。
    Buffer的四个主要属性:capacity(数组大小)、position(当前可以写入或读取数据的位置)、mark(用于备份当前的position)、limit(写模式下,表示最多能往Buffer里写多少数据;读模式下,表示最多可以读取多少数据)。Buffer有读和写两种模式,通过flip()方法切换。

  • Channel:即通道。与流(Stream)相区别,Channel是双向的,可以异步读写,且Channel的数据总是要先读到一个Buffer中,或从Buffer中写入。Channel的实现类包括FileChannel、DatagramChannel、SocketChannel、ServerSocketChannel等。
    通过源码可以发现,基于Channel的read()和write()方法都需要借助DirectByteBuffer进行两次数据复制操作

  • Selector:即选择器。Selector 允许单线程处理多个Channel,通过将具体的SelectableChannel对象注册到Selector,并声明需要监听的事件。一共有4种事件:connect、accept、read和write。
    服务端Selector主要执行过程:
    1、创建Selector
    2、将Channel注册到Selector,该Channel必须处于非阻塞模式下。register()方法会返回一个SelectionKey对象,该对象包含了以下四种属性:interest集合、read集合、Channel和Selector。
    3、为SelectionKey绑定附加对象
    4、通过Selector选择通道:
     4.1、如果没有准备好的channel,select方法会被阻塞一段时间并返回0;
     4.2、selector的select方法会返回socket的个数,而且selectedKeys方法会返回对应的事件
    5、根据事件类型,进行不同的处理逻辑

三、Netty模型

Netty内部使用Reactor模型的实现。Reactor模型基于事件驱动,特别适合处理海量的I/O事件。通俗地说:当客人点菜的时候,服务员就可以去招呼其他客人了,等客人点好了菜,直接招呼一声“服务员”,马上就有个服务员过去服务。这就是用单个线程来做多线程的事。 (也就是当准备好了,通知系统,启用一个线程来处理事情)。

Netty中的Reactor模型主要由多路复用器(Acceptor)、事件分发器(Dispatcher)、事件处理器(Handler)组成,可以分为三种。

1、单线程模型

Netty学习笔记(1)_第1张图片
单线程模型

该模型所有I/O操作都由一个线程完成,即多路复用、事件分发和处理都是在一个Reactor线程上完成的。对于一些小容量应用场景,可以使用单线程模型。但是对于高负载、大并发的应用却不合适。

2、多线程模型


Netty学习笔记(1)_第2张图片
多线程模型

多线程模型的特点:

  • 有专门一个Acceptor线程用于监听服务端,接收客户端的TCP连接请求;
  • 网络IO的读写操作由一个NIO线程池负责,包含一个任务队列和N个可用的线程,由这些NIO线程负责消息的读取、解码、编码和发送;
  • 一个NIO线程可以同时处理多条链路,但是一个链路只能对应一个NIO线程,防止发生并发操作问题。

在绝大多数场景下,Reactor多线程模型都可以满足性能需求;但是,在极特殊应用场景中,一个NIO线程负责监听和处理所有的客户端连接可能会存在性能问题。

3、主从多线程模型

Netty学习笔记(1)_第3张图片
主从多线程模型

它的工作流程如下:

  • 从主线程池中选择一个Reactor线程作为Acceptor线程,用于绑定监听端口,接收客户端连接;
  • Acceptor线程接收客户端连接请求之后创建新的SocketChannel,将其注册到主线程池的其它Reactor线程上,由其负责接入认证、IP黑白名单过滤、握手等操作;
  • 步骤2完成之后,业务层的链路正式建立,将SocketChannel从主线程池的Reactor线程的多路复用器上摘除,重新注册到Sub线程池的线程上,用于处理I/O的读写操作。

四、Netty组件

Netty学习笔记(1)_第4张图片
Netty组件示意图

他们之间的关系:

  • 一个EventLoopGroup 包含一个或者多个EventLoop;
  • 一个EventLoop 在它的生命周期内只和一个Thread 绑定;
  • 所有由EventLoop 处理的I/O 事件都将在它专有的Thread 上被处理;
  • 一个Channel 在它的生命周期内只注册于一个EventLoop;
  • 一个EventLoop 可能会被分配给一个或多个Channel。

注意,在这种设计中,一个给定Channel 的I/O 操作都是由相同的Thread 执行的,实际上消除了对于同步的需要。

参考资料:

[1] Netty源码
[2]《Netty实战》
[3] https://www.jianshu.com/nb/7269354
[4] http://www.infoq.com/cn/articles/netty-threading-model#mainLogin

你可能感兴趣的:(Netty学习笔记(1))