Netty基础知识之NIO
Netty是一款提供异步的、事件驱动的网络应用程序框架和工具,是基于NIO客户端、服务器端的编程框架。所以这里我们先以NIO和依赖相关的基础铺垫来进行剖析讲解,从而作为Netty学习之旅的一个开端。
NIO核心组件介绍
Channel
在NIO中,基本所有的IO操作都是从Channel开始的,Channel通过Buffer(缓冲区)进行读写操作。read()表示读取通道中数据到缓冲区,write()表示把缓冲区数据写入到通道。
Channel有好多实现类,这里有三个最常用:
- SocketChannel:一个客户端发起TCP连接的Channel
- ServerSocketChannel:一个服务端监听新连接的TCP Channel,对于每一个新的Client连接,都会建立一个对应的SocketChannel
- FileChannel:从文件中读写数据
其中SocketChannel和ServerSocketChannel是网络编程中最常用的,代码实现如下:
public class NioClient {
public static void main(String[] args) {
SocketChannel socketChannel = null;
Selector selector = null;
try {
//1.创建socketChannel 通道 实例话
socketChannel = SocketChannel.open();
//2.设置socketChannel 线程模型
socketChannel.configureBlocking(false);
//3.创建selector选择器 实例话
selector = Selector.open();
//4.把channel 注册到selector
//SelectionKey的四种属性 SelectionKey.OP_CONNECT —— 连接就绪事件,表示客户与服务器的连接已经建立成功
socketChannel.register(selector, SelectionKey.OP_CONNECT);
//5.建立连接监听端口
socketChannel.connect(new InetSocketAddress(9000));
while (true){
//等待请求(阻塞方法)
selector.select();
//获取到所有事件进行遍历
Iterator iterator = selector.selectedKeys().iterator();
while (iterator.hasNext()){
SelectionKey key = iterator.next();
//连接事件
if (key.isConnectable()){
socketChannel = (SocketChannel) key.channel();
if (socketChannel.isConnectionPending()){
socketChannel.finishConnect();
System.out.println("建立连接完成");
ByteBuffer buffer = ByteBuffer.allocate(1024);
buffer.put("你好,server".getBytes());
buffer.flip();
//注意:buffer.flip();一定得有,如果没有,就是从文件最后开始读取的,当然读出来的都是byte=0时候的字符。通过buffer.flip();这个语句,就能把buffer的当前位置更改为buffer缓冲区的第一个位置
socketChannel.write(buffer);
}
socketChannel.register(selector,SelectionKey.OP_READ);
}
//读事件
if (key.isReadable()){
socketChannel = (SocketChannel) key.channel();
ByteBuffer buffer =ByteBuffer.allocate(1024);
int read = socketChannel.read(buffer);
if (read>0){
System.out.println("client收到了:"+new String(buffer.array(), 0, read));
}
}
//写事件
if (key.isWritable()){
//业务逻辑
}
//删除已经处理的key,以防重复处理
iterator.remove();
}
}
} catch (IOException e) {
e.printStackTrace();
}finally{
if (socketChannel != null){
try {
//关闭channel
socketChannel.close();
} catch (IOException e) {
e.printStackTrace();
}
}
if (selector != null){
try {
//关闭selector
selector.close();
} catch (IOException e) {
e.printStackTrace();
}
}
}
}
}
public class NioServer {
private static Selector selector;
public static void main(String[] args) {
//初始化方法
init();
//监听方法
listen();
}
private static void listen() {
//循环 一直监听
while (true){
try {
//等待请求进来 阻塞方法
selector.select();
Iterator iterator = selector.selectedKeys().iterator();
//遍历所有事件
while (iterator.hasNext()){
SelectionKey key = iterator.next();
//处理请求方法
handleRequest(key);
iterator.remove();
}
} catch (IOException e) {
e.printStackTrace();
}
}
}
private static void handleRequest(SelectionKey key) {
SocketChannel channel= null;
try {
//监听事件
if (key.isAcceptable()){
ServerSocketChannel serverSocketChannel = (ServerSocketChannel) key.channel();
channel=serverSocketChannel.accept();
channel.configureBlocking(false);
System.out.println("server监听到新的channel");
channel.register(selector,SelectionKey.OP_READ);
}
//读取事件
if (key.isReadable()){
channel = (SocketChannel) key.channel();
ByteBuffer buffer = ByteBuffer.allocate(1024);
int read = channel.read(buffer);
if (read > 0){
System.out.println("server 收到了:"+ new String(buffer.array(),0,read));
}
ByteBuffer write = ByteBuffer.allocate(1024);
write.put("你好,client".getBytes());
write.flip();
channel.write(write);
channel.register(selector,SelectionKey.OP_WRITE);
}
//写事件
if (key.isWritable()){
//业务逻辑
}
} catch (IOException e) {
e.printStackTrace();
}
}
private static void init() {
ServerSocketChannel serverSocketChannel= null;
try {
//创建channel通道
serverSocketChannel = ServerSocketChannel.open();
//创建selector选择器
selector = Selector.open();
//设置io模型 非阻塞
serverSocketChannel.configureBlocking(false);
//绑定端口
serverSocketChannel.socket().bind(new InetSocketAddress(9000));
//把channel注册到selector中
serverSocketChannel.register(selector, SelectionKey.OP_ACCEPT);
System.out.println("服务端初始化启动完成");
} catch (IOException e) {
e.printStackTrace();
}
}
}
总结:自己多敲几次代码执行一下会理解的更透彻网络io到底是如何运行的是怎么一回事。实践能让我们更加透彻的了解API
Buffer
概念
Buffer也被成为内存缓冲区,本质上就是内存中的一块,我们可以将数据写入这块内存,之后从这块内存中读取数据。也可以将这块内存封装成NIO Buffer对象,并提供一组常用的方法,方便我们对该块内存进行读写操作。
Buffer在java.nio中被定义为抽象类:
我们可以将Buffer理解为一个数组的封装,我们最常用的ByteBuffer对应的数据结构就是byte[]
属性
Buffer中有4个非常重要的属性:capacity、limit、position、mark
public abstract class Buffer {
/**
* The characteristics of Spliterators that traverse and split elements
* maintained in Buffers.
*/
static final int SPLITERATOR_CHARACTERISTICS =
Spliterator.SIZED | Spliterator.SUBSIZED | Spliterator.ORDERED;
// Invariants: mark <= position <= limit <= capacity
private int mark = -1;
private int position = 0;
private int limit;
private int capacity;
capacity属性:容量,Buffer能够容纳的数据元素的最大值,在Buffer初始化创建的时候被赋值,而且不能被修改。 Buffer初始化容量为8,所以capacity=8
-
limit属性:代表Buffer可读可写的上限。
- 写模式下:limit 代表能写入数据的上限位置,这个时候limit = capacity
- 读模式下:在Buffer完成所有数据写入后,通过调用flip()方法,切换到读模式,此时limit等于Buffer中实际已经写入的数据大小。因为Buffer可能没有被写满,所以limit<=capacity
-
position属性:代表读取或者写入Buffer的位置。默认为0。
- 写模式下:每往Buffer中写入一个值,position就会自动加1,代表下一次写入的位置。
-
读模式下:每往Buffer中读取一个值,position就自动加1,代表下一次读取的位置。
mark属性:代表标记,通过mark()方法,记录当前position值,将position值赋值给mark,在后续的写入或读取过程中,可以通过reset()方法恢复当前position为mark记录的值。
总结:0 <= mark <= position <= limit <= capacity
Buffer常见操作
创建Buffer
- allocate(int capacity)
ByteBuffer buffer = ByteBuffer.allocate(1024);
//把channel数据读取到buffer
int count = channel.read(buffer);
例子中创建的ByteBuffer是基于堆内存的一个对象。
- wrap(array) wrap方法可以将数组包装成一个Buffer对象
ByteBuffer buffer = ByteBuffer.wrap("hello world".getBytes());
channel.write(buffer);
- allocateDirect(int capacity)
通过allocateDirect方法也可以快速实例化一个Buffer对象,和allocate很相似,这里区别的是allocateDirect创建的是基于堆外内存的对象。
堆外内存不在JVM堆上,不受GC的管理。堆外内存进行一些底层系统的IO操作时,效率会更高。
Buffer写操作
Buffer写入可以通过put()和channel.read(buffer)两种方式写入。
通常我们NIO的读操作的时候,都是从Channel中读取数据写入Buffer,这个对应的是Buffer的写操作。
Buffer读操作
Buffer读取可以通过get()和channel.write(buffer)两种方式读入。
还是同上,我们对Buffer的读入操作,反过来说就是对Channel的写操作。读取Buffer中的数据然后写入Channel中。
其他常见方法
- rewind():重置position位置为0,可以重新读取和写入buffer,一般该方法适用于读操作,可以理解为对buffer的重复读。
public final Buffer rewind() {
position = 0;
mark = -1;
return this;
}
- flip():很常用的一个方法,一般在写模式切换到读模式的时候会经常用到。也会将position设置为0,然后设置limit等于原来写入的position。
public final Buffer flip() {
limit = position;
position = 0;
mark = -1;
return this;
}
- clear():重置buffer中的数据,该方法主要是针对于写模式,因为limit设置为了capacity,读模式下会出问题。
public final Buffer clear() {
position = 0;
limit = capacity;
mark = -1;
return this;
}
- mark()&reset(): mark()方法是保存当前position到变量markz中,然后通过reset()方法恢复当前position为mark,实现代码很简单,如下:
public final Buffer mark() {
mark = position;
return this;
}
public final Buffer reset() {
int m = mark;
if (m < 0)
throw new InvalidMarkException();
position = m;
return this;
}
常用的读写方法可以用一张图总结一下:
Selector
概念
Selector是NIO中最为重要的组件之一,我们常常说的多路复用器就是指的Selector组件。
Selector组件用于轮询一个或多个NIO Channel的状态是否处于可读、可写。通过轮询的机制就可以管理多个Channel,也就是说可以管理多个网络连接
轮询机制
- 首先,需要将Channel注册到Selector上,这样Selector才知道需要管理哪些Channel
-
接着Selector会不断轮询其上注册的Channel,如果某个Channel发生了读或写的时间,这个Channel就会被Selector轮询出来,然后通过SelectionKey可以获取就绪的Channel集合,进行后续的IO操作。
属性操作
创建Selector
通过open()方法,我们可以创建一个Selector对象。
Selector selector = Selector.open();
注册Channel到Selector中
我们需要将Channel注册到Selector中,才能够被Selector管理。
channel.configureBlocking(false); SelectionKey key = channel.register(selector, SelectionKey.OP_READ);
某个Channel要注册到Selector中,那么该Channel必须是非阻塞,所有上面代码中有个configureBlocking()的配置操作。
在register(Selector selector, int interestSet)方法的第二个参数,标识一个interest集合,意思是Selector对哪些事件感兴趣,可以监听四种不同类型的事件:
- Connect事件 :连接完成事件( TCP 连接 ),仅适用于客户端,对应 SelectionKey.OP_CONNECT。
- Accept事件 :接受新连接事件,仅适用于服务端,对应 SelectionKey.OP_ACCEPT 。
- Read事件 :读事件,适用于两端,对应 SelectionKey.OP_READ ,表示 Buffer 可读。
- Write事件 :写时间,适用于两端,对应 SelectionKey.OP_WRITE ,表示 Buffer 可写。
当然,Selector是可以同时对多个事件感兴趣的,我们使用或运算即可组合多个事件:
int interestSet = SelectionKey.OP_READ | SelectionKey.OP_WRITE;
Selector其他一些操作
选择Channel
public abstract int select() throws IOException; public abstract int select(long timeout) throws IOException; public abstract int selectNow() throws IOException;
当Selector执行select()方法就会产生阻塞,等到注册在其上的Channel准备就绪就会立即返回,返回准备就绪的数量。
select(long timeout)则是在select()的基础上增加了超时机制。
selectNow()立即返回,不产生阻塞。
获取可操作的Channel
Set selectedKeys = selector.selectedKeys();
当有新增就绪的Channel,调用select()方法,就会将key添加到Set集合中。
总结
回顾一下使用 NIO 开发服务端程序的步骤:
- 创建 ServerSocketChannel 和业务处理线程池。
- 绑定监听端口,并配置为非阻塞模式。
- 创建 Selector,将之前创建的 ServerSocketChannel 注册到 Selector 上,监听 SelectionKey.OP_ACCEPT。
- 循环执行 Selector.select() 方法,轮询就绪的Channel。
- 轮询就绪的 Channel 时,如果是处于 OP_ACCEPT 状态,说明是新的客户端接入,调用 ServerSocketChannel.accept 接收新的客户端
- 设置新接入的 SocketChannel 为非阻塞模式,并注册到 Selector 上,监听 OP_READ。
- 如果轮询的 Channel 状态是 OP_READ,说明有新的就绪数据包需要读取,则构造 ByteBuffer 对象,读取数据。
NIO 原生 API 的弊端 :
NIO 组件复杂
使用原生 NIO 开发服务器端与客户端 , 需要涉及到 服务器套接字通道 ( ServerSocketChannel ) , 套接字通道 ( SocketChannel ) , 选择器 ( Selector ) , 缓冲区 ( ByteBuffer ) 等组件 , 这些组件的原理 和API 都要熟悉 , 才能进行 NIO 的开发与调试 , 之后还需要针对应用进行调试优化
NIO 开发基础
NIO门槛略高 , 需要开发者掌握多线程、网络编程等才能开发并且优化 NIO 网络通信的应用程序
原生 API 开发网络通信模块的基本的传输处理
网络传输不光是实现服务器端和客户端的数据传输功能 , 还要处理各种异常情况 , 如 连接断开重连机制 , 网络堵塞处理 , 异常处理 , 粘包处理 , 拆包处理 , 缓存机制 等方面的问题 , 这是所有成熟的网络应用程序都要具有的功能 , 否则只能说是入门级的 Demo
NIO BUG
NIO 本身存在一些 BUG , 如 Epoll , 导致 选择器 ( Selector ) 空轮询 , 在 JDK 1.7 中还没有解决