Netty为nio线程模型的一个io处理组件,主要的组件有
channel 对socket的抽象,有serverniochannel 和 clientniochannel,有socket相关的bind(),read,write等操作
EventLoop 一个selector的拥有者,相当于一个餐馆的工作人员,有bossEventloop,workEventLoop,匹配餐馆的前台和服务员,一个客人来了(连接请求过来)会由boss指派为到具体的work,work根据selector状态进行处理, · 一个EventLoop在生命中周期绑定到一个Thread上。
channelPiple 处理一个连接的通道,是
ChannelHandler的管道,
ChannelHandler分为inboutchannnelPiple和outchannelPiple,即对一个io传输进行多重处理,比如编码解码,序列化选择
channelFature channel处理的异步回调,添加监控可实现
Bootstrapping 引导器
Netty的线程模型
线程模型分为两个事件处理thread boss和work,其组成为thread+selector,boss负责客户端的连接以及把连接io处理分配给具体的work,他们都有一个多路复用器,相当于一个传呼机,一个调制解调器selector,可以监测每个连接的状态,当状态为可处理的时候work进行处理,处理完之后可以指向另外可处理的连接!
了解哪几种序列化协议?包括使用场景和如何去选择
java 序列化,反序列化 实现seliable接口,用objectInput,Objectout对象流进行传输
xml
json hession protobuffer fastjson 等等
Netty的零拷贝实现
Netty 的 Zero-copy 体现在如下几个个方面:
•Netty 提供了 CompositeByteBuf 类, 它可以将多个 ByteBuf 合并为一个逻辑上的 ByteBuf, 避免了各个 ByteBuf 之间的拷贝.
•通过 wrap 操作, 我们可以将 byte[] 数组、ByteBuf、ByteBuffer等包装成一个 Netty ByteBuf 对象, 进而避免了拷贝操作.
•ByteBuf 支持 slice 操作, 因此可以将 ByteBuf 分解为多个共享同一个存储区域的 ByteBuf, 避免了内存的拷贝.
•通过 FileRegion 包装的 FileChannel.tranferTo 实现文件传输, 可以直接将文件缓冲区的数据发送到目标 Channel , 避免了传统通过循环 write 方式导致的内存拷贝问题.
除了上面直接使用 CompositeByteBuf 类外, 我们还可以使用 Unpooled.wrappedBuffer 方法, 它底层封装了 CompositeByteBuf 操作, 因此使用起来更加方便:
ByteBuf header = ...
ByteBuf body = ...
ByteBuf allByteBuf = Unpooled.wrappedBuffer(header, body);
从大的方面看,netty性能高效主要体现在:
1.io线程模型
使用reactor模式,同步非阻塞。这决定了可以用最少的资源做更多的事。
2.内存零拷贝
使用直接缓存
3.内存池设计
申请的内存可以重用,主要指直接内存。
内部实现是用一颗二叉查找树管理内存分配情况。
4.串形化处理socket读写,避免锁,即一个指定socket的消息是串形化处理的。这样性能比多个线程同时 处理一个socket对应消息要好,因为多线程处理会有锁。
5.提供对protobuf等高性能序列化协议支持
应用netty调优:
1.若只希望该handler处理完后,交给下一个handler处理,则调用:
ChannelHandlerContext的fireRead之类的方法。
直接通过channel.read或write则会触发完整的handler处理链。
2.SimpleChannelInboundHandler读取完并且全部handler处理完后,会自动释放消息。
ChannelInboundHandlerAdapter不会自动释放消息。
3.ServerSocketChannel一次loop默认最多处理16次客户端连接,这个主要是因为服务端会对应很多客户端,保证较高的吞吐量。
对应参数:MAX_MESSAGES_PER_READ
4.WRITE_BUFFER_LOW_WATER_MARK可用于做流控
需要应用调用isWritable方法,如果返回false暂时写失败。
5.直接内存使用,零拷贝。直接内存块缓存池设计。
6.避免多线程在从内存块缓存池中获取内存块发生阻塞竞争,小块内存大小从线程独有的cache中获取。
7.reactor模式核心是用最少的资源处理最多的事情,一个reactor线程负责查看注册的关心事件
8.软中断
linux 2.6.35以上版本可以设置rps,主要目的是将数据包的处理均匀打散在每个cpu上。提升网络处理能力。
9.设置tcp参数
主要是接收缓存区大小:SO_RCVBUF,及发送缓存区大小:SO_SNDBUF。
关闭SO_TCPNODELAY,对于要求延迟小的应用。