本节commit源码地址:0e68adb
本篇内容较多,本人花了较多时间在Netty学习上面,所以更新时间间隔拉的长了点,对Netty运行的全过程进行了总结,同时对Netty部分的代码逐行进行了注释,学习本节前建议可以先看下:netty全过程图解
接下来进入正题
public class NettyServer implements RpcServer {
private static final Logger logger = LoggerFactory.getLogger(NettyServer.class);
@Override
public void start(int port) {
//用于处理客户端新连接的主”线程池“
EventLoopGroup bossGroup = new NioEventLoopGroup();
//用于连接后处理IO事件的从”线程池“
EventLoopGroup workerGroup = new NioEventLoopGroup();
try{
//初始化Netty服务端启动器,作为服务端入口
ServerBootstrap serverBootstrap = new ServerBootstrap();
//将主从“线程池”初始化到启动器中
serverBootstrap.group(bossGroup, workerGroup)
//设置服务端通道类型
.channel(NioServerSocketChannel.class)
//日志打印方式
.handler(new LoggingHandler(LogLevel.INFO))
//配置ServerChannel参数,服务端接受连接的最大队列长度,如果队列已满,客户端连接将被拒绝。理解可参考:https://blog.csdn.net/fd2025/article/details/79740226
.option(ChannelOption.SO_BACKLOG, 256)
//启用该功能时,TCP会主动探测空闲连接的有效性。可以将此功能视为TCP的心跳机制,默认的心跳间隔是7200s即2小时。
.option(ChannelOption.SO_KEEPALIVE, true)
//配置Channel参数,nodelay没有延迟,true就代表禁用Nagle算法,减小传输延迟。理解可参考:https://blog.csdn.net/lclwjl/article/details/80154565
.childOption(ChannelOption.TCP_NODELAY, true)
//初始化Handler,设置Handler操作
.childHandler(new ChannelInitializer() {
@Override
protected void initChannel(SocketChannel ch) throws Exception {
//初始化管道
ChannelPipeline pipeline = ch.pipeline();
//往管道中添加Handler,注意入站Handler与出站Handler都必须按实际执行顺序添加,比如先解码再Server处理,那Decoder()就要放在前面。
//但入站和出站Handler之间则互不影响,这里我就是先添加的出站Handler再添加的入站
pipeline.addLast(new CommonEncoder(new JsonSerializer()))
.addLast(new CommonDecoder())
.addLast(new NettyServerHandler());
}
});
//绑定端口,启动Netty,sync()代表阻塞主Server线程,以执行Netty线程,如果不阻塞Netty就直接被下面shutdown了
ChannelFuture future = serverBootstrap.bind(port).sync();
//等确定通道关闭了,关闭future回到主Server线程
future.channel().closeFuture().sync();
}catch (InterruptedException e){
logger.error("启动服务器时有错误发生", e);
}finally {
//优雅关闭Netty服务端且清理掉内存,shutdownGracefully()执行逻辑参考:https://www.icode9.com/content-4-797057.html
bossGroup.shutdownGracefully();
workerGroup.shutdownGracefully();
}
}
}
使用静态代码块初始化Netty客户端,利用Channel将RpcRequest对象传到服务端并设置监听,发送后会立刻返回,异步等待服务端返回结果。这里利用AttributeKey的get()方法阻塞获得返回结果,具体实现就是以rpcResponse作为key,以返回的RpcResponse对象作为value,作为Map对象绑定在Channel上,使用get()就能获得返回结果了,代码在NettyClientHandler中。
public class NettyClient implements RpcClient {
private static final Logger logger = LoggerFactory.getLogger(NettyClient.class);
private String host;
private int port;
private static final Bootstrap bootstrap;
public NettyClient(String host, int port){
this.host = host;
this.port = port;
}
static {
EventLoopGroup group = new NioEventLoopGroup();
bootstrap = new Bootstrap();
bootstrap.group(group)
.channel(NioSocketChannel.class)
.option(ChannelOption.SO_KEEPALIVE, true)
.handler(new ChannelInitializer() {
@Override
protected void initChannel(SocketChannel ch) throws Exception {
ChannelPipeline pipeline = ch.pipeline();
pipeline.addLast(new CommonDecoder())
.addLast(new CommonEncoder(new JsonSerializer()))
.addLast(new NettyClientHandler());
}
});
}
@Override
public Object sendRequest(RpcRequest rpcRequest) {
try {
ChannelFuture future = bootstrap.connect(host, port).sync();
logger.info("客户端连接到服务端{}:{}", host, port);
Channel channel = future.channel();
if(channel != null){
//向服务端发请求,并设置监听,关于writeAndFlush()的具体实现可以参考:https://blog.csdn.net/qq_34436819/article/details/103937188
channel.writeAndFlush(rpcRequest).addListener(future1 -> {
if(future1.isSuccess()){
logger.info(String.format("客户端发送消息:%s", rpcRequest.toString()));
}else {
logger.error("发送消息时有错误发生:", future1.cause());
}
});
channel.closeFuture().sync();
//AttributeMap是绑定在Channel上的,可以设置用来获取通道对象
AttributeKey key = AttributeKey.valueOf("rpcResponse");
//get()阻塞获取value
RpcResponse rpcResponse = channel.attr(key).get();
return rpcResponse.getData();
}
}catch (InterruptedException e){
logger.error("发送消息时有错误发生:", e);
}//注意并没有调用shutdown关闭客户端Netty
return null;
}
}
在传输过程中,我们可以在发送的数据上加上各种必要的数据,形成自定义的协议便于处理,Netty支持自定义协议也是其优点之一。
+---------------+---------------+-----------------+-------------+
| Magic Number | Package Type | Serializer Type | Data Length |
| 4 bytes | 4 bytes | 4 bytes | 4 bytes |
+---------------+---------------+-----------------+-------------+
| Data Bytes |
| Length: ${Data Length} |
+---------------------------------------------------------------+
首先是 4 字节魔数,表示一个协议包,用来识别是我们自定义的协议;接着是 Package Type,表示这是一个调用请求还是响应结果;Serializer Type 表示实际数据使用的序列化器编号,这个服务端和客户端应当使用统一标准;Data Length 就是实际数据的长度,设置这个字段主要防止粘包,最后就是经过序列化后的实际数据,可能是 RpcRequest 也可能是 RpcResponse 经过序列化后的字节,取决于 Package Type。
然后就是定义通用序列化接口,有四个方法,分别是序列化,反序列化,获得该序列化器的编号,根据编号获取序列化器,本节使用的是JSON 序列化器。
public interface CommonSerializer {
byte[] serialize(Object obj);
Object deserialize(byte[] bytes, Class> clazz);
int getCode();
static CommonSerializer getByCode(int code){
switch (code){
case 1:
return new JsonSerializer();
default:
return null;
}
}
}
Netty 中有一个很重要的设计模式——责任链模式,责任链上有多个处理器,每个处理器都会对数据进行加工,并将处理后的数据传给下一个处理器。Netty中的Handler就是责任链模式的体现,代码中的 CommonEncoder、CommonDecoder和NettyServerHandler 分别就是编码器,解码器和数据处理器,数据从外部传入时需要解码,传出时则需要编码,一环扣一环。
编码器的工作就是把原始数据转换为字节流,然后根据上面提到的协议格式,将各个字段写到一个字节数组中(堆外内存ByteBuf[ ]),这样的字节数组就是发送出去的自定义协议包。
public class CommonEncoder extends MessageToByteEncoder {
private static final int MAGIC_NUMBER = 0xCAFEBABE;
private final CommonSerializer serializer;
public CommonEncoder(CommonSerializer serializer){
this.serializer = serializer;
}
@Override
protected void encode(ChannelHandlerContext ctx, Object msg, ByteBuf out) throws Exception {
//数据写到缓冲区
out.writeInt(MAGIC_NUMBER);
if(msg instanceof RpcRequest){
out.writeInt(PackageType.REQUEST_PACK.getCode());
}else {
out.writeInt(PackageType.RESPONSE_PACK.getCode());
}
out.writeInt(serializer.getCode());
byte[] bytes = serializer.serialize(msg);
out.writeInt(bytes.length);
out.writeBytes(bytes);
}
}
解码器就是将收到的字节序列还原为实际对象,主要就是进行字段的校验,比较重要的就是取出序列化器编号,以获得正确的反序列化方式,并且利用length字段来确定数据包的长度(防止粘包),读出正确长度的字节数组,然后反序列化成对应的对象。
public class CommonDecoder extends ReplayingDecoder {
private static final Logger logger = LoggerFactory.getLogger(CommonDecoder.class);
private static final int MAGIC_NUMBER = 0xCAFEBABE;
@Override
protected void decode(ChannelHandlerContext ctx, ByteBuf in, List
JSON 序列化工具使用的是Jackson,在 pom.xml 中已添加依赖。序列化和反序列化,就是把对象转换成字节数组,和根据字节数组和 Class 反序列化成对象。这里有一个需要注意的点,就是在 RpcRequest 反序列化时,由于Paramters字段是 Object 数组类型,而在反序列化时,序列化器是根据字段类型进行反序列化,Object是一个十分模糊的类型,就会出现反序列化失败的现象,这时就需要 RpcRequest 中的另一个字段 ParamTypes 来获取到 Object 数组中的每个实例的实际类,辅助反序列化,这就是 handleRequest() 方法的作用。
public class JsonSerializer implements CommonSerializer{
private static final Logger logger = LoggerFactory.getLogger(JsonSerializer.class);
private ObjectMapper objectMapper = new ObjectMapper();
@Override
public byte[] serialize(Object obj) {
try{
return objectMapper.writeValueAsBytes(obj);
}catch (JsonProcessingException e){
logger.error("序列化时有错误发生:{}", e.getMessage());
e.printStackTrace();
return null;
}
}
@Override
public Object deserialize(byte[] bytes, Class> clazz) {
try{
Object obj = objectMapper.readValue(bytes, clazz);
if(obj instanceof RpcRequest){
obj = handleRequest(obj);
}
return obj;
}catch (IOException e){
logger.error("反序列化时有错误发生:{}", e.getMessage());
e.printStackTrace();
return null;
}
}
/**
* @description 使用JSON反序列化Object数组,无法保证反序列化后仍然为原实例类,因此要特殊处理
* @param [obj]
* @return [java.lang.Object]
* @date [2021-02-22 15:03]
*/
private Object handleRequest(Object obj) throws IOException{
RpcRequest rpcRequest = (RpcRequest) obj;
for(int i = 0; i < rpcRequest.getParamTypes().length; i++){
Class> clazz = rpcRequest.getParamTypes()[i];
if(!clazz.isAssignableFrom(rpcRequest.getParameters()[i].getClass())){
byte[] bytes = objectMapper.writeValueAsBytes(rpcRequest.getParameters()[i]);
rpcRequest.getParameters()[i] = objectMapper.readValue(bytes, clazz);
}
}
return rpcRequest;
}
@Override
public int getCode() {
return SerializerCode.valueOf("JSON").getCode();
}
}
当然上面提到的这种情况不会在其他序列化方式中出现,因为其他序列化方式是转换成字节数组,会记录对象的信息,而 JSON 方式本质上只是转换成 JSON 字符串,会丢失对象的类型信息。
NettyServerHandler 和 NettyClientHandler ,是直接和 RpcServer 对象或 RpcClient 对象打交道的,无需关心字节序列的问题。
NettyServerHandler 用于接收 RpcRequest,执行接口的方法调用,将调用结果返回,封装成 RpcResponse 发送出去。
public class NettyServerHandler extends SimpleChannelInboundHandler {
private static final Logger logger = LoggerFactory.getLogger(NettyServerHandler.class);
private static RequestHandler requestHandler;
private static ServiceRegistry serviceRegistry;
static{
requestHandler = new RequestHandler();
serviceRegistry = new DefaultServiceRegistry();
}
@Override
protected void channelRead0(ChannelHandlerContext ctx, RpcRequest msg) throws Exception {
try{
logger.info("服务端接收到请求:{}", msg);
String interfaceName = msg.getInterfaceName();
Object service = serviceRegistry.getService(interfaceName);
Object result = requestHandler.handle(msg, service);
ChannelFuture future = ctx.writeAndFlush(RpcResponse.success(result));
//添加一个监听器到channelfuture来检测是否所有的数据包都发出,然后关闭通道
future.addListener(ChannelFutureListener.CLOSE);
}finally {
ReferenceCountUtil.release(msg);
}
}
@Override
public void exceptionCaught(ChannelHandlerContext ctx, Throwable cause) throws Exception {
logger.error("处理过程调用时有错误发生:");
cause.printStackTrace();
ctx.close();
}
}
NettyClientHandler只需要处理收到的消息,即 RpcResponse 对象。
public class NettyClientHandler extends SimpleChannelInboundHandler {
private static final Logger logger = LoggerFactory.getLogger(NettyClientHandler.class);
@Override
protected void channelRead0(ChannelHandlerContext ctx, RpcResponse msg) throws Exception {
try {
logger.info(String.format("客户端接收到消息:%s", msg));
AttributeKey key = AttributeKey.valueOf("rpcResponse");
ctx.channel().attr(key).set(msg);
//关闭客户端通道
ctx.channel().close();
} finally {
ReferenceCountUtil.release(msg);
}
}
@Override
public void exceptionCaught(ChannelHandlerContext ctx, Throwable cause) throws Exception {
logger.error("过程调用中有错误发生:");
cause.printStackTrace();
ctx.close();
}
}
NettyTestServer如下:
public class NettyTestServer {
public static void main(String[] args) {
HelloService helloService = new HelloServiceImpl();
ServiceRegistry registry = new DefaultServiceRegistry();
registry.register(helloService);
NettyServer server = new NettyServer();
server.start(9999);
}
}
NettyTestClient如下:
public class NettyTestClient {
public static void main(String[] args) {
RpcClient client = new NettyClient("127.0.0.1", 9999);
RpcClientProxy rpcClientProxy = new RpcClientProxy(client);
HelloService helloService = rpcClientProxy.getProxy(HelloService.class);
HelloObject object = new HelloObject(12, "this is netty style");
String res = helloService.hello(object);
System.out.println(res);
}
}
注意这里 RpcClientProxy 通过传入不同的Client(SocketClient、NettyClient)来切换客户端不同的传输方式。
本节结束……