Hadoop RPC源码分析
上一篇文章http://www.cnblogs.com/dycg/p/rpc.html
讲了Hadoop RPC的使用方法,这一次我们从demo中一层层进行分析。
RPC说白了,就3个核心,交互协议、服务端、客户端。
在Hadoop RPC(hadoop-common-2.4.jar)中也是这样
交互协议
org.apache.hadoop.ipc.VersionedProtocol ,所有协议的父类
其实就2个方法,版本与签名。不同版本与签名的协议,就算同一个类名也无法通信。
服务端:
RPC.Server 处理客户端的连接请求,并处理相关业务,最后返回结果
客户端:
Client,封装请求数据,并接收Response
好,正式开始分析源码吧。
协议部分,我就不说了,就是实现VersionedProtocol接口并添加一些业务方法即可。
我们从客户端程序入口点开始分析,先看看客户端是如何取得协议对象的。
想要与服务端通信就先要得到协议对象,RPC.getProxy就是得到协议对象的方法,沿着代码进入最底层,你会发现,它默认先得到一个RpcEngine(默认实现是WritableRpcEngine),它是什么呢?简单点说就是,它相当于我们启动服务器,获取协议的类。有了WritableRpcEngine后,调用它的getProxy方法,得到我们的协议代理对象(采用java的动态代理机制实现),对应我们的例子就是ClientProtocol的代理对象。
最关键就是这个Invoker对象,我们调用ClientProtocol.echo()方法时候,会先触发这个Invoker.invoke()方法。
Invoker对象如何构造的呢
其实就创建了2个成员变量:
ConnectionID:
保存目标地址(remoteAddress,protocol)和用户ticket,这三者可以唯一确定一个Connection
Client:
主要完成的功能是发送远程调用信息并接收返回结果。图中的factory,是SocketFactory
接着,当我们调用ClientProtocol.echo()方法的时候,触发Invoker.invoke,让我们看看这一步又干了什么事
封装一个Invocation对象,这个对象持有目标方法和参数。
进入client.call()方法看看
这下切入正题了
线程一直循环,直到Server返回结果,然后调用receiveRpcResponse方法返回数据。
经历了上面5步,String result = proxy.echo("123"); 的结果是result = hello 123
最后,我们再看看服务端是怎么工作的。
如何启动服务?
启动服务器很简单,通过RPC.Builder().build()构造Server后就能start启动了。我们进入build()方法内部看看。
return这里,想想看,它其实就是调用WritableRpcEngine.getServer()方法。
看看代码非常多,其实最关键的就一个Server.java Line 2176行
responder = new Responder();
仔细看这个类,它作用是启动一个线程,从reponseQueue中一个个处理要返回给客户端的数据,有些数据可能比较大,一次无法完全返回,则将剩下的数据重新加入队列等待下一次返回。
再进入Server.start()方法看看:
简单明了。 Responder就是刚刚创建的用于返回数据给客户端的线程,启动它。
Listener是什么?
继续看代码,用了JAVA NIO, 它是负责监听客户端连接请求的,它内部又有
private Reader[] readers = null;
每个Reader是一个线程,负责读取连接请求发来的数据,也用了NIO。
那它把数据读来放哪?
processRpcRequest()跟踪到这个方法,发现它把读取完成的数据创建到一个新的Call对象,然后放入callQueue
那什么时候处理呢?
别急,上上图还有个Handler还没看呢。
它也是个线程,启动了N个。一直在循环处理callQueue中的call,如果队列中没call就block waiting。
读到Call后,依然是调用call方法,一层层进去看,最后还是回到了WritableRpcEngine.call() Line 417行,
Object value = method.invoke(protocolImpl.protocolImpl, call.getParameters());
得到结果后,就开始返回给Client了,如果没发一次性全部返回,剩下部分就交给Reponder线程去完成。
至此,整体流程全部完成。 我们来个全家福。