RPC-client异步回调原理

我会带着你远行 2022-06-15 12:51 272阅读 0赞

**RPC-client异步回调原理**

**见下面的设计图:**

**![0_wx_fmt_png][]**

**![Image 1][]**

所谓异步回调，在得到结果之前，不会处于阻塞状态，理论上任何时间都没有任何线程处于阻塞状态，因此异步回调的模型，理论上只需要很少的工作线程与服务连接就能够达到很高的吞吐量。  
   
上图中左边的框框，是少量工作线程（少数几个就行了）进行调用与回调。  
中间粉色的框框，代表了RPC-client组件。  
右边橙色框，代表了RPC-server。  
蓝色六个小框，代表了异步RPC-client六个核心组件：上下文管理器，超时管理器，序列化组件，下游收发队列，下游收发线程，连接池组件。  
白色的流程小框，以及箭头序号1-17，代表整个工作线程的串行执行步骤：  
1）业务代码发起异步RPC调用，Add(Obj1,Obj2, callback)  
2）上下文管理器，将请求，回调，上下文存储起来  
3）序列化组件，将对象调用序列化成二进制字节流，可理解为一个待发送的包packet1  
4）下游收发队列，将报文放入“待发送队列”，此时调用返回，不会阻塞工作线程  
5）下游收发线程，将报文从“待发送队列”中取出，通过连接池组件拿到一个可用的连接connection  
6）通过连接connection将包packet1发送给RPC-server  
7）发送包在网络传输，发给RPC-server  
8）响应包在网络传输，发回给RPC-client  
9）通过连接connection从RPC-server收取响应包packet2  
10）下游收发线程，将报文放入“已接受队列”，通过连接池组件，将conneciont放回连接池  
11）下游收发队列里，报文被取出，此时回调将要开始，不会阻塞工作线程  
12）序列化组件，将packet2范序列化为Result对象  
13）上下文管理器，将结果，回调，上下文取出  
14）通过callback回调业务代码，返回Result结果，工作线程继续往下走  
   
如果请求长时间不返回，处理流程是：  
15）上下文管理器，请求长时间没有返回  
16）超时管理器拿到超时的上下文  
17）通过timeout\_cb回调业务代码，工作线程继续往下走。

**上下文管理器**  
 为什么需要上下文管理器？  
回答：由于请求包的发送，响应包的回调都是异步的，甚至不在同一个工作线程中完成，需要一个组件来记录一个请求的上下文，把请求-响应-回调等一些信息匹配起来。  
   
**如何将请求-响应-回调这些信息匹配起来？**  
 这是一个很有意思的问题，通过一条连接往下游服务发送了a，b，c三个请求包，异步的收到了x，y，z三个响应包：

![0_wx_fmt_png 1][]

（1）怎么知道哪个请求包与哪个响应包对应？

（2）怎么知道哪个响应包与哪个回调函数对应？

回答：这是通过【请求id】来实现请求\-响应\-回调的串联的。

![0_wx_fmt_png 2][]

![Image 1][]

整个处理流程如上，通过请求id，上下文管理器来对应请求-响应-callback之间的映射关系：  
1）生成请求id  
2）生成请求上下文context，上下文中包含发送时间time，回调函数callback等信息  
3）上下文管理器记录req-id与上下文context的映射关系，  
4）将req-id打在请求包里发给RPC-server  
5）RPC-server将req-id打在响应包里返回  
6）由响应包中的req-id，通过上下文管理器找到原来的上下文context  
7）从上下文context中拿到回调函数callback  
8）callback将Result带回，推动业务的进一步执行。

**超时管理器**

![0_wx_fmt_png 3][]

超时管理器，用于实现请求回包超时回调处理。  
每一个请求发送给下游RPC-server，会在上下文管理器中保存req-id与上下文的信息，上下文中保存了请求很多相关信息，例如req-id，回包回调，超时回调，发送时间等。  
超时管理器启动timer对上下文管理器中的context进行扫描，看上下文中请求发送时间是否过长，如果过长，就不再等待回包，直接超时回调，推动业务流程继续往下走，并将上下文删除掉。  
如果超时回调执行后，正常的回包又到达，通过req-id在上下文管理器里找不到上下文，就直接将请求丢弃（因为已经超时处理过了）。

转载地址：http://chuansong.me/n/750008246737

[0_wx_fmt_png]: /images/20220615/0b59469820a147ccb7f76acaca8dc4a9.png?wx_fmt=png
[Image 1]: 
[0_wx_fmt_png 1]: /images/20220615/9af723b4c2f84ccab315cd2d36cd2343.png?wx_fmt=png
[0_wx_fmt_png 2]: /images/20220615/75a325ae4fc546238716dd637a33384a.png?wx_fmt=png
[0_wx_fmt_png 3]: /images/20220615/6f6df85cef484a05adda4ecf8493820b.png?wx_fmt=png