MQ如何实现消息必达

╰半夏微凉° 2022-05-19 02:56 212阅读 0赞

**一、缘起**

上周讨论了两期环形队列的业务应用：

《[高效定时任务的触发][Link 1]》

《[延迟消息的快速实现][Link 2]》

两期的均有大量读者提问：

任务、延迟消息都放在内存里，万一重启了怎么办？

能否保证消息必达？

今天就简单聊聊消息队列（MsgQueue）的消息必达性架构与流程。

**二、架构方向**

MQ要想尽量消息必达，架构上有两个核心设计点：

（1）**消息落地**

（2）**消息超时、重传、确认**

**三、****MQ****核心架构**

![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1][]

上图是一个MQ的核心架构图，基本可以分为三大块：

（1）**发送方** -> 左侧粉色部分

（2）**MQ核心集群** -> 中间蓝色部分

（3）**接收方** -> 右侧黄色部分

**粉色发送方**又由两部分构成：**业务调用方**与**MQ-client-sender**

其中后者向前者提供了两个核心API：

SendMsg(bytes\[\] msg)

SendCallback()

**蓝色MQ****核心集群**又分为四个部分：**MQ-server，zk，db，管理后台web**

**黄色接收方**也由两部分构成：**业务接收方**与**MQ-client-receiver**

其中后者向前者提供了两个核心API：

RecvCallback(bytes\[\] msg)

SendAck()

MQ是一个系统间解耦的利器，它能够很好的解除发布订阅者之间的耦合，它将上下游的消息投递解耦成两个部分，如上述架构图中的1箭头和2箭头：

（1）发送方将消息投递给MQ，**上半场**

（2）MQ将消息投递给接收方，**下半场**

**四、****MQ****消息可靠投递核心流程**

MQ既然将消息投递拆成了上下半场，为了保证消息的可靠投递，上下半场都必须尽量保证消息必达。

![640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 1][]

MQ消息投递**上半场**，MQ-client-sender到MQ-server流程见上图1-3：

（1）MQ-client将消息发送给MQ-server（此时业务方调用的是API：SendMsg）

（2）MQ-server将消息落地，落地后即为发送成功

（3）MQ-server将应答发送给MQ-client（此时回调业务方是API：SendCallback）

MQ消息投递**下半场**，MQ-server到MQ-client-receiver流程见上图4-6：

（1）MQ-server将消息发送给MQ-client（此时回调业务方是API：RecvCallback）

（2）MQ-client回复应答给MQ-server（此时业务方主动调用API：SendAck）

（3）MQ-server收到ack，将之前已经落地的消息删除，完成消息的可靠投递

**如果消息丢了怎么办？**

MQ消息投递的上下半场，都可以出现消息丢失，为了降低消息丢失的概率，MQ需要进行超时和重传。

**上半场的超时与重传**

MQ上半场的1或者2或者3如果丢失或者超时，MQ-client-sender内的timer会重发消息，直到期望收到3，如果重传N次后还未收到，则SendCallback回调发送失败，需要注意的是，这个过程中MQ-server可能会收到同一条消息的多次重发。

**下半场的超时与重传**

MQ下半场的4或者5或者6如果丢失或者超时，MQ-server内的timer会重发消息，直到收到5并且成功执行6，这个过程可能会重发很多次消息，一般采用指数退避的策略，先隔x秒重发，2x秒重发，4x秒重发，以此类推，需要注意的是，这个过程中MQ-client-receiver也可能会收到同一条消息的多次重发。

MQ-client与MQ-server如何进行消息去重，如何进行架构幂等性设计，下一次撰文另述，此处暂且认为为了保证消息必达，可能收到重复的消息。

**五、总结**

消息总线是系统之间的解耦利器，但切勿滥用，未来也会撰文细究MQ的使用场景，消息总线为了尽量保证消息必达，架构设计方向为：

（1）**消息收到先落地**

（2）**消息超时、重传、确认保证消息必达**

有问题随时沟通交流，后续讲消息去重、幂等性设计、何时该使用MQ。

==【完】==

相关阅读：

[架构师之路16年精选66篇][16_66]

原文链接:

[https://mp.weixin.qq.com/s?\_\_biz=MjM5ODYxMDA5OQ==&mid=2651959966&idx=1&sn=068a2866dcc49335d613d75c4a5d1b17&chksm=bd2d07428a5a8e54162ad8ea8e1e9302dfaeb664cecc453bd16a5f299820755bd2e1e0e17b60&scene=21\#wechat\_redirect][https_mp.weixin.qq.com_s_biz_MjM5ODYxMDA5OQ_mid_2651959966_idx_1_sn_068a2866dcc49335d613d75c4a5d1b17_chksm_bd2d07428a5a8e54162ad8ea8e1e9302dfaeb664cecc453bd16a5f299820755bd2e1e0e17b60_scene_21_wechat_redirect]

[Link 1]: http://mp.weixin.qq.com/s?__biz=MjM5ODYxMDA5OQ==&mid=2651959957&idx=1&sn=a82bb7e8203b20b2a0cb5fc95b7936a5&chksm=bd2d07498a5a8e5f9f8e7b5aeaa5bd8585a0ee4bf470956e7fd0a2b36d132eb46553265f4eaf&scene=21#wechat_redirect
[Link 2]: http://mp.weixin.qq.com/s?__biz=MjM5ODYxMDA5OQ==&mid=2651959961&idx=1&sn=afec02c8dc6db9445ce40821b5336736&chksm=bd2d07458a5a8e5314560620c240b1c4cf3bbf801fc0ab524bd5e8aa8b8ef036cf755d7eb0f6&scene=21#wechat_redirect
[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1]: /images/20220519/5175fedb1213414e97ba26f863ec4df8.png
[640_wx_fmt_png_tp_webp_wxfrom_5_wx_lazy_1 1]: /images/20220519/5609dd22ec1a46029293e0f7e16d4bf6.png
[16_66]: http://mp.weixin.qq.com/s?__biz=MjM5ODYxMDA5OQ==&mid=2651959886&idx=1&sn=03e45a5014053607eff5e55ed2c660d7&chksm=bd2d07928a5a8e8454d395e176fa9d346682abfe9dfbf3244f1dead83ee4508aa25121f9b811&scene=21#wechat_redirect
[https_mp.weixin.qq.com_s_biz_MjM5ODYxMDA5OQ_mid_2651959966_idx_1_sn_068a2866dcc49335d613d75c4a5d1b17_chksm_bd2d07428a5a8e54162ad8ea8e1e9302dfaeb664cecc453bd16a5f299820755bd2e1e0e17b60_scene_21_wechat_redirect]: https://mp.weixin.qq.com/s?__biz=MjM5ODYxMDA5OQ==&mid=2651959966&idx=1&sn=068a2866dcc49335d613d75c4a5d1b17&chksm=bd2d07428a5a8e54162ad8ea8e1e9302dfaeb664cecc453bd16a5f299820755bd2e1e0e17b60&scene=21#wechat_redirect