RocketMQ 5.0 時代,6 張圖帶你理解 Proxy!
大家好,我是君哥。今天來聊一聊 RocketMQ 5.0 中的 Proxy。
RocketMQ 5.0 為了更好地擁抱云原生,引入了無狀態的 Proxy 模塊,新的架構圖如下:
引入 Proxy 模塊后,Proxy 承擔了協議適配、權限管理、消息管理等計算功能,Broker 則更加專注于存儲。這樣存儲和計算相分離,在云原生環境下可以更好地進行資源調度。
1、Proxy 介紹
RocketMQ 5.0 把客戶端的部分功能下沉到 Proxy,Proxy 承接了之前 客戶端的計算能力,客戶端變得更加輕量級。
(1)NameServer
從上面的架構圖可以看到,Producer/Consumer 不再需要注冊到 NameServer,這一部分功能下移到了 Proxy,由 Proxy 跟 NameServer 進行交互,比如查詢 TopicRouteData。代碼如下:
Proxy 適配多種協議,比如 HTTP、gRPC、remoting 等,不同協議的客戶端跟 Proxy 建立連接后,Proxy 統一使用 remoting 協議跟 Broker、NameServer 進行通信。
(2)流量控制
客戶端所有的請求都要經過 Proxy,Proxy 將流量分發到 Broker。這樣在 Proxy 可以進行流量控制和流量治理。
(3)POP 模式
我們知道,PUSH 消費模式下,Broker 中的每個 MessageQueue 只能被同一個 Consumer Group 中的一個消費者消費,如下圖:
PUSH 模式存在下面幾個問題:
- 消費者最大數量只能等于 MessageQueue 的數量,消費者數量等于 MessageQueue 的數量后,再增加消費者,也不能提高消費能力了;
- 客戶端的處理邏輯比較多,比如負載均衡、offset 管理、消費失敗后的處理(比如失敗消息發送回 Broker)。
- 如果一個消費者機器故障,比如上圖中 Consumer0 這個消費者 hang 住了,Topic1 下的兩個 MessageQueue 就不能被消費了,導致消息積壓,最終只能是重啟或下線 Consumer0,Consumer 做重平衡。
- 客戶端很重,如果要用其他語言編寫,工作量很大。
基于 PUSH 模式的不足,RocketMQ 5.0 引入了 POP 消費模式,如下圖:
跟 PUSH 模式消費者相比,POP 模式客戶端有如下優勢:
- POP 模式消費者可以拉取所有的 MessageQueue,這樣即使某個消費者 hang 住,也不會影響某一個 MessageQueue 的消費;
- POP 模式消費者不再會重平衡,因為每個消費者默認會去所有的 MessageQueue 拉取消息。
- 因為消費者可以拉取所有的 MessageQueue 消息,所以,增加消費者數量,是可以提高消費能力的。
- 消費者減少了很多邏輯,變得戶端輕量化了,可以方便多語言實現。
- 消費者不再維護 offset(offset 由 Broker 維護),變成了無狀態組件。
注意:消費者請求 Proxy 時,POP 模式和 PUSH 模式都可以使用,而 Proxy 請求 Broker 時,使用的是 POP 模式,這樣可以避免上面提到的一系列問題。如下圖:
(4)gRPC
Proxy 基于 gRPC 的標準性、兼容性和多語言傳輸層代碼生成能力,可以輕松構建多語言的輕量級客戶端。
2、部署方式
根據不同的場景,Proxy 有兩種部署方式,LOCAL 模式和 CLUSTER 模式。
(1)LOCAL 模式
RocketMQ 4.x 版本 Client 和 Broker 直接通信,RocketMQ 5.0 引入 Proxy 后,Client 和 Broker 之間的通信多了一道網絡,也增加了一次序列化和反序列化的過程,這勢必增加了延遲,對于延遲敏感的場景可能不能接受。RocketMQ 5.0 引入了 LOCAL 模式部署 Proxy,如下圖:
Proxy 仍然可以適配多種語言的客戶端,而且 Proxy 和 Broker 部署在一起,通信方式使用進程內通信,這樣可以減少因為多一道網絡帶來的延遲,提高吞吐量。同時運維也變得簡單,運維成本降低。
LOCAL 模式有一個缺點,因為 Proxy 部署在 Broker 端,受網絡環境的限制,對于多網絡接入的情況并不友好,成本高。
(2)CLUSTER 模式
CLUSTER 模式主要用于對延遲不敏感的場景,Proxy 獨立部署,在 Proxy 層適配多網絡的接入,同時 Proxy 和 Broker 可以獨立擴容,互不影響。如下圖:
(3)總結
LOCAL 模式更適合對延遲敏感、期望運維成本低、網絡接入類型單一的場景。
CLUSTER 模式更適合對延遲要求低、網絡接入類型多樣的場景。
3、總結
RocketMQ 5.0 跟之前的版本相比,改動很大,更加地擁抱云原生。學習 RocketMQ 5.0,首先要理解 Proxy,希望本文能對您理解 Proxy 有所幫助。