成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

RocketMQ-沒有消費者的消息堆積場景分析

開發(fā) 架構(gòu)
為了便于表達和理解,我們只關(guān)注與該問題有關(guān)的部分邏輯。因為消息堆積量不斷在增加,所以判斷該Group ID已經(jīng)在Broker上有了訂閱關(guān)系,很可能是使用該Group ID的Consumer實例下線后沒有取消訂閱關(guān)系導(dǎo)致的。

問題描述

訂閱關(guān)系

控制臺上沒有訂閱關(guān)系信息:Topic、過濾規(guī)則均為空。

消費者狀態(tài)

沒有消費者實例信息,消息在不斷堆積。

分析過程

初步判斷

為了便于表達和理解,我們只關(guān)注與該問題有關(guān)的部分邏輯。
因為消息堆積量不斷在增加,所以判斷該Group ID已經(jīng)在Broker上有了訂閱關(guān)系,很可能是使用該Group ID的Consumer實例下線后沒有取消訂閱關(guān)系導(dǎo)致的,如圖:

初步判斷-Consumer未取消訂閱關(guān)系

正常運行

在正常情況下,控制臺上可以看到Group ID的【訂閱關(guān)系】及【消費者狀態(tài)】,如圖:

正常情況-訂閱關(guān)系

正常情況-消費者狀態(tài)

異常之后

異常之后就變成了【問題描述】中的樣子,此時我們不清楚:

  • 該GID訂閱了哪個topic
  • 該GID被哪個應(yīng)用消費者使用后出現(xiàn)的異常
  • 該GID對應(yīng)的消息生產(chǎn)者是哪個

在以上事情沒有弄清楚之前,也不敢對該GID做取消訂閱、刪除之類的操作。

確定topic

消息堆積是通過消費者的offset信息統(tǒng)計的,該信息存儲在Broker上的store/config/consumerOffset.json中,consumerOffset.json格式如圖:

Broker - consumerOffset.json

我們在consumerOffset.json文件中找到了GID對應(yīng)的topic,此處有個細節(jié)(后面代碼處有解釋):

  • 該GID在groupTopicMap中沒有重試隊列Topic
  • 該GID在offsetTable中沒有重試隊列Topic上的offset

確定Producer

通過Topic查詢Message

查詢消息

通過MessageID確定ECS IP

通過上面的查詢無法直接定位到ECS,我們可以通過Message ID計算出ECS IP,方法如下:

String ip = MessageClientIDSetter.getIPStrFromID(Message ID)

如果懶得寫代碼,也可以使用arthas來查詢:

arthas查詢消息

此時整個鏈路逐漸清晰起來了,還缺少最關(guān)鍵的Consumer信息。

確定Consumer

代碼Review

查詢了近期發(fā)版的所有代碼,沒有找到與該GID相關(guān)的信息。

Broker端找線索

我們試圖通過Broker端的日志來確認兩件事情:

  • 該GID的Consumer在什么時候從哪些IP建立了與Broker的交互
  • 該GID的Consumer在什么時候從哪些IP斷開了與Broker的交互

Broker heartBeat

Broker - Consumer心跳處理邏輯

通過以上代碼打印的日志,我們可以過濾出該GID與Broker建立交互時候的相關(guān)信息。

Broker unregisterClient

在Consumer實例shutdown的時候,會向Broker發(fā)送unregisterClient請求,會調(diào)用ConsumerManager中相應(yīng)的unregisterConsumer方法:

Broker - Consumer取消注冊

通過以上代碼打印的日志,我們可以過濾出該GID與Broker斷開交互時候的相關(guān)信息。

理想是美好的,現(xiàn)實是殘酷的Broker端最多保留了不到2天的日志,所以這條路也走不通了。?

柳暗花明

同時我們也在想:除了程序,還有其他途徑變更這種訂閱關(guān)系嗎?答案是有的。

命令行

命令方式-重置消費位點

控制臺

控制臺 - 重置消費位點

到這里估計您已經(jīng)知道引起這次消息堆積的原因了。

經(jīng)驗總結(jié)

  • 完善監(jiān)控告警、提高應(yīng)急響應(yīng)能力
  • 最小權(quán)限原則
  • RocketMQ控制臺是否應(yīng)該增加操作記錄的功能?
責(zé)任編輯:武曉燕 來源: 今日頭條
相關(guān)推薦

2021-07-12 10:25:03

RocketMQ數(shù)據(jù)結(jié)構(gòu)kafka

2022-07-07 09:00:49

RocketMQ消費者消息消費

2024-04-22 00:00:00

RocketMQ優(yōu)化位點

2024-01-24 09:00:31

SSD訂閱關(guān)系內(nèi)存

2023-12-21 08:01:41

RocketMQ消息堆積

2022-03-14 11:05:01

RocketMQRedis緩存

2023-03-28 07:08:09

RocketMQ消費者堆棧

2024-03-14 11:58:43

2022-05-09 11:15:05

RocketMQPULL 模式PUSH 模式

2021-11-23 09:00:59

消息堆積擴容RocketMQ

2024-06-06 11:57:44

2025-06-12 02:15:00

Kafka消費者高并發(fā)

2011-08-15 10:50:35

云手機iPhone

2023-06-01 08:08:38

kafka消費者分區(qū)策略

2021-04-20 08:32:51

消息MQ隊列

2015-08-26 09:39:30

java消費者

2014-12-10 21:50:44

AdMaster

2011-08-05 16:21:24

2011-07-22 16:25:38

CA TechnoloIT消費化

2009-08-13 13:14:31

C#生產(chǎn)者和消費者
點贊
收藏

51CTO技術(shù)棧公眾號

主站蜘蛛池模板: 欧美天堂在线观看 | av福利网 | 在线区 | 亚洲三级在线 | 日本三级日产三级国产三级 | 成人二区 | 午夜精品久久久久99蜜 | 精品欧美一区免费观看α√ | 男女精品久久 | 国产黄色大片 | 91久久精品一区二区二区 | 中文在线视频观看 | 高清一区二区 | 国产一二三视频在线观看 | 一区二区三区国产精品 | 91精品国产综合久久香蕉麻豆 | 日本午夜一区二区三区 | 国产精品美女久久久久aⅴ国产馆 | av手机免费在线观看 | 久草www| 亚洲精品一区久久久久久 | 91玖玖| 嫩草视频在线 | 国产成人短视频在线观看 | 免费能直接在线观看黄的视频 | 中文字幕国产精品 | 亚洲最大av | 亚洲 欧美 日韩在线 | 久久精品国产99国产精品亚洲 | 久久91精品国产一区二区三区 | 亚洲精品高清视频 | 久久精品亚洲精品 | 午夜国产一级 | 日韩午夜电影 | 亚洲黄色高清视频 | 色欧美片视频在线观看 | 成人精品视频99在线观看免费 | 国产精品三级久久久久久电影 | 久久久www| 亚洲视频中文字幕 | 久久国产精品免费一区二区三区 |