成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

為什么Redis內存不宜過大

大數據 Redis
redis這個內存數據庫,它的高性能、穩定性都是不用懷疑的,但我們塞進redis的數據過多,內存過大,那如果出問題,那它可能會帶給我們的就是災難性。

這幾年的線上業務表明,redis這個內存數據庫,它的高性能、穩定性都是不用懷疑的,但我們塞進redis的數據過多,內存過大,那如果出問題,那它可能會帶給我們的就是災難性(我想很多公司都遇到過) 這里列舉一下,我們遇到的一些問題:

1 主庫宕機

先來看一下主庫宕機容災過程:如下圖

在主庫宕機的時候,我們最常見的容災策略為“切主”。具體為從該集群剩余從庫中選出一個從庫并將其升級為主庫,該從庫升級為主庫后再將剩余從庫掛載至其下成為其從庫,最終恢復整個主從集群結構。

以上是一個完整的容災過程,而代價***的過程為從庫的重新掛載,而非主庫的切換。

這是因為redis無法像mysql、mongodb那樣基于同步的點位在主庫發生變化后從新的主庫繼續同步數據。 在redis集群中一旦從庫換主,redis的做法是將更換主庫的從庫清空然后從新主庫完整同步一份數據再進行續傳。

整個從庫重做流程是這樣的:

  1. 主庫bgsave自身數據到磁盤
  2. 主庫發送rdb文件到從庫
  3. 從庫開始加載
  4. 加載完畢開始續傳,同時開始提供服務

很明顯,在這個過程中redis的內存體積越大以上每一個步驟的時間都會被拉長,實際測試的數據如下(我們自認我們的機器性能比較好):

可以看到,當數據達到20G的時候,一個從庫的恢復時間已經被拉長到了將近20分鐘,如果有10個從庫那么如果依次恢復則共需200分鐘,而如果此時該從庫承擔著大量的讀取請求你能夠忍受這么長的恢復時間嗎?

看到這里你肯定會問:為什么不能同時重做所有從庫?這是因為所有從庫如果同時向主庫請求rdb文件那么主庫的網卡則立即跑滿從而進入一個無法正常提供服務的狀態,此時主庫又死了,簡直是雪上加霜。

當然,我們可以批量恢復從庫,例如兩兩一組,那么全部從庫的恢復時間也僅僅從200分鐘降低到了100分鐘,這不是五十步笑百步嗎?

另一個重要問題在于第四點中的標紅位置,續傳可以理解為一個簡化的mongodb的oplog,它是一個體積固定的內存空間,我們稱之為“同步緩沖區”。

redis主庫的寫入操作都會在該區域存放一份然后發送給從庫,而如果在上文中1,2,3步耗時太久那么很可能這個同步緩沖區就被重寫,此時從庫無法找到對應的續傳位置它會怎么辦?答案是重做1,2,3步!

但因為我們無法解決1,2,3步的耗時因此該從庫會永遠的進入惡性循環:不停的向主庫請求完整數據,結果對主庫的網卡造成嚴重影響。

2 擴容問題

很多時候會出現流量的突發性增長,通常在找到原因之前我們的應急做法就是擴容了。

而根據場景一中的表格,一個20G的redis擴容一個從庫需要將近20分鐘,在這個緊急的時刻20分鐘業務能夠容忍嗎?可能還沒擴好就死翹翹了。

3 網絡不好導致從庫重做最終引發雪崩

該場景的***問題是主庫與從庫的同步中斷,而此時很可能從庫仍然在接受寫入請求,那么一旦中斷時間過長同步緩沖區就很可能被復寫。此時從庫上一次的同步位置已丟失,在網絡恢復后雖然主庫沒有發生變化但由于從庫的同步位置丟失了從庫必須進行重做,也就是問題一中的1,2,3,4步。如果此時主庫內存體積過大那么從庫重做速度就會很慢,而發送到從庫的讀請求就會受到嚴重影響,同時由于傳輸的rdb文件的體積過大,主庫的網卡在相當長的一段時間內都會受到嚴重影響。

4 內存越大,觸發持久化的操作阻塞主線程的時間越長

Redis是單線程的內存數據庫,在redis需要執行耗時的操作時,會fork一個新進程來做,比如bgsave,bgrewriteaof。 Fork新進程時,雖然可共享的數據內容不需要復制,但會復制之前進程空間的內存頁表,這個復制是主線程來做的,會阻塞所有的讀寫操作,并且隨著內存使用量越大耗時越長。例如:內存20G的redis,bgsave復制內存頁表耗時約為750ms,redis主線程也會因為它阻塞750ms。

解決辦法

解決辦法當然就是極力減少內存的使用了,一般情況下,我們都是這么做的:

1 設置過期時間

對具有時效性的key設置過期時間,通過redis自身的過期key清理策略來降低過期key對于內存的占用,同時也能夠減少業務的麻煩,不需要定期清理了

2 不存放垃圾到redis中

這簡直就是廢話,但是,有跟我們同病相憐的人么?

3 及時清理無用數據

例如一個redis承載了3個業務的數據,一段時間后有2個業務下線了,那你就把這兩個業務的相關數據清理了唄

4 盡量對數據進行壓縮

例如一些長文本形式的數據,壓縮能夠大幅度降低內存占用

5 關注內存增長并定位大容量key

不管是DBA還是開發人員,你用redis,你就必須關注內存,否則,你其實就是不稱職的,這里可以分析redis實例中哪些key比較大從而幫助業務快速定位異常key(非預期增長的key,往往是問題之源)

6 pika

如果實在不想搞的那么累,那就把業務遷移到新開源的pika上面,這樣就不用太關注內存了,redis內存太大引發的問題,那也都不是問題了。

***祈禱線上5000個redis實例都不要異常~~~

 

[[166660]]

 

責任編輯:Ophira 來源: dba流浪貓
相關推薦

2024-12-23 15:28:01

2023-12-08 08:01:14

Redis存儲內存

2023-03-21 08:02:36

Redis6.0IO多線程

2018-04-25 10:13:30

Redis內存模型

2021-08-10 09:58:59

ThreadLocal內存泄漏

2020-04-14 16:03:31

Linux虛擬內存操作系統

2021-07-30 06:49:40

SSD內存CPU

2022-05-17 22:20:41

哨兵Redis機制

2023-06-06 09:03:06

InnodbMySQL

2023-08-29 07:46:08

Redis數據ReHash

2020-08-14 09:11:29

RedisQPS數據庫

2020-09-08 16:00:58

數據庫RedisMemcached

2019-12-18 09:42:19

技術 Linux網絡

2018-04-24 14:58:06

內存降價漲價

2021-03-10 10:40:04

Redis命令Linux

2022-10-18 08:38:16

內存泄漏線程

2011-05-24 16:39:09

Cfree()

2019-07-29 07:50:42

Linux內存Windows

2020-02-12 09:34:37

軟件微軟硬件

2025-04-01 05:22:00

JavaThread變量
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 日韩一区二区三区四区五区六区 | 亚洲成网| 国产精品国产 | 国产精品成人国产乱一区 | 亚洲一区二区三区国产 | 三级在线免费观看 | 伊人啪啪网 | 国产精品一区在线观看 | 久久91精品国产一区二区三区 | 日本特黄a级高清免费大片 特黄色一级毛片 | 久久高清免费视频 | 欧美成人a | 欧美精品久久久 | 久久人| 玖玖视频网 | 国产资源在线视频 | 欧美一级在线 | 亚洲国产情侣自拍 | 九九热九九 | 国产一区二区日韩 | 欧美成人一区二区 | 2020国产在线 | 拍真实国产伦偷精品 | 亚洲一区二区在线视频 | 亚洲激情在线 | 欧美成人高清视频 | 日韩欧美一区二区三区 | 日本成人在线免费视频 | 日日干夜夜草 | www.夜夜骑.com| 天天综合久久 | 一级毛片免费完整视频 | 久久久久久成人 | av 一区二区三区 | 91久久久www播放日本观看 | 在线视频91| www.久久| 人人cao| 国产一级在线观看 | 欧美精品一区二区三区在线 | 日韩久久精品电影 |