成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

為什么刪除數據后,Redis 內存占用依然很高?

數據庫 Redis 系統
本文以師弟的一個疑問開頭介紹了刪除數據導致內存占用還是很高的原因是存在內存碎片,導致內存碎片的兩個原因。

前言

上周剛來了個應屆小師弟,組長說讓我帶著,周二問了我這樣一個問題:師兄啊,我用top命令看了下服務器的內存占用情況,發現Redis內存占用嚴重,于是我就刪除了大部分不用的keys,為什么內存占用還是很嚴重,并沒有釋放呢?

嗯?為什么呢?今天就帶著這個問題來介紹一下如何正確釋放Redis的內存。

什么是內存碎片?

內存碎片這個概念應該不是第一聽說了,熟悉JVM或者操作系統的應該都熟悉,以火車賣票為例,一個車廂128個車位,由于高峰期,只剩余兩個位置了,但是此時三個人想要坐在一起,能夠吹吹牛批,喝喝酒的,那么這三個人肯定不會買這節車廂的兩個位置了,此時這兩個位置可以稱之為座位碎片 。

操作系統中對于內存分配也是一樣的,比如應用需要申請一塊連續N個字節的空間,雖然剩余內存總量大于N個字節,但是沒有一塊連續的內存空間是N個字節,那么剩余的空間就是內存碎片。如下圖:

上圖中的空閑3個字節和空閑2個字節都是內存碎片。

那么什么原因會造成內存碎片呢?這個其實大致分為兩個原因,一個是操作系統的內存分配策略,一個是Redis自身原因,下面就這兩個原因詳細分析。

內存分配器的分配策略

內存分配器的分配策略一般是按照固定大小來分配內存,而不是按照應用程序申請的內存空間按需分配。比如8字節、16字節、32字節......

Redis提供了多種的內存分配策略,比如libc、jemalloc、tcmalloc,默認使用jemalloc。

jemalloc這種分配策略,是按照固定的空間分配,比如8字節、32字節....2KB、4KB等。當應用程序申請的內存接近某個固定值的時候,jemalloc則會分配固定的大小。比如申請了6字節,則會分配8字節的空間。

這種分配的方式的好處很明顯,則會減少內存分配的次數,比如申請了20字節的內存,實際分配的是32字節的內存空間,當應用再寫入10字節的數據時,則不會再次分配,剩余的12字節足夠用了。這樣就避免了一次的內存分配。如下圖:

但是壞處也很明顯,申請的和分配的空間不一樣,則剩余的空間很可能形成內存碎片,一旦內存碎片多了,內存利用率也會隨之降低,這是很可怕的。

Redis自身的原因

Redis作為鍵值對存儲的數據庫,本身鍵值對的大小就是不確定的,正如上面的例子中,Redis申請了20字節的空間,但實際分配卻是32字節,那么剩余的12字節則會被閑置成為內存碎片。如下圖:

上圖中剩余12個字節空間則是閑置的,很有可能成為內存碎片,因此鍵值對大小不同則會造成一定的內存碎片,這是第一個原因。

第二個原因其實理解起來很簡單,鍵值對的修改或者刪除肯定會造成空間的擴容或者釋放;

一方面,如果修改后的鍵值對變大或者變小了,勢必會將占用的空間擴大或者釋放不用的空間,如下圖:

上圖中鍵值對修改后變小了,從原來的10個字節變成了7個字節,從而釋放了3個字節,此時剩余了5個字節的空閑空間。

另一方面,如果鍵值對刪除了,則會釋放掉占用的空間,形成空閑空間。

如何判斷存在內存碎片?

這個對于運維人員來說很重要,一旦出現Redis運行緩慢或者阻塞了,一定需要先判斷內存的占用情況,而不是說胡亂的重啟Redis。

Redis自身提供了INFO命令,可以用來查詢內存的使用情況,命令如下:

INFO memory
# Memory
used_memory:1073741736
used_memory_human:1024.00M
used_memory_rss:1997159792
used_memory_rss_human:1.86G
…
mem_fragmentation_ratio:1.86

上面的各種屬性含義如下:

mem_fragmentation_ratio這個指標很清楚的展示了當前內存的碎片率,比如Redis申請了1000字節,但是操作系統實際分配的內存1800個字節,則mem_fragmentation_ratio=1800/1000=1.8。

從上文也知道了,由于內存分配器的局限性,實際分配的內存絕大部分都是大于實際申請的內存,則如何通過mem_fragmentation_ratio這個值來衡量呢?這個值的范圍在多少是正常的呢?

作者這里參照了許多開發人員的建議,列出了以下經驗閥值:

  • >1&&<1.5:在這個范圍內是合理的,畢竟大部分情況下操作系統分配的內存總是總是大于實際申請的空間。
  • >1.5:這表明內存碎片率已經超過50%,此時需要采取一些措施來降低碎片率了。
  • <1:what?表明實際分配的內存小于申請的內存了,很顯然內存不足了,這樣會導致部分數據寫入到Swap中,之后Redis訪問Swap中的數據時,延遲會變大,性能會降低。

如何清理內存碎片?

既然存在內存碎片,那么的一定有方法清除內存碎片,最簡單的方法則是重啟Redis

但是這也存在一些風險,如下;

  • 如果Redis未持久化,則數據會丟失(忽略從后端恢復)
  • 即使持久化了,但是恢復數據時長不定,這個要根據AOF和RDB文件大小決定,在恢復階段則無法提供服務。

好在Redis 4.0-RC3版本之后,Redis自身提供了一種清除內存碎片的方法。

清除的原理很簡單,通過復制拷貝將不連續的存放的數據搬到一起形成一塊連續的內存空間,如下圖:

如上圖,清除之前A和B不是連續的,中間隔著兩個字節空閑1,但是在執行清除內存碎片操作之后,Redis拷貝了B到空閑1,釋放掉之前B的空間,此時空閑1和空閑2則變成了連續的空閑空間了。

那么問題來了,這種方式固然好,但是對于單線程的Redis來說,通過這種拷貝復制的方式顯然是一種耗時的操作,性能大大降低,那么有什么好的方法呢?

Redis提供了參數配置,可以控制清除內存碎片的時機,命令如下:

config set activedefrag yes

以上命令啟動自動清理,但是具體什么時候清理,還要受以下兩個參數的影響:

  • active-defrag-ignore-bytes 400mb:如果內存碎片達到了400mb,開始清理(自定義)
  • active-defrag-threshold-lower 20:內存碎片空間占操作系統分配給 Redis 的總空間比例達到20%時,開始清理(自定義)

以上兩個參數只有全部滿足才會開始清理。

除了以上觸發清理內存碎片的參數,Redis還提供了兩個參數來保證在清理過程中不影響處理正常的請求,如下:

  • active-defrag-cycle-min 25:表示自動清理過程所用 CPU 時間的比例不低于 25%,保證清理能正常開展
  • active-defrag-cycle-max 75:表示自動清理過程所用 CPU 時間的比例不高于 75%,一旦超過,就停止清理,從而避免在清理時,大量的內存拷貝阻塞 Redis,導致響應延遲升高。

以上兩個參數控制了清理過程中的CPU時間占比,保證了正常處理請求不受影響。

總結

本文以師弟的一個疑問開頭介紹了刪除數據導致內存占用還是很高的原因是存在內存碎片,導致內存碎片大致分為兩個原因,如下:

  • 內存分配策略局限性,一般都會分配固定的空間大小,導致實際分配的內存空間大于實際申請的,從而多出了許多不連續的空閑內存塊。
  • 鍵值對的修改、刪除導致了內存的擴容或者釋放,導致多余的不連續的空閑內存塊。
  • 介紹了如何通過INFO memory命令查看內存的碎片率,通過mem_fragmentation_ratio的經驗閥值來判斷異常。
  • 介紹了Redis清理內存碎片的方式以自動清理的兩個觸發條件、保證正常處理請求的兩個控制CPU時間的參數。
責任編輯:趙寧寧 來源: 碼猿技術專欄
相關推薦

2023-12-08 08:01:14

Redis存儲內存

2020-11-17 09:01:09

MySQLDelete數據

2022-09-05 08:39:55

Redis存儲數據

2016-05-26 12:11:00

Redis內存開源

2023-09-21 10:50:23

MySQL數據庫

2014-04-14 13:05:41

RedisDBA服務器

2021-03-10 10:40:04

Redis命令Linux

2022-01-02 08:38:22

Redis數據單線程

2020-11-02 07:05:54

虛擬內存Go

2016-04-01 11:12:26

企業IT數據孤島商業智能

2011-05-18 15:08:03

mysql刪除修改數據

2011-02-21 10:35:00

查詢刪除數據

2018-03-30 11:00:05

混合云云計算公共云

2022-04-01 15:23:06

人工智能AI換臉數據

2009-09-04 17:56:22

C#刪除數據

2019-12-20 14:56:50

批量刪除數據數據刪除

2013-03-22 09:29:47

數據安全云安全

2021-03-24 16:03:35

比特幣貨幣金融

2019-09-17 13:30:25

互聯網面試技術

2023-03-21 08:02:36

Redis6.0IO多線程
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 午夜小电影 | 国产三级电影网站 | 国产成人综合亚洲欧美94在线 | 久久精品视频亚洲 | 国内精品视频一区二区三区 | 91一区二区在线观看 | 精品一区二区三区四区视频 | 在线观看免费毛片 | 看片地址 | 亚洲激情在线视频 | 欧美日韩精品专区 | 国产欧美在线 | 欧美视频中文字幕 | 日韩视频在线播放 | 久久精品成人 | 999在线精品| 欧美一级欧美三级在线观看 | 黄视频欧美 | 亚洲精品免费在线观看 | 欧美性久久久 | 久久久夜| 天堂在线免费视频 | 99精品免费久久久久久久久日本 | 婷婷免费在线 | 国产精品毛片一区二区在线看 | 日本精品视频一区二区三区四区 | 精品国产视频在线观看 | 亚洲精品日韩在线观看 | 99成人免费视频 | 欧美高清视频 | 黄色成人av | 成人在线免费观看视频 | 中文字幕日韩欧美一区二区三区 | 亚洲精品1区 | 精品影院 | 欧美一区在线视频 | 久久久久久久久久久久91 | 国产精品视频免费 | 激情久久久久 | 久草免费在线视频 | 久久一区精品 |