前言

緩存在我們日常工作中，經常會使用，但如果用不好坑也挺多的。

這篇文章總結了我工作中使用緩存遇到過的7個坑，還是非常有參考價值得，希望對你會有所幫助。

圖片

1 緩存穿透

大部分情況下，加緩存的目的是：為了減輕數據庫的壓力，提升系統的性能。

一般情況下，如果有用戶請求過來，先查緩存，如果緩存中存在數據，則直接返回。

如果緩存中不存在，則再查數據庫，如果數據庫中存在，則將數據放入緩存，然后返回。如果數據庫中也不存在，則直接返回失敗。

流程圖如下：

圖片

但如果出現以下這兩種特殊情況，比如：

• 用戶請求的id在緩存中不存在。
• 惡意用戶偽造不存在的id發起請求。

這樣的用戶請求導致的結果是：每次從緩存中都查不到數據，而需要查詢數據庫，同時數據庫中也沒有查到該數據，也沒法放入緩存。

也就是說，每次這個用戶請求過來的時候，都要查詢一次數據庫。

圖片

圖中標紅的箭頭表示每次走的路線。

很顯然，緩存根本沒起作用，好像被穿透了一樣，每次都會去訪問數據庫。

這就是我們所說的：緩存穿透問題。

如果此時穿透了緩存，而直接數據庫的請求數量非常多，數據庫可能因為扛不住壓力而掛掉。嗚嗚嗚。

那么問題來了，如何解決這個問題呢？

1.1 校驗參數

我們可以對用戶id做檢驗。

比如你的合法id是15xxxxxx，以15開頭的。如果用戶傳入了16開頭的id，比如：16232323，則參數校驗失敗，直接把相關請求攔截掉。這樣可以過濾掉一部分惡意偽造的用戶id。

1.2 使用布隆過濾器

如果數據比較少，我們可以把數據庫中的數據，全部放到內存的一個map中。

這樣能夠非常快速的識別，數據在緩存中是否存在。如果存在，則讓其訪問緩存。如果不存在，則直接拒絕該請求。

但如果數據量太多了，有數千萬或者上億的數據，全都放到內存中，很顯然會占用太多的內存空間。

那么，有沒有辦法減少內存空間呢？

答：這就需要使用布隆過濾器了。

布隆過濾器底層使用bit數組存儲數據，該數組中的元素默認值是0。

布隆過濾器第一次初始化的時候，會把數據庫中所有已存在的key，經過一些列的hash算法（比如：三次hash算法）計算，每個key都會計算出多個位置，然后把這些位置上的元素值設置成1。

圖片

之后，有用戶key請求過來的時候，再用相同的hash算法計算位置。

• 如果多個位置中的元素值都是1，則說明該key在數據庫中已存在。這時允許繼續往后面操作。
• 如果有1個以上的位置上的元素值是0，則說明該key在數據庫中不存在。這時可以拒絕該請求，而直接返回。

1.3 緩存空值

上面使用布隆過濾器，雖說可以過濾掉很多不存在的用戶id請求。但它除了增加系統的復雜度之外，會帶來兩個問題：

• 布隆過濾器存在誤殺的情況，可能會把少部分正常用戶的請求也過濾了。
• 如果用戶信息有變化，需要實時同步到布隆過濾器，不然會有問題。

所以，通常情況下，我們很少用布隆過濾器解決緩存穿透問題。其實，還有另外一種更簡單的方案，即：緩存空值。

當某個用戶id在緩存中查不到，在數據庫中也查不到時，也需要將該用戶id緩存起來，只不過值是空的。

這樣后面的請求，再拿相同的用戶id發起請求時，就能從緩存中獲取空數據，直接返回了，而無需再去查一次數據庫。

優化之后的流程圖如下：

圖片

關鍵點是不管從數據庫有沒有查到數據，都將結果放入緩存中，只是如果沒有查到數據，緩存中的值是空的罷了。

2 緩存擊穿

有時候，我們在訪問熱點數據時。比如：我們在某個商城購買某個熱門商品。

為了保證訪問速度，通常情況下，商城系統會把商品信息放到緩存中。但如果某個時刻，該商品到了過期時間失效了。

此時，如果有大量的用戶請求同一個商品，但該商品在緩存中失效了，一下子這些用戶請求都直接懟到數據庫，可能會造成瞬間數據庫壓力過大，而直接掛掉。

流程圖如下：

圖片

那么，如何解決這個問題呢？

2.1 加鎖

數據庫壓力過大的根源是，因為同一時刻太多的請求訪問了數據庫。

如果我們能夠限制，同一時刻只有一個請求才能訪問某個productId的數據庫商品信息，不就能解決問題了？

答：沒錯，我們可以用加鎖的方式，實現上面的功能。

偽代碼如下：

try {
  String result = jedis.set(productId, requestId, "NX", "PX", expireTime);
  if ("OK".equals(result)) {
    return queryProductFromDbById(productId);
  }
} finally{
    unlock(productId,requestId);
}  
return null;

在訪問數據庫時加鎖，防止多個相同productId的請求同時訪問數據庫。

然后，還需要一段代碼，把從數據庫中查詢到的結果，又重新放入緩存中。辦法挺多的，在這里我就不展開了。

2.2 自動續期

出現緩存擊穿問題是由于key過期了導致的。那么，我們換一種思路，在key快要過期之前，就自動給它續期，不就OK了？

答：沒錯，我們可以用job給指定key自動續期。

比如說，我們有個分類功能，設置的緩存過期時間是30分鐘。但有個job每隔20分鐘執行一次，自動更新緩存，重新設置過期時間為30分鐘。

圖片

這樣就能保證，分類緩存不會失效。

2.3 永久有效

此外，對于很多熱門key，其實是可以不用設置過期時間，讓其永久有效的。

比如參與秒殺活動的熱門商品，由于這類商品id并不多，在緩存中我們可以不設置過期時間。

在秒殺活動開始前，我們先用一個程序提前從數據庫中查詢出商品的數據，然后同步到緩存中，提前做預熱。

等秒殺活動結束一段時間之后，我們再手動刪除這些無用的緩存即可。

3 緩存雪崩

而緩存雪崩是緩存擊穿的升級版，緩存擊穿說的是某一個熱門key失效了，而緩存雪崩說的是有多個熱門key同時失效。

看起來，如果發生緩存雪崩，問題更嚴重。

緩存雪崩目前有兩種：

• 有大量的熱門緩存，同時失效。會導致大量的請求，訪問數據庫。而數據庫很有可能因為扛不住壓力，而直接掛掉。
• 緩存服務器down機了，可能是機器硬件問題，或者機房網絡問題。總之，造成了整個緩存的不可用。

歸根結底都是有大量的請求，透過緩存，而直接訪問數據庫了。

圖片

那么，要如何解決這個問題呢？

3.1 過期時間加隨機數

為了解決緩存雪崩問題，我們首先要盡量避免緩存同時失效的情況發生。

這就要求我們不要設置相同的過期時間。

可以在設置的過期時間基礎上，再加個1~60秒的隨機數。

實際過期時間 = 過期時間 + 1~60秒的隨機數

這樣即使在高并發的情況下，多個請求同時設置過期時間，由于有隨機數的存在，也不會出現太多相同的過期key。

3.2 保證高可用

針對緩存服務器down機的情況，在前期做系統設計時，可以做一些高可用架構。

比如：如果使用了redis，可以使用哨兵模式，或者集群模式，避免出現單節點故障導致整個redis服務不可用的情況。

使用哨兵模式之后，當某個master服務下線時，自動將該master下的某個slave服務升級為master服務，替代已下線的master服務繼續處理請求。

3.3 服務降級

如果做了高可用架構，redis服務還是掛了，該怎么辦呢？

這時候，就需要做服務降級了。

我們需要配置一些默認的兜底數據。

程序中有個全局開關，比如有10個請求在最近一分鐘內，從redis中獲取數據失敗，則全局開關打開。后面的新請求，就直接從配置中心中獲取默認的數據。

當然，還需要有個job，每隔一定時間去從redis中獲取數據，如果在最近一分鐘內可以獲取到兩次數據（這個參數可以自己定），則把全局開關關閉。后面來的請求，又可以正常從redis中獲取數據了。

需要特別說一句，該方案并非所有的場景都適用，需要根據實際業務場景決定。

4 數據不一致

數據庫和緩存（比如：redis）雙寫數據一致性問題，是一個跟開發語言無關的公共問題。尤其在高并發的場景下，這個問題變得更加嚴重。

那么，我們該如何更新緩存呢？

目前有以下4種方案：

• 先寫緩存，再寫數據庫
• 先寫數據庫，再寫緩存
• 先刪緩存，再寫數據庫
• 先寫數據庫，再刪緩存

4.1 先寫緩存，再寫數據庫

對于更新緩存的方案，很多人第一個想到的可能是在寫操作中直接更新緩存（寫緩存），更直接明了。

那么，問題來了：在寫操作中，到底是先寫緩存，還是先寫數據庫呢？

我們在這里先聊聊先寫緩存，再寫數據庫的情況，因為它的問題最嚴重。

某一個用戶的每一次寫操作，如果剛寫完緩存，突然網絡出現了異常，導致寫數據庫失敗了。

圖片

其結果是緩存更新成了最新數據，但數據庫沒有，這樣緩存中的數據不就變成臟數據了？如果此時該用戶的查詢請求，正好讀取到該數據，就會出現問題，因為該數據在數據庫中根本不存在，這個問題非常嚴重。

我們都知道，緩存的主要目的是把數據庫的數據臨時保存在內存，便于后續的查詢，提升查詢速度。

但如果某條數據，在數據庫中都不存在，你緩存這種“假數據”又有啥意義呢？

因此，先寫緩存，再寫數據庫的方案是不可取的，在實際工作中用得不多。

4.2 先寫數據庫，再寫緩存

既然上面的方案行不通，接下來，聊聊先寫數據庫，再寫緩存的方案，該方案在低并發編程中有人在用（我猜的）。

用戶的寫操作，先寫數據庫，再寫緩存，可以避免之前“假數據”的問題。但它卻帶來了新的問題。

什么問題呢？

4.2.1 寫緩存失敗了

如果把寫數據庫和寫緩存操作，放在同一個事務當中，當寫緩存失敗了，我們可以把寫入數據庫的數據進行回滾。

圖片

如果是并發量比較小，對接口性能要求不太高的系統，可以這么玩。

但如果在高并發的業務場景中，寫數據庫和寫緩存，都屬于遠程操作。為了防止出現大事務，造成的死鎖問題，通常建議寫數據庫和寫緩存不要放在同一個事務中。

也就是說在該方案中，如果寫數據庫成功了，但寫緩存失敗了，數據庫中已寫入的數據不會回滾。

這就會出現：數據庫是新數據，而緩存是舊數據，兩邊數據不一致的情況。

4.2.2 高并發下的問題

假設在高并發的場景中，針對同一個用戶的同一條數據，有兩個寫數據請求：a和b，它們同時請求到業務系統。

在這個過程當中，可能會出現請求b在緩存中的新數據，被請求a的舊數據覆蓋了。

也就是說：在高并發場景中，如果多個線程同時執行先寫數據庫，再寫緩存的操作，可能會出現數據庫是新值，而緩存中是舊值，兩邊數據不一致的情況。

4.2.3 浪費系統資源

該方案還有一個比較大的問題就是：每個寫操作，寫完數據庫，會馬上寫緩存，比較浪費系統資源。

為什么這么說呢？

你可以試想一下，如果寫的緩存，并不是簡單的數據內容，而是要經過非常復雜的計算得出的最終結果。這樣每寫一次緩存，都需要經過一次非常復雜的計算，不是非常浪費系統資源嗎？

尤其是cpu和內存資源。

還有些業務場景比較特殊：寫多讀少。

如果在這類業務場景中，每個用的寫操作，都需要寫一次緩存，有點得不償失。

由此可見，在高并發的場景中，先寫數據庫，再寫緩存，這套方案問題挺多的，也不太建議使用。

4.3 先刪緩存，再寫數據庫

說白了，在用戶的寫操作中，先執行刪除緩存操作，再去寫數據庫。這套方案，可以是可以，但也會有一樣問題。

4.3.1 高并發下的問題

假設在高并發的場景中，同一個用戶的同一條數據，有一個讀數據請求c，還有另一個寫數據請求d（一個更新操作），同時請求到業務系統。

在這個過程當中，有可能會出現請求d的新值，并沒有被請求c寫入緩存，同樣會導致緩存和數據庫的數據不一致的情況。

4.4 先寫數據庫，再刪緩存

在高并發的場景中，有一個讀數據請求f，有一個寫數據請求e。

在高并發的場景中，有一個讀數據請求，有一個寫數據請求，更新過程如下：

請求e先寫數據庫，由于網絡原因卡頓了一下，沒有來得及刪除緩存。請求f查詢緩存，發現緩存中有數據，直接返回該數據。請求e刪除緩存。在這個過程中，只有請求f讀了一次舊數據，后來舊數據被請求e及時刪除了，看起來問題不大。

但如果是讀數據請求先過來呢？

• 請求f查詢緩存，發現緩存中有數據，直接返回該數據。
• 請求e先寫數據庫。
• 請求e刪除緩存。

這種情況看起來也沒問題呀？

答：對的。

但就怕出現下面這種情況，即緩存自己失效了。如下圖所示：

圖片

• 緩存過期時間到了，自動失效。
• 請求f查詢緩存，發緩存中沒有數據，查詢數據庫的舊值，但由于網絡原因卡頓了，沒有來得及更新緩存。
• 請求e先寫數據庫，接著刪除了緩存。
• 請求f更新舊值到緩存中。

這時，緩存和數據庫的數據同樣出現不一致的情況了。

但這種情況還是比較少的，需要同時滿足以下條件才可以：

• 緩存剛好自動失效。
• 請求f從數據庫查出舊值，更新緩存的耗時，比請求e寫數據庫，并且刪除緩存的還長。

我們都知道查詢數據庫的速度，一般比寫數據庫要快，更何況寫完數據庫，還要刪除緩存。所以絕大多數情況下，寫數據請求比讀數據情況耗時更長。

由此可見，系統同時滿足上述兩個條件的概率非常小。

如果大家想更詳細的了解數據和緩存雙寫一致性問題，可以看看我之前寫的一篇文章《如何保證數據庫和緩存雙寫一致性？》，里面有非常詳細的介紹。

5 大key問題

我們在使用緩存的時候，特別是Redis，還有一個經常會遇到的問題是大key問題。

可能系統剛上線時，數據量少，在Redis中定義的key比較小，開發人員在做系統設計時，也沒考慮這個問題。

系統運行了很長一段時間也沒有問題。

但隨著時間的推移，用戶的數據越來越多，慢慢形成了大key問題。

可能在突然的某一天之后發現，線上某個接口耗時越來越長了。

追查原因，發現是大key問題導致的。

大key問題是指：緩存中單個key的value值過大。

之前我開發過一個分類樹查詢接口，為了性能考慮，使用job提前將分類樹，保存到緩存中。

剛開始分類不多，只有幾百個，分類樹查詢接口的響應挺快的。

但用了幾年之后，分類數據漲到了上萬個，該接口出現了性能問題，一查發現是大key引起的。

我們需要做優化，那么如何優化呢？

5.1 縮減字段名

為了優化在Redis中存儲數據的大小，我們首先需要對數據進行瘦身。

只保存需要用到的字段。

例如：

@AllArgsConstructor
@Data
public class Category {

    private Long id;
    private String name;
    private Long parentId;
    private Date inDate;
    private Long inUserId;
    private String inUserName;
    private List<Category> children;
}

像這個分類對象中inDate、inUserId和inUserName字段是可以不用保存的。

修改自動名稱。

例如：

@AllArgsConstructor
@Data
public class Category {
    /**
     * 分類編號
     */
    @JsonProperty("i")
    private Long id;

    /**
     * 分類層級
     */
    @JsonProperty("l")
    private Integer level;

    /**
     * 分類名稱
     */
    @JsonProperty("n")
    private String name;

    /**
     * 父分類編號
     */
    @JsonProperty("p")
    private Long parentId;

    /**
     * 子分類列表
     */
    @JsonProperty("c")
    private List<Category> children;
}

由于在一萬多條數據中，每條數據的字段名稱是固定的，他們的重復率太高了。

由此，可以在json序列化時，改成一個簡短的名稱，以便于返回更少的數據大小。

5.2 數據做壓縮

這還不夠，需要對存儲的數據做壓縮。

之前在Redis中保存的key/value，其中的value是json格式的字符串。

其實RedisTemplate支持，value保存byte數組。

先將json字符串數據用GZip工具類壓縮成byte數組，然后保存到Redis中。

再獲取數據時，將byte數組轉換成json字符串，然后再轉換成分類樹。

這樣優化之后，保存到Redis中的分類樹的數據大小，一下子減少了10倍，Redis的大key問題被解決了。

如果大家對大key問題如何優化，比較感興趣，可以看看我的另一篇文章《分類樹，我從2s優化到0.1s》，里面有真實的案例。

6 熱key問題

不知道大家聽說過二八原理沒有。

80%的用戶經常訪問20%的熱點數據。

這樣帶來的結果是數據的傾斜，不能均勻分布，尤其是高并發系統中問題比較大。

比如你現在搞了一個促銷活動，有幾款商品性價比非常高，這些商品數據在Redis中按分片保存的，不同的數據保存在不同的服務器節點上。

如果用戶瘋狂搶購其中3款商品，而這3款商品正好保存在同一臺Redis服務端節點。

這樣會出現大量的用戶請求集中訪問同一天Redis服務器節點，該節點很有可能會因為扛不住這么大的壓力，而直接down機。

這個就是熱key問題帶來的危害。

那么，如何解決這個問題呢？

6.1 拆分key

在促銷活動開始之前，我們要提前做好評估，分析這些商品哪些是熱點商品。

然后將熱點商品分開保存，不要集中保存到同一臺Redis服務器節點。

這樣不同的Redis服務器節點，可以分攤一些用戶的請求壓力。

6.2 增加本地緩存

對應熱key，我們可以增加一層本地緩存，能夠提升性能的同時也能避免Redis訪問量過大的問題。

但帶來的壞處是，可能會出現數據不一致問題，要根據實際的業務場景選擇。

7 命中率問題

緩存的命中率問題，是一個讓人非常頭疼的問題。

前面的章節已經介紹過。

一般情況下，如果有用戶請求過來，先查緩存，如果緩存中存在數據，則直接返回。

如果緩存中不存在，則再查數據庫，如果數據庫中存在，則將數據放入緩存，然后返回。如果數據庫中也不存在，則直接返回失敗。

流程圖如下：

圖片

緩存命中：直接從緩存中獲取數據。

緩存不命中：無法從緩存中獲取數據，而要從數據庫獲取其他途徑獲取數據。

我們肯定是希望緩存命中率越高越好，這樣接口的性能越好，但實際工作中卻經常啪啪打臉。

因為可能會出現緩存不存在，或者緩存過期等問題，導致緩存不能命中。

那么，如何提升緩存的命中率呢？

7.1 緩存預熱

我們在API服務啟動之前，可以先用job，將相關數據先保存到緩存中，做預熱。

這樣后面的用戶請求，就能直接從緩存中獲取數據，而無需訪問數據庫了。

7.2 合理調整過期時間

有時候，我們給緩存設置的過期時間太短，導致后面會產生大量的過期緩存。

會導致緩存命中率非常低。

這時需要合理調整過期時間，比如：之前設置1秒的，現在改成5秒，10秒，30秒或者1分鐘等等。

7.3 增加緩存內存

如果我們部署的Redis服務器的內存太小，很容易出現內存不足的情況，從而會頻繁觸發內存淘汰機制。

也會影響緩存的命中率。

這種情況下，我們需要增加緩存內存。

緩存的內存過小問題，也經常會出現。

今天的內容先分享到這里，感謝你的閱讀，希望對你會有所幫助。