前言

而這篇文章，從實(shí)踐出發(fā)，解決一個(gè)真實(shí)場景下的高并發(fā)問題：秒殺場景下的系統(tǒng)庫存扣減問題。

隨著互聯(lián)網(wǎng)業(yè)務(wù)的不斷發(fā)展，選擇在網(wǎng)上購物的人群不斷增加，這種情況下，會(huì)衍生出一些促銷活動(dòng)，類似搶購場景或者熱銷熱賣場景，在高峰時(shí)段的下單數(shù)量會(huì)非常大，也意味著對(duì)數(shù)據(jù)庫中暢銷商品的庫存操作十分頻繁，需要頻繁查庫存和更新庫存。這屬于高讀寫場景，比起單獨(dú)的并發(fā)讀和并發(fā)寫來說，業(yè)務(wù)場景更復(fù)雜一些。那么這種高并發(fā)為了保證庫存數(shù)據(jù)一致性，一般會(huì)在數(shù)據(jù)庫更新時(shí)進(jìn)行加鎖操作，以保證系統(tǒng)不會(huì)發(fā)生超賣情況。

我們應(yīng)該如何應(yīng)對(duì)呢？大家可以根據(jù)我之前那篇文章中的思維導(dǎo)圖，跟隨我的思路，一起來看如何解決當(dāng)前場景下的高并發(fā)問題。

小試牛刀

面對(duì)庫存扣減的場景，我們第一個(gè)考慮到是數(shù)據(jù)一致性問題，因?yàn)槌u會(huì)對(duì)我們的履約和客戶信譽(yù)造成影響。所以一般情況下，在數(shù)據(jù)庫更新時(shí)進(jìn)行加鎖操作，以保證系統(tǒng)不會(huì)發(fā)生超賣情況。所以更多方案是提高數(shù)據(jù)庫性能方法，比如增加硬件性能，優(yōu)化樂觀鎖，提升鎖效率，優(yōu)化SQL性能等。對(duì)于一些大型系統(tǒng)，也衍生出一些基于分片的庫存方案，通過分庫分表增加并發(fā)吞吐量。

當(dāng)然那這樣不夠，因?yàn)镸ySQL數(shù)據(jù)庫的讀寫的并發(fā)上線能力是有限的，我們還是需要再進(jìn)一步優(yōu)化我們的方案。這里就要參考之前我寫的那篇文章中的思維導(dǎo)論了，這里常見解決方案就是，引入緩存機(jī)制。

如下圖所示，我們把讀請(qǐng)求進(jìn)行緩存，每次庫存校驗(yàn)時(shí)，我們引入redis緩存，讀請(qǐng)求通過緩存，增加接口性能，然后庫存扣減時(shí)，在進(jìn)行緩存同步。

圖片

但這種方式存在很大問題：所有請(qǐng)求都會(huì)在這里等待鎖，獲取鎖有去扣減庫存。在并發(fā)量不高的情況下可以使用，但是一旦并發(fā)量大了就會(huì)有大量請(qǐng)求阻塞在這里，導(dǎo)致請(qǐng)求超時(shí)，進(jìn)而整個(gè)系統(tǒng)雪崩；而且會(huì)頻繁的去訪問數(shù)據(jù)庫，大量占用數(shù)據(jù)庫資源，所以在并發(fā)高的情況下這種方式不適用。同時(shí)這個(gè)方案還會(huì)存在mysq和redis的數(shù)據(jù)同步不一致的情況，導(dǎo)致高并發(fā)情況下，出現(xiàn)超賣。

所以這種方案雖然簡單，但是無法滿足高并發(fā)場景，我們必須得pass。

循序漸進(jìn)

為此，我們可以進(jìn)行一次優(yōu)化，通過架構(gòu)維度進(jìn)行調(diào)整。

在這個(gè)方案中，我們將庫存操作封裝成一個(gè)單獨(dú)模塊，這個(gè)方案的優(yōu)化點(diǎn)在于，所有庫存的查詢和扣減都圍繞redis進(jìn)行。當(dāng)發(fā)生庫存扣減操作時(shí)，會(huì)直接更新redis，同時(shí)采用異步流程，更新MySQL數(shù)據(jù)庫。這樣以來，我們的性能會(huì)比直接訪問MySQL數(shù)據(jù)庫高效不少，并發(fā)能力會(huì)有不少提升。

流程如下：

圖片

但這個(gè)方案依然有缺陷，它的點(diǎn)在于redis的單點(diǎn)性能問題。該方案的最大并發(fā)性能取決于redis的單點(diǎn)處理能力。而如果想要進(jìn)一步提升并發(fā)能力，該方案不具備水平擴(kuò)展能力。那么，這個(gè)方案，依然不是我們最優(yōu)的選擇。

大顯身手

那么接下來，我們需要考慮的是如何可以實(shí)現(xiàn)我們業(yè)務(wù)系統(tǒng)并發(fā)能力的水平擴(kuò)展能力。當(dāng)然這里也不是憑空來想，我們可以思考一下，業(yè)內(nèi)成熟的一些中間件是如何實(shí)現(xiàn)高并發(fā)的，這里我們可以兩個(gè)我們常見的框架：kafka和elasticsearch。

上述我們常見的兩個(gè)中間件框架，都以可以水平能力擴(kuò)展著稱。那么仔細(xì)思考一下他們的技術(shù)架構(gòu)不難發(fā)現(xiàn)，他們的核心其實(shí)都是采用了一種所謂的分片實(shí)現(xiàn)的。那么問題來了，我們的庫存扣減，能不能實(shí)現(xiàn)分片呢？或者換一個(gè)思路思考這個(gè)問題：我們的庫存邏輯是否可以轉(zhuǎn)化為分布式庫存進(jìn)行存儲(chǔ)和擴(kuò)展呢？

有了以上的思路，我們就可以開始構(gòu)建我們的架構(gòu)方案了。接下來，我先把架構(gòu)圖貼出來：

圖片

在這個(gè)架構(gòu)方案中，是以Redis緩存為實(shí)現(xiàn)基礎(chǔ)，結(jié)合Mysql數(shù)據(jù)存儲(chǔ)，通過一套控制機(jī)制，保證庫存的分布式管理。在該方案中，有一些特定的業(yè)務(wù)模塊單元需要說明。

1. partition

熟悉kafka的人對(duì)partition一定不陌生。在本架構(gòu)方案之中，該業(yè)務(wù)架構(gòu)中的partition的概念是一組基于redis來實(shí)現(xiàn)的庫存分片，分別存儲(chǔ)一部分庫存大小。

在一個(gè)partition中，會(huì)存有一定量的預(yù)占庫存量，當(dāng)有請(qǐng)求服務(wù)進(jìn)行庫存扣減時(shí)，只需要選擇其中一個(gè)partition即可，這樣以來，就可以減輕單節(jié)點(diǎn)的壓力，同時(shí)可以基于redis集群的可擴(kuò)展性，實(shí)現(xiàn)partition的水平擴(kuò)展。

分布式系統(tǒng)常見的一個(gè)問題就是數(shù)據(jù)傾斜問題，因?yàn)閲?yán)重的數(shù)據(jù)傾斜，會(huì)讓我們分布式方案瞬間瓦解，導(dǎo)致單點(diǎn)承擔(dān)高并發(fā)。那么該方案下的數(shù)據(jù)傾斜問題如何解決呢？

最終，我想到的解決方案類似養(yǎng)寵物狗時(shí)買的那種定時(shí)投喂儀器，每天通過定時(shí)定量投喂，來保證寵物狗不會(huì)被餓到或者吃撐。

如果最初把所有庫存全部平均到每個(gè)partition中，當(dāng)有多個(gè)大庫存扣減打到一個(gè)partition上時(shí)，會(huì)造成該partition上出現(xiàn)庫存被消耗光，而失去后續(xù)提供庫存扣減能力。為了解決這個(gè)問題，我在partition中采取的是動(dòng)態(tài)庫存注入和子域隔離的方案。具體方案如下圖：

圖片

每個(gè)partition會(huì)有兩個(gè)子域，調(diào)度器中會(huì)記錄每個(gè)partition當(dāng)前激活的子域，每次庫存扣減，會(huì)扣減激活的子域中的庫存值。而當(dāng)激活的子域庫存值低于設(shè)定閾值是，會(huì)切換子域，冷卻當(dāng)前子域，激活另一個(gè)子域。被冷卻的子域會(huì)觸發(fā)任務(wù)觸發(fā)器，實(shí)現(xiàn)預(yù)占庫存的數(shù)據(jù)同步。

子域中會(huì)存儲(chǔ)一定額度的庫存值，不會(huì)存儲(chǔ)很大的量，這樣就可以保證動(dòng)態(tài)的預(yù)占庫存實(shí)現(xiàn)，從而解決庫存傾斜的問題。

當(dāng)然為了更好的管理partition，我們需要單獨(dú)開發(fā)一個(gè)partition調(diào)度器模塊，來負(fù)責(zé)管理管理眾多partition資源，那么這個(gè)調(diào)度器的具體功能包括：

1.調(diào)度器中有一個(gè)注冊(cè)表，會(huì)記錄 Partition的key值，外部服務(wù)獲取partition key是需要通過調(diào)度器獲取，調(diào)度器會(huì)記錄每個(gè)partition的庫存余量和partition和子域信息。

2.當(dāng)partition無法再獲取預(yù)占庫存，且?guī)齑婧谋M時(shí)，調(diào)度器會(huì)從注冊(cè)表中摘除該partition信息。

3.調(diào)度器可以采用隨機(jī)或者輪訓(xùn)的方式獲取partition，同時(shí)每次也會(huì)校驗(yàn)partition剩余庫存是否滿足業(yè)務(wù)扣減數(shù)量，如果剩余庫存小于業(yè)務(wù)扣減數(shù)量，將會(huì)跳過該partition節(jié)點(diǎn)。

2. 異步更新庫存

第二個(gè)核心模塊就是更新庫存管理了，這塊你可以理解為異步流程機(jī)制，通過異步化操作，來減輕系統(tǒng)的高并發(fā)對(duì)數(shù)據(jù)庫的沖擊。

更新庫存會(huì)有一個(gè)明細(xì)表，記錄每個(gè)partition庫存扣減信息，明細(xì)表會(huì)有一個(gè)同步狀態(tài)，有兩種情況可以出發(fā)庫存同步MQ消息：

第一．當(dāng)每個(gè)partition中的明細(xì)數(shù)據(jù)條數(shù)超過設(shè)定閾值，會(huì)自動(dòng)觸發(fā)一次MQ消息。

第二．每間隔額定設(shè)定時(shí)間(默認(rèn)設(shè)置1秒)，會(huì)觸發(fā)一次當(dāng)前時(shí)間段內(nèi)每個(gè)partition產(chǎn)生的庫存扣減明細(xì)信息，然后發(fā)送一次MQ消息。

兩中觸發(fā)方案相互獨(dú)立，互不影響，通過同步狀態(tài)和明細(xì)ID實(shí)現(xiàn)冪等。

3. 預(yù)占庫存管理和庫存管理

接下來就是關(guān)于庫存的底層數(shù)據(jù)結(jié)構(gòu)設(shè)計(jì)了。這里會(huì)引入一個(gè)在電商行業(yè)很共識(shí)的概念：預(yù)占庫存。

在庫存領(lǐng)域?qū)又校瑤齑娣譃轭A(yù)占庫存和庫存兩個(gè)模塊，這里面的庫存關(guān)系實(shí)例如下：

假設(shè)當(dāng)前商品的庫存值為10000件，當(dāng)前partition觸發(fā)一次預(yù)占庫存任務(wù)，領(lǐng)取400件，然后假設(shè)此時(shí)收到MQ庫存消費(fèi)更新消息，更新30件。隨后partition又觸發(fā)一次預(yù)占庫存任務(wù)，零陵區(qū)了100件。庫存變化如下圖所示：

圖片

其中 實(shí)際庫存= 預(yù)設(shè)庫存池 + 預(yù)占庫存。

每次預(yù)占庫存任務(wù)觸發(fā)，會(huì)從預(yù)設(shè)庫存池中扣減，如果預(yù)占庫存池清空，則partition就無法在獲取預(yù)占庫存，調(diào)度器會(huì)將它從注冊(cè)表中摘除。

而每次MQ更新庫存消息，會(huì)更新實(shí)際庫存量，同時(shí)對(duì)預(yù)占庫存和扣減庫存值進(jìn)行修改，這個(gè)操作具有事務(wù)性。

總結(jié)

通過這次的案例分析，我們其實(shí)是通過方法論結(jié)合實(shí)際業(yè)務(wù)場景的方式出發(fā)，設(shè)計(jì)了我們的系統(tǒng)架構(gòu)。剝離業(yè)務(wù)場景，其實(shí)本質(zhì)就是通過緩存和異步流程來實(shí)現(xiàn)系統(tǒng)的高并發(fā)，同時(shí)讓系統(tǒng)具備擁有水平擴(kuò)展的能力。但這個(gè)方法論在與實(shí)際業(yè)務(wù)結(jié)合時(shí)，還是會(huì)有很多很多需要思考和細(xì)化的點(diǎn)，比如分布式思想的使用，比如預(yù)占庫存的邏輯設(shè)計(jì)等等。