炸!億級數(shù)據(jù)DB秒級平滑擴容!??!
一步一步,娓娓道來。
一般來說,并發(fā)量大,吞吐量大的互聯(lián)網(wǎng)分層架構(gòu)是怎么樣的?
數(shù)據(jù)庫上層都有一個微服務(wù),服務(wù)層記錄“業(yè)務(wù)庫”與“數(shù)據(jù)庫實例配置”的映射關(guān)系,通過數(shù)據(jù)庫連接池向數(shù)據(jù)庫路由sql語句。
如上圖所示,服務(wù)層配置用戶庫user對應(yīng)的數(shù)據(jù)庫實例ip。
畫外音:其實是一個內(nèi)網(wǎng)域名。
該分層架構(gòu),如何應(yīng)對數(shù)據(jù)庫的高可用?
數(shù)據(jù)庫高可用,很常見的一種方式,使用雙主同步+keepalived+虛ip的方式進行。
如上圖所示,兩個相互同步的主庫使用相同的虛ip。
當(dāng)主庫掛掉的時候,虛ip自動漂移到另一個主庫,整個過程對調(diào)用方透明,通過這種方式保證數(shù)據(jù)庫的高可用。
畫外音:關(guān)于高可用,《互聯(lián)網(wǎng)分層架構(gòu)如何保證“高可用“?》專題介紹過,本文不再展開。
該分層架構(gòu),如何應(yīng)對數(shù)據(jù)量的暴增?
隨著數(shù)據(jù)量的增大,數(shù)據(jù)庫要進行水平切分,分庫后將數(shù)據(jù)分布到不同的數(shù)據(jù)庫實例(甚至物理機器)上,以達到降低數(shù)據(jù)量,增強性能的擴容目的。
如上圖所示,用戶庫user分布在兩個實例上,ip0和ip1,服務(wù)層通過用戶標(biāo)識uid取模的方式進行尋庫路由,模2余0的訪問ip0上的user庫,模2余1的訪問ip1上的user庫。
畫外音:此時,水平切分集群的讀寫實例加倍,單個實例的數(shù)據(jù)量減半,性能增長可不止一倍。
綜上三點所述,大數(shù)據(jù)量,高可用的互聯(lián)網(wǎng)微服務(wù)分層的架構(gòu)如下:
既有水平切分,又保證高可用。
如果數(shù)據(jù)量持續(xù)增大,2個庫性能扛不住了,該怎么辦呢?
此時,需要繼續(xù)水平拆分,拆成更多的庫,降低單庫數(shù)據(jù)量,增加庫主庫實例(機器)數(shù)量,提高性能。
新的問題來了,分成n個庫后,隨著數(shù)據(jù)量的增加,要增加到2*n個庫,數(shù)據(jù)庫如何擴容,數(shù)據(jù)能否平滑遷移,能夠持續(xù)對外提供服務(wù),保證服務(wù)的可用性?
畫外音:你遇到過類似的問題么?
停服擴容,是最容易想到的方案?
在討論秒級平滑擴容方案之前,先簡要說明下停服務(wù)擴容的方案的步驟:
- 站點掛一個公告“為了為廣大用戶提供更好的服務(wù),本站點/游戲?qū)⒃诮裢?0:00-2:00之間升級,屆時將不能登錄,用戶周知”;畫外音:見過這樣的公告么,實際上在遷移數(shù)據(jù)。
- 微服務(wù)停止服務(wù),數(shù)據(jù)庫不再有流量寫入;
- 新建2*n個新庫,并做好高可用;
- 寫一個小腳本進行數(shù)據(jù)遷移,把數(shù)據(jù)從n個庫里select出來,insert到2*n個庫里;
- 修改微服務(wù)的數(shù)據(jù)庫路由配置,模n變?yōu)槟?*n;
- 微服務(wù)重啟,連接新庫重新對外提供服務(wù);
整個過程中,最耗時的是第四步數(shù)據(jù)遷移。
如果出現(xiàn)問題,如何進行回滾?
如果數(shù)據(jù)遷移失敗,或者遷移后測試失敗,則將配置改回舊庫,恢復(fù)服務(wù)即可。
停服方案有什么優(yōu)劣?
優(yōu)點:簡單。
缺點:
- 需要停止服務(wù),方案不高可用;
- 技術(shù)同學(xué)壓力大,所有工作要在規(guī)定時間內(nèi)完成,根據(jù)經(jīng)驗,壓力越大約容易出錯;
畫外音:這一點很致命。
- 如果有問題***時間沒檢查出來,啟動了服務(wù),運行一段時間后再發(fā)現(xiàn)有問題,則難以回滾,如果回檔會丟失一部分?jǐn)?shù)據(jù);
有沒有秒級實施、更平滑、更帥氣的方案呢?
再次看一眼擴容前的架構(gòu),分兩個庫,假設(shè)每個庫1億數(shù)據(jù)量,如何平滑擴容,增加實例數(shù),降低單庫數(shù)據(jù)量呢?三個簡單步驟搞定。
步驟一:修改配置。
主要修改兩處:
數(shù)據(jù)庫實例所在的機器做雙虛ip:
- 原%2=0的庫是虛ip0,現(xiàn)增加一個虛ip00;
- 原%2=1的庫是虛ip1,現(xiàn)增加一個虛ip11;
修改服務(wù)的配置,將2個庫的數(shù)據(jù)庫配置,改為4個庫的數(shù)據(jù)庫配置,修改的時候要注意舊庫與新庫的映射關(guān)系:
- %2=0的庫,會變?yōu)?4=0與%4=2;
- %2=1的部分,會變?yōu)?4=1與%4=3;
畫外音:這樣能夠保證,依然路由到正確的數(shù)據(jù)。
步驟二:reload配置,實例擴容。
服務(wù)層reload配置,reload可能是這么幾種方式:
- 比較原始的,重啟服務(wù),讀新的配置文件;
- 高級一點的,配置中心給服務(wù)發(fā)信號,重讀配置文件,重新初始化數(shù)據(jù)庫連接池;
不管哪種方式,reload之后,數(shù)據(jù)庫的實例擴容就完成了,原來是2個數(shù)據(jù)庫實例提供服務(wù),現(xiàn)在變?yōu)?個數(shù)據(jù)庫實例提供服務(wù),這個過程一般可以在秒級完成。
整個過程可以逐步重啟,對服務(wù)的正確性和可用性完全沒有影響:
- 即使%2尋庫和%4尋庫同時存在,也不影響數(shù)據(jù)的正確性,因為此時仍然是雙主數(shù)據(jù)同步的;
- 即使%4=0與%4=2的尋庫落到同一個數(shù)據(jù)庫實例上,也不影響數(shù)據(jù)的正確性,因為此時仍然是雙主數(shù)據(jù)同步的;
完成了實例的擴展,會發(fā)現(xiàn)每個數(shù)據(jù)庫的數(shù)據(jù)量依然沒有下降,所以第三個步驟還要做一些收尾工作。
畫外音:這一步,數(shù)據(jù)庫實例個數(shù)加倍了。
步驟三:收尾工作,數(shù)據(jù)收縮。
有這些一些收尾工作:
- 把雙虛ip修改回單虛ip;
- 解除舊的雙主同步,讓成對庫的數(shù)據(jù)不再同步增加;
- 增加新的雙主同步,保證高可用;
- 刪除掉冗余數(shù)據(jù),例如:ip0里%4=2的數(shù)據(jù)全部刪除,只為%4=0的數(shù)據(jù)提供服務(wù);
畫外音:這一步,數(shù)據(jù)庫單實例數(shù)據(jù)量減半了。
總結(jié)
互聯(lián)網(wǎng)大數(shù)據(jù)量,高吞吐量,高可用微服務(wù)分層架構(gòu),數(shù)據(jù)庫實現(xiàn)秒級平滑擴容的三個步驟為:
- 修改配置(雙虛ip,微服務(wù)數(shù)據(jù)庫路由);
- reload配置,實例增倍完成;
- 刪除冗余數(shù)據(jù)等收尾工作,數(shù)據(jù)量減半完成;
思路比結(jié)論重要,希望大家有收獲。
【本文為51CTO專欄作者“58沈劍”原創(chuàng)稿件,轉(zhuǎn)載請聯(lián)系原作者】