【51CTO.com原創稿件】2018年5月18-19日，由51CTO主辦的全球軟件與運維技術峰會在北京召開。此次峰會圍繞人工智能、大數據、物聯網、區塊鏈等12大核心熱點，匯聚海內外60位一線專家，是一場高端的技術盛宴，也是***IT技術人才學習和人脈拓展不容錯過的平臺。

　　在19日下午“高并發與實時處理”分會場，同程藝龍機票事業群CTO王曉波帶來了《高并發場景的緩存治理》的主題演講，針對如何讓緩存更適合高并發使用、如何正確使用緩存、如何通過治理化解緩存問題等熱點展開了闡述。會后，51CTO記者根據王曉波在WOT2018全球軟件與運維技術峰會的演講內容進行了整理。

　　王曉波演講中談到，在高并發場景下，很多人都把cache(高速緩沖存儲器)當做可以“續命”的靈丹妙藥，哪里高并發壓力大，哪里就上傳cache來解決并發問題。但有時候，即使使用了cache，卻發現系統依然卡頓宕機，是因為cache技術不好嗎?非也，其實這是緩存的治理工作沒有做好。

　　看看同程“趟過的坑”

　　王曉波比較系統地介紹了同程“趟過的坑”。

　　為了緩解高并發的壓力，同程最初選擇memcache(分布式的高速緩存系統)技術，后來又轉到Redis架構(數據結構服務器,可用作數據庫高速緩存)，部署了接近200臺服務器。但情況并沒有好轉，系統經常性的宕機，應用中調用的腳本亂七八糟，多實例部署資源不均衡，太脆弱數據消失了。

　　為了實現對這些服務器的管理，同程開啟了主從+keepalived(IT第3層、第四層、第五層交換機制的軟件)模式，并選擇從單機Redis逐漸升級到集群Redis。很快他們就發現，當集群大量部署的時候，運維端沒有辦法做運維，雖然可以通過腳本來統一運行，但是集群不可控，而且很多運維技術手段還容易導致高并發系統停機，直接對整體業務端產生影響。“當時系統隨時可能會掛，運維團隊快崩潰了。”王曉波回憶道。

　　所有遭遇的問題癥結在哪里?王曉波總結到，***的問題在于技術人員對cache的使用的規范，人們常常會忘記它本身的缺點，只想到它的好處“快”。他舉了一個例子，在一次系統故障總結報道里，一名技術人員寫到，沒想到初始狀態下只有30000行的代碼的Redis，它竟然帶來如此神奇的功能。這樣的想法以至于讓程序員感覺手里拿了一個錘子，看見釘子就想錘。換而言之，讓他們看見任何的需求都想用緩存去解決。在這樣的誤導下，人們開始頻繁使用基于緩存的日志搜集器、基于緩存的倒計時、基于緩存的計數器、基于緩存的訂單系統。這些功能出現之后，人們只沉醉于它的快，卻忽視了如何去保障它的正常運行。

　　緩存真正的故障是什么?王曉波歸納成四點：一是過度依賴，這一點最突出，有時候明明不需要緩存，可技術人員卻非得去用緩存。二是數據落盤，三是超大容量，四是緩存雪崩。為什么會出現這些故障呢，王曉波認為，使用的者的亂用、濫用、懶用是***的問題。此外，運維數千臺毫無使用規則的緩存服務器，運維人員不懂開發，開發人員不懂運維，導致了緩存在無設計無控制中被使用，太多的服務器資源被浪費等都是常見的現象。

　　到底人們需要一個什么樣的緩存?需要一個什么樣的緩存治理?王曉波認為，其實從真正的開發哲學上來說，其實人們想要的是一個“百變的魔術箱”，能夠神奇地滿足各種高并發需求。簡單來說，也就是說緩存是大是小、是好是壞，都不需要開發者關心。因為開發人員對緩存技術了解有限，最怕其胡亂使用。值得警惕的是，很多開發人員都忽視了現在緩存中的許多數據并不是永遠的熱數據，在高并發到來前也沒有做充足的估算，導致在應用時再發現瓶頸就晚了。

　　同程“鳳凰涅槃”

　　為了真正發揮出緩存的作用，應對高并發，同程技術團隊最終開發出phoenix方案。最初設計時，他們希望這個架構中在應用端會有一個簡單的SDK能夠讓開發人員去使用。只要開發人員聲明所做的項目和相關數據場景，就會得到一個key，有了這個key，SDK就會給開發人員分配一個新的緩存倉庫，可以在上面運行Redis，讓整個調度平臺來調用它，速度非常快。除此之外，phoenix還能從客戶端調用開始全面監控，當然更重要的是能防止緩存的崩塌，實現動態擴容縮容。

　　后來，phoenix方案又加入了代理層。因為客戶端多語言開發時間成本太大，而且客戶端在應用中的升級是個大問題，王曉波透露，幾乎所有的嵌入式應用的中間件升級都是一個***的麻煩，一旦升級，系統要重新測試，很容易再度掛掉。所以通過本地緩存控制更好，部分使用頻率不高的可以使用磁盤做緩存。

　　***，phoenix方案中又加入了容器。當實現容器化部署后，通過多個小集群+單節點、以場景劃分集群、實時平衡調度數據，同程的整體監控、數據遷移、伸縮調度都變得更靈活更容易操作。以數據遷移為例，同程做了整套的遷移系統，從流量擴容到數據的擴容，從縱向跟橫向的擴容，全部實現了一個比較好的全自動處理。

　　以上內容是51CTO記者根據同程藝龍機票事業群CTO王曉波在WOT2018全球軟件與運維技術峰會的采訪內容整理，更多關于WOT的內容請關注51cto.com。

【51CTO原創稿件，合作站點轉載請注明原文作者和出處為51CTO.com】