解讀大型網站系統架構的演化

作者：李平 2014-09-26 09:53:41

大型網站的架構是根據業務需求不斷完善的，根據不同的業務特征會做特定的設計和考慮，本文只是講述一個常規大型網站會涉及的一些技術和手段。

前言

一個成熟的大型網站（如淘寶、京東等）的系統架構并不是開始設計就具備完整的高性能、高可用、安全等特性，它總是隨著用戶量的增加，業務功能的擴展逐漸演變完善的，在這個過程中，開發模式、技術架構、設計思想也發生了很大的變化，就連技術人員也從幾個人發展到一個部門甚至一條產品線。所以成熟的系統架構是隨業務擴展而完善出來的，并不是一蹴而就；不同業務特征的系統，會有各自的側重點，例如淘寶，要解決海量的商品信息的搜索、下單、支付，例如騰訊，要解決數億的用戶實時消息傳輸，百度它要處理海量的搜索請求，他們都有各自的業務特性，系統架構也有所不同。盡管如此我們也可以從這些不同的網站背景下，找出其中共用的技術，這些技術和手段可以廣泛運行在大型網站系統的架構中，下面就通過介紹大型網站系統的演化過程，來認識這些技術和手段。

一、最開始的網站架構

最初的架構，應用程序、數據庫、文件都部署在一臺服務器上，如圖：

二、應用、數據、文件分離

隨著業務的擴展，一臺服務器已經不能滿足性能需求，故將應用程序、數據庫、文件各自部署在獨立的服務器上，并且根據服務器的用途配置不同的硬件，達到***的性能效果。

三、利用緩存改善網站性能

在硬件優化性能的同時，同時也通過軟件進行性能優化，在大部分的網站系統中，都會利用緩存技術改善系統的性能，使用緩存主要源于熱點數據的存在，大部分網站訪問都遵循28原則（即80%的訪問請求，最終落在20%的數據上），所以我們可以對熱點數據進行緩存，減少這些數據的訪問路徑，提高用戶體驗。

緩存實現常見的方式是本地緩存、分布式緩存。當然還有CDN、反向代理等，這個后面再講。本地緩存，顧名思義是將數據緩存在應用服務器本地，可以存在內存中，也可以存在文件，OSCache就是常用的本地緩存組件。本地緩存的特點是速度快，但因為本地空間有限所以緩存數據量也有限。分布式緩存的特點是，可以緩存海量的數據，并且擴展非常容易，在門戶類網站中常常被使用，速度按理沒有本地緩存快，常用的分布式緩存是Membercache、Redis。

四、使用集群改善應用服務器性能

應用服務器作為網站的入口，會承擔大量的請求，我們往往通過應用服務器集群來分擔請求數。應用服務器前面部署負載均衡服務器調度用戶請求，根據分發策略將請求分發到多個應用服務器節點。

常用的負載均衡技術硬件的有F5，價格比較貴，軟件的有LVS、Nginx、HAProxy。LVS是四層負載均衡，根據目標地址和端口選擇內部服務器，Nginx和HAProxy是七層負載均衡，可以根據報文內容選擇內部服務器，因此LVS分發路徑優于Nginx和HAProxy，性能要高些，而Nginx和HAProxy則更具配置性，如可以用來做動靜分離（根據請求報文特征，選擇靜態資源服務器還是應用服務器）。

五、數據庫讀寫分離和分庫分表

隨著用戶量的增加，數據庫成為***的瓶頸，改善數據庫性能常用的手段是進行讀寫分離以及分表，讀寫分離顧名思義就是將數據庫分為讀庫和寫庫，通過主備功能實現數據同步。分庫分表則分為水平切分和垂直切分，水平切換則是對一個數據庫特大的表進行拆分，例如用戶表。垂直切分則是根據業務不同來切換，如用戶業務、商品業務相關的表放在不同的數據庫中。

六、使用CDN和反向代理提高網站性能

假如我們的服務器都部署在成都的機房，對于四川的用戶來說訪問是較快的，而對于北京的用戶訪問是較慢的，這是由于四川和北京分別屬于電信和聯通的不同發達地區，北京用戶訪問需要通過互聯路由器經過較長的路徑才能訪問到成都的服務器，返回路徑也一樣，所以數據傳輸時間比較長。對于這種情況，常常使用CDN解決，CDN將數據內容緩存到運營商的機房，用戶訪問時先從最近的運營商獲取數據，這樣大大減少了網絡訪問的路徑。比較專業的CDN運營商有藍汛、網宿。

而反向代理，則是部署在網站的機房，當用戶請求達到時首先訪問反向代理服務器，反向代理服務器將緩存的數據返回給用戶，如果沒有沒有緩存數據才會繼續走應用服務器獲取，也減少了獲取數據的成本。反向代理有Squid，Nginx。