一、背景

很多公司都會有自己的一套高可用的服務端架構方案，但作為測試人員，雖然測試了系統的很多功能，但是很多同學并不是很清楚服務端的整體架構設計。對于高可用、可擴展、負載均衡的概念還是停留在概念的層面，沒有實際的理解。因此本文用以下幾步帶你快速看懂高可用的服務端架構方案。

二、服務端架構方案

2.1 單機方案

1)瀏覽器通過DNS-server，域名解析到ip

2)瀏覽器通過ip訪問web-server

缺點：

1)非高可用，web-server掛了整個系統就掛了

2)擴展性差，當吞吐量達到web-server上限時，無法擴容

2.2 DNS輪詢方案

DNS輪詢：通過在DNS-server上對一個域名設置多個ip解析，來擴充web-server性能及實施負載均衡的技術

1)多部署幾份web-server，1個tomcat抗1000，部署3個tomcat就能抗3000

2)在DNS-server層面，域名每次解析到不同的ip

優點：

1)零成本：在DNS-server上多配幾個ip即可，功能也不收費

2)部署簡單：多部署幾個web-server即可，原系統架構不需要做任何改造

3)負載均衡：變成了多機，但負載基本是均衡的

缺點：

1)非高可用：DNS-server只負責域名解析ip，這個ip對應的服務是否可用，DNS-server是不保證的，假設有一個web-server掛了，部分服務會受到影響

2)擴容非實時：DNS解析有一個生效周期

3)暴露了太多的外網ip

2.3 nginx方案

nginx：一個高性能的web-server和實施反向代理的軟件

1)站點層與瀏覽器層之間加入了一個反向代理層，利用高性能的nginx來做反向代理

2)nginx將http請求分發給后端多個web-server

優點：

1)DNS-server不需要動

2)負載均衡：通過nginx來保證

3)只暴露一個外網ip，nginx->tomcat之間使用內網訪問

4)擴容實時：nginx內部可控，隨時增加web-server隨時實時擴容

5)能夠保證站點層的可用性：任何一臺tomcat掛了，nginx可以將流量遷移到其他tomcat

缺點：

1)時延增加+架構更復雜了：中間多加了一個反向代理層

2)反向代理層成了單點，非高可用

2.4 keepalived方案

keepalived：一款用來檢測服務狀態存活性的軟件，常用來做高可用

1)做兩臺nginx組成一個集群，分別部署上keepalived，設置成相同的虛IP，保證nginx的高可用

2)當一臺nginx掛了，keepalived能夠探測到，并將流量自動遷移到另一臺nginx上，整個過程對調用方透明

優點：

1)解決了高可用的問題

缺點：

1)資源利用率只有50%

2)nginx仍然是接入單點

2.5 LVS/F5方案

LVS：Linux Virtual Server，使用集群技術，實現在linux操作系統層面的一個高性能、高可用、負載均衡服務器

F5：一個高性能、高可用、負載均衡的硬件設備

1)可以通過lvs來擴展多個nginx

2)通過keepalived+VIP的方案可以保證可用性

優點：

1)解決了nginx是單點接入的問題

缺點：

1)LVS依然是單點接入

2.6 終極方案

水平擴展，才是解決性能問題的根本方案，能夠通過加機器擴充性能的方案才具備最好的擴展性

1)通過DNS輪詢來線性擴展入口lvs層的性能

2)通過keepalived來保證高可用

3)通過lvs來擴展多個nginx

4)通過nginx來做負載均衡