[[415610]]

云與虛擬化

云計算是通過 Internet 服務的方式提供動態可伸縮資源的計算模式，經過多年的發展已成為企業 IT 技術的重要支撐。虛擬化是云計算的核心技術之一，將一臺計算機抽象為多臺邏輯計算機，即虛擬機，每個虛擬機是一個單獨安全的環境，可運行不同的操作系統且互不影響。

虛擬化技術給資源使用和調度帶來了極大便利，云計算系統可以根據負載情況及時進行資源調度，在提升資源利用率的同時保證應用和服務不會因資源不足而影響服務質量。然而虛擬化也是有代價的，對資源的抽象帶來了性能損失，這也是虛擬化一直致力解決的問題。

虛擬化的資源抽象可以簡單劃分為三部分：CPU 虛擬化、內存虛擬化和設備虛擬化。其中設備虛擬化已經可以實現網絡、存儲等設備直通虛擬機，沒有性能損失；CPU 虛擬化在硬件特性的支持下，執行普通指令性能與裸機相同；而內存虛擬化相比裸機，仍然存在較大差異，是當下值得關注的問題。

內存虛擬化

虛擬內存：說到內存虛擬化，就不得不提虛擬內存的概念。早期的操作系統只有物理地址且空間有限，進程使用內存時必須小心翼翼以避免覆蓋其他進程的內存。為避免此問題，虛擬內存的概念被抽象出來，保證每個進程都有一塊連續的、獨立的虛擬內存空間。進程直接通過 VA（Virtual Address）使用內存，CPU 訪存時發出的 VA 由硬件 MMU（Memory Management Unit）攔截并轉換為 PA（Physical Address），VA 到 PA 的映射使用頁表進行管理，MMU 在轉換時會自動查詢頁表。

內存虛擬化：與虛擬內存的概念類似，一臺主機上的每個虛擬機認為自己獨占整個物理地址空間，因而需要對內存再做一次抽象，即內存虛擬化，保證每個虛擬機都有獨立的地址空間。這樣一來，在虛擬機和物理機中均有 VA 和 PA 的概念，即 GVA（Guest Virtual Address）和 GPA（Guest Physical Address），以及 HVA（Host Virtual Address）和 HPA（Host Physical Address）。虛擬機內的程序使用的是GVA，最終需要轉換成 HPA。兩個 VA 到 PA（ GVA 到 GPA 以及 HVA 到 HPA）的映射同樣使用頁表管理，GPA 到 HVA 一般是幾段連續的線性映射，由虛擬機的管理程序 VMM（Virtual Machine Monitor）進行管理。

進程訪存需要從 VA 轉換成 PA，在引入內存虛擬化后，轉換路徑發生了很大的變化。原本只需要將 VA 轉換為 PA，虛擬化后轉換過程變成 GVA -> GPA -> HVA -> HPA 。路徑變得更長更復雜之后，對于訪存的安全和性能都帶來了挑戰，這兩點也是內存虛擬化需要達到的目標：1）安全 ，即地址轉換的合法性，虛擬機不能訪問不屬于自己的內存；2）性能，即地址轉換的高效性，包括轉換關系建立的開銷低，以及轉換過程本身的開銷低。

經典方案

為達成內存虛擬化的目標，已經有很多虛擬化方案被提出，SPT（Shadow Page Table）和 EPT（Extended Page Table）是兩種典型的方案，也是大家最熟悉的方案。我們先以此為切入點，看看他們是如何工作的，然后再討論其他的虛擬化方案。

SPT：由于最初的硬件只支持一層頁表轉換，直接用來轉換虛擬機或物理機上的 VA 到 PA 都無法完成 GVA 到 HPA 的轉換。因此 SPT 建立了一條捷徑，即影子頁表，直接管理 GVA 到 HPA 的映射，如下圖所示。每一個影子頁表實例對應虛擬機內一個進程，影子頁表的建立需要 VMM 查詢虛擬機內進程的頁表。

由于影子頁表管理的是 GVA 到 HPA 的直接映射，SPT 地址轉換路徑與物理機路徑相當，直接查詢一層頁表就可以完成地址轉換。在使用 4 級頁表時，轉換過程如下圖所示。

優勢：SPT 地址轉換過程的開銷低，與物理機相當。

劣勢：

1）地址轉換關系的建立開銷很大，為保證地址轉換的合法性，所有的轉換關系建立，即虛擬機進程的頁表修改，都會被攔截之后陷出到特權的 VMM 中代為執行；

2）影子頁表本身需要占用內存，且一個影子頁表只對應虛擬機內一個進程，整體會占用較多內存資源。

EPT：后來的硬件針對虛擬化增加了嵌套頁表的支持，使得硬件可以自動完成兩層頁表轉換。EPT 即是基于硬件支持的方案，在管理 GVA 到 GPA 的虛擬機頁表基礎上，新增擴展頁表管理 GPA 到 HPA 的映射，如下圖所示。這兩層頁表相互獨立，兩層映射關系轉換都由硬件自動完成。

由于虛擬機內各級頁表（gL4, gL3, gL2, gL1）內容只是 GPA，查詢下一級時必須先經擴展頁表（nL4, nL3, nL2, nL1）轉換為 HPA，使得整個轉換路徑很長。在兩層頁表均為 4 級時，轉換過程如下圖所示。

優勢：地址轉換關系的建立開銷低，獨立的 EPT 頁表的存在保證了地址轉換的合法性，因此虛擬機的頁表可以自行修改而無需 VMM 的干預。

劣勢：轉換過程的開銷很大，最壞情況下需要 24（4 + 4 + 4 * 4）次硬件查表轉換。

兩種經典的方案在安全上都有堅實的保證，但在性能上各有缺陷。SPT 為保證地址轉換的合法性在建立轉換關系時付出了很大代價，而 EPT 雖然消除了建立轉換關系的開銷，轉換路徑卻更長了。

其他探索

業界和學術界關于內存虛擬化還有很多的探索，基本思想與 SPT 或 EPT 類似，可以據此分為三類來看：

1）一層頁表方案。與 SPT 類似，使用一層頁表直接管理 GVA 到 HPA 的映射；

2）兩層頁表方案。與 EPT 類似，使用兩層獨立頁表分別管理 GVA 到 GPA 以及 GPA 到 HPA 的映射；

3）混合方案。結合前兩類方案，進行動態的選擇。

Direct Paging：一層頁表方案，這是 Xen 在早期硬件僅支持一層頁表時的半虛擬化方案。相比于 SPT 最大的區別是，沒有單獨維護 GVA 到 GPA 的虛擬機頁表，虛擬機知道自己處于虛擬化環境，即知道自己的頁表內容是 HPA。虛擬機修改頁表也需要陷出，但是采用主動陷出的方式，可以 batch 化，而 SPT 則是被動攔截陷出；讀取頁表時只能拿到 HPA，需要查一張 M2P（Machine to Physical）表才能得到 GPA。

Direct Paging 同樣使用一層頁表管理 GVA 到 HPA 映射，地址轉換的路徑與 SPT 是相同的。在使用 4 級頁表時，最壞只需 4 次查表。

優勢：地址轉換過程的開銷低，與物理機相當。

劣勢：

1）地址轉換關系的建立開銷很大，所有頁表修改都需要主動陷出；

2）需要虛擬機做半虛擬化的適配，虛擬機需要感知自己的頁表管理的是 GVA 到 HPA 的映射。

Direct Segment：兩層頁表方案，這是學術界基于新硬件的方案。GVA 到 GPA 的映射管理與 EPT 相同，同樣采用多級頁表。但 GPA 到 HPA 的映射采用分段機制， GPA 轉換為 HPA 時只需要通過硬件加上一個偏移即可。

GPA 雖然不等于 HPA，但二者的映射關系十分簡單，只需要 Direct Segment 硬件添加一個偏移，整個轉換路徑與物理機的路徑相比差別很小，僅多了幾次硬件偏移。虛擬機使用 4 級頁表時，轉換路徑如下圖所示，其中 DS 表示 GPA 到 HPA 轉換的硬件支持。

優勢：地址轉換關系的建立開銷低，同時轉換過程的開銷也很低。

劣勢：

1）需要硬件支持 GPA 到 HPA 分段映射，現有的硬件不具備這樣的功能；

2）需要分配大段連續的內存，即主機不能有太多內存碎片。

Flat EPT：兩層頁表方案，這也是學術界提出的基于新硬件的方案。整體與 EPT 非常相似，唯一的區別在于 EPT 管理 GPA 到 HPA 的使用多級頁表，一般是 4 級，每級 512 項；而 Flat EPT 使用僅有一級的扁平頁表，表項遠不止 512。

與 EPT 相同，虛擬機內各級頁表的內容也是 GPA，查詢下一級時需要先經過扁平擴展頁表（nL4）轉換為 HPA。由于扁平擴展頁表只有一級，轉換路徑相比 EPT 縮短了非常多。在虛擬機內使用4級頁表時，轉換路徑如下圖所示，最壞只需 9（4 + 1 + 4 * 1）次查表。

優勢：地址轉換關系的建立開銷低，同時轉換過程的開銷也較低。相比于 Direct Segment 對內存分配要求很低，只需要少量連續內存用作扁平擴展頁表即可（8G規格虛擬機只需要 16M）。

劣勢：需要硬件支持扁平擴展頁表，當前的硬件只支持表項為 512 的多級擴展頁表。

Mix SPT and EPT：混合方案，這是學術界較早提出的方案，簡單而言就是動態的分時切換 SPT 與 EPT。在虛擬機運行時監控和采集 TLB miss 與 Page Fault 的數據，在二者達到設定的閾值時進行 SPT 與 EPT 之間的切換，如下圖所示：

TLB miss 率高于閾值 T1，Page Fault 頻率低于閾值 T2 時，從 EPT 切換到 SPT
TLB miss 率低于閾值 T1，Page Fault 頻率高于閾值 T2 時，從 SPT 切換到 EPT

優勢：有機會充分利用SPT與EPT的優勢，達到更好的性能。

劣勢：

1）頁表切換閾值的設定很困難，硬件配置都可能影響閾值；

2）SPT與EPT的切換也是有代價的，主要是SPT的銷毀與重建。

總結

一層頁表顯著的優勢是地址轉換過程開銷低，與物理機相同，需要解決的問題是減少地址轉換建立的開銷。一個可能的方向是放棄一些安全性，讓頁表的修改更輕量；另一個更實際的方向是在合適的場景使用，即針對頁表修改不頻繁的負載使用。

兩層頁表的優勢是地址轉換建立的開銷小，虛擬機可以獨立修改頁表，需要考慮的問題是縮短轉換路徑。這個方向其實可行性很高，但是依賴新硬件的支持，短期不太可能出現符合要求的新硬件。

混合頁表的設計初衷是希望充分利用兩類頁表的優勢，但是做好動態的模式切換是非常困難的，負載的差異甚至硬件的差異都可能影響切換的效果。或許針對已知負載做定向的調優是一個可行的方向。

長遠來看，如果有新硬件的加持，兩層頁表（尤其是Flat EPT）是比較完善的方案，地址轉換可以很高效，也不需要在安全和通用性上做一些犧牲。但是短期來看，新硬件為時尚早，在一層頁表方案上做進一步的探索和優化，是更加實際的。我們將會持續在內存虛擬化這條路徑探索更多的可能，歡迎大家加入 OpenAnolis 龍蜥社區討論交流。