云計算背后最重要的概念之一就是可伸縮性，而實現它的關鍵則是虛擬化（virtualization）。虛擬化在一臺共享計算機上聚集多個操作系統和應用程序，以便更好地利用服務器。虛擬化還允許在線遷移，因此，當一個服務器超載時，可以將一個操作系統的一個實例（以及它的應用程序）遷移到一個新的、不那么繁忙的服務器上。