科技與狠活？JDK19中的虛擬線程到底什么鬼？

作者：Hollis 2022-10-17 09:39:13

本文給大家介紹了一下JDK 19新推出的虛擬線程，或者叫協(xié)程，主要是為了解決在讀書操作系統(tǒng)中線程需要依賴內(nèi)核線程的實(shí)現(xiàn)，導(dǎo)致有很多額外開銷的問題。通過在Java語言層面引入虛擬線程，通過JVM進(jìn)行調(diào)度管理，從而減少上下文切換的成本。

?最近，JDK 19發(fā)布了，推出了幾個(gè)新的特性，其中有一個(gè)比較值得關(guān)注的那就是新增了虛擬線程。

很多人可能比較疑惑，到底什么是虛擬線程，和我們現(xiàn)在使用的平臺(tái)線程有啥區(qū)別呢？

要說清楚JDK 19中的虛擬線程，我們要先來了解一下線程都是怎么實(shí)現(xiàn)的。

線程的實(shí)現(xiàn)方式

我們都知道，在操作系統(tǒng)中，線程是比進(jìn)程更輕量級(jí)的調(diào)度執(zhí)行單位，線程的引入可以把一個(gè)進(jìn)程的資源分配和執(zhí)行調(diào)度分開，各個(gè)線程既可以共享進(jìn)程資源，又可以獨(dú)立調(diào)度。

其實(shí)，線程的實(shí)現(xiàn)方式主要有三種：分別是使用內(nèi)核線程實(shí)現(xiàn)、使用用戶線程實(shí)現(xiàn)以及使用用戶線程加輕量級(jí)進(jìn)程混合實(shí)現(xiàn)。

使用內(nèi)核線程實(shí)現(xiàn)

內(nèi)核線程（Kernel-Level Thread,KLT）就是直接由操作系統(tǒng)內(nèi)核（Kernel，下稱內(nèi)核）支持的線程，這種線程由內(nèi)核來完成線程切換，內(nèi)核通過操縱調(diào)度器（Scheduler）對(duì)線程進(jìn)行調(diào)度，并負(fù)責(zé)將線程的任務(wù)映射到各個(gè)處理器上，并向應(yīng)用程序提供API接口來管理線程。

應(yīng)用程序一般不會(huì)直接去使用內(nèi)核線程，而是去使用內(nèi)核線程的一種高級(jí)接口——輕量級(jí)進(jìn)程（Light Weight Process,LWP），輕量級(jí)進(jìn)程就是我們通常意義上所講的線程，由于每個(gè)輕量級(jí)進(jìn)程都由一個(gè)內(nèi)核線程支持，因此只有先支持內(nèi)核線程，才能有輕量級(jí)進(jìn)程。

有了內(nèi)核線程的支持，每個(gè)輕量級(jí)進(jìn)程都成為一個(gè)獨(dú)立的調(diào)度單元，即使有一個(gè)輕量級(jí)進(jìn)程在系統(tǒng)調(diào)用中阻塞了，也不會(huì)影響整個(gè)進(jìn)程繼續(xù)工作。

但是輕量級(jí)進(jìn)程具有它的局限性：首先，由于是基于內(nèi)核線程實(shí)現(xiàn)的，所以各種線程操作，如創(chuàng)建、析構(gòu)及同步，都需要進(jìn)行系統(tǒng)調(diào)用。而系統(tǒng)調(diào)用的代價(jià)相對(duì)較高，需要在用戶態(tài)（User Mode）和內(nèi)核態(tài)（Kernel Mode）中來回切換。其次，每個(gè)輕量級(jí)進(jìn)程都需要有一個(gè)內(nèi)核線程的支持，因此輕量級(jí)進(jìn)程要消耗一定的內(nèi)核資源（如內(nèi)核線程的棧空間），因此一個(gè)系統(tǒng)支持輕量級(jí)進(jìn)程的數(shù)量是有限的。

使用用戶線程實(shí)現(xiàn)

在用戶空間建立線程庫，通過運(yùn)行時(shí)系統(tǒng)(Run-time System)來完成線程的管理，因?yàn)檫@種線程的實(shí)現(xiàn)是在用戶空間的，所以操作系統(tǒng)的內(nèi)核并不知道線程的存在，所以內(nèi)核管理的還是進(jìn)程，所以這種線程的切換不需要內(nèi)核操作。

這種實(shí)現(xiàn)方式下，一個(gè)進(jìn)程和線程之間的關(guān)系是一對(duì)多的。

這種線程實(shí)現(xiàn)方式的優(yōu)點(diǎn)是線程切換快，并且可以運(yùn)行在任何操作系統(tǒng)之上，只需要實(shí)現(xiàn)線程庫就行了。但是缺點(diǎn)也比較明顯，就是所有線程的操作都需要用戶程序自己處理，并且因?yàn)榇蠖鄶?shù)系統(tǒng)調(diào)用都是阻塞的，所以一旦一個(gè)進(jìn)程阻塞了，那么進(jìn)程中的所有線程也會(huì)被阻塞。還有就是多處理器系統(tǒng)中如何將線程映射到其他處理器上也是一個(gè)比較大的問題。

使用用戶線程加輕量級(jí)進(jìn)程混合實(shí)現(xiàn)

還有一種混合實(shí)現(xiàn)的方式，就是線程的創(chuàng)建在用戶空間完成，通過線程庫進(jìn)行，但是線程的調(diào)度是由內(nèi)核來完成的。多個(gè)用戶線程通過多路復(fù)用來復(fù)用多個(gè)內(nèi)核線程。這個(gè)就不展開講了

Java線程的實(shí)現(xiàn)方式

以上講的是操作系統(tǒng)的線程的實(shí)現(xiàn)的三種方式，不同的操作系統(tǒng)在實(shí)現(xiàn)線程的時(shí)候會(huì)采用不同的機(jī)制，比如windows采用的是內(nèi)核線程實(shí)現(xiàn)的，而Solaris則是通過混合模式實(shí)現(xiàn)的。

而Java作為一門跨平臺(tái)的編程語言，實(shí)際上他的線程的實(shí)現(xiàn)其實(shí)是依賴具體的操作系統(tǒng)的。而比較常用的windows和linux來說，都是采用內(nèi)核線程的方式實(shí)現(xiàn)的。

也就是說，當(dāng)我們在JAVA代碼中創(chuàng)建一個(gè)Tread的時(shí)候，其實(shí)是需要映射到操作系統(tǒng)的線程的具體實(shí)現(xiàn)的，因?yàn)槌Ｒ姷耐ㄟ^內(nèi)核線程實(shí)現(xiàn)的方式在創(chuàng)建、調(diào)度時(shí)都需要進(jìn)行內(nèi)核參與，所以成本比較高，盡管JAVA中提供了線程池的方式來避免重復(fù)創(chuàng)建線程，但是依舊有很大的優(yōu)化空間。而且這種實(shí)現(xiàn)方式意味著受機(jī)器資源的影響，平臺(tái)線程數(shù)也是有限制的。

虛擬線程

JDK 19引入的虛擬線程，是JDK 實(shí)現(xiàn)的輕量級(jí)線程，他可以避免上下文切換帶來的的額外耗費(fèi)。他的實(shí)現(xiàn)原理其實(shí)是JDK不再是每一個(gè)線程都一對(duì)一的對(duì)應(yīng)一個(gè)操作系統(tǒng)的線程了，而是會(huì)將多個(gè)虛擬線程映射到少量操作系統(tǒng)線程中，通過有效的調(diào)度來避免那些上下文切換。

而且，我們可以在應(yīng)用程序中創(chuàng)建非常多的虛擬線程，而不依賴于平臺(tái)線程的數(shù)量。這些虛擬線程是由JVM管理的，因此它們不會(huì)增加額外的上下文切換開銷，因?yàn)樗鼈冏鳛槠胀↗ava對(duì)象存儲(chǔ)在RAM中。

虛擬線程與平臺(tái)線程的區(qū)別

首先，虛擬線程總是守護(hù)線程。setDaemon (false)方法不能將虛擬線程更改為非守護(hù)線程。所以，需要注意的是，當(dāng)所有啟動(dòng)的非守護(hù)進(jìn)程線程都終止時(shí)，JVM將終止。這意味著JVM不會(huì)等待虛擬線程完成后才退出。

其次，即使使用setPriority()方法，虛擬線程始終具有normal的優(yōu)先級(jí)，且不能更改優(yōu)先級(jí)。在虛擬線程上調(diào)用此方法沒有效果。

還有就是，虛擬線程是不支持stop()、suspend()或resume()等方法。這些方法在虛擬線程上調(diào)用時(shí)會(huì)拋出UnsupportedOperationException異常。

如何使用虛擬線程

接下來介紹一下，在JDK 19中如何使用虛擬線程。

首先，通過Thread.startVirtualThread()可以運(yùn)行一個(gè)虛擬線程：

Thread.startVirtualThread(() -> {    System.out.println("虛擬線程執(zhí)行中...");});

其次，通過Thread.Builder也可以創(chuàng)建虛擬線程，Thread類提供了ofPlatform()來創(chuàng)建一個(gè)平臺(tái)線程、ofVirtual()來創(chuàng)建虛擬現(xiàn)場。

Thread.Builder platformBuilder = Thread.ofPlatform().name("平臺(tái)線程");Thread.Builder virtualBuilder = Thread.ofVirtual().name("虛擬線程");
Thread t1 = platformBuilder .start(() -> {...}); Thread t2 = virtualBuilder.start(() -> {...});

另外，線程池也支持了虛擬線程，可以通過Executors.newVirtualThreadPerTaskExecutor()來創(chuàng)建虛擬線程：

try (var executor = Executors.newVirtualThreadPerTaskExecutor()) {    IntStream.range(0, 10000).forEach(i -> {        executor.submit(() -> {            Thread.sleep(Duration.ofSeconds(1));            return i;        });    });}

但是，其實(shí)并不建議虛擬線程和線程池一起使用，因?yàn)镴ava線程池的設(shè)計(jì)是為了避免創(chuàng)建新的操作系統(tǒng)線程的開銷，但是創(chuàng)建虛擬線程的開銷并不大，所以其實(shí)沒必要放到線程池中。

性能差異

說了半天，虛擬線程到底能不能提升性能，能提升多少呢？我們來做個(gè)測試。

我們寫一個(gè)簡單的任務(wù)，在控制臺(tái)中打印消息之前等待1秒：

final AtomicInteger atomicInteger = new AtomicInteger();

Runnable runnable = () -> {
  try {
    Thread.sleep(Duration.ofSeconds(1));
  } catch(Exception e) {
      System.out.println(e);
  }
  System.out.println("Work Done - " + atomicInteger.incrementAndGet());
};

現(xiàn)在，我們將從這個(gè)Runnable創(chuàng)建10,000個(gè)線程，并使用虛擬線程和平臺(tái)線程執(zhí)行它們，以比較兩者的性能。

先來我們比較熟悉的平臺(tái)線程的實(shí)現(xiàn)：

Instant start = Instant.now();

try (var executor = Executors.newFixedThreadPool(100)) {
  for(int i = 0; i < 10_000; i++) {
    executor.submit(runnable);
  }
}

Instant finish = Instant.now();
long timeElapsed = Duration.between(start, finish).toMillis();  
System.out.println("總耗時(shí) : " + timeElapsed);

輸出結(jié)果為：

總耗時(shí) : 102323

總耗時(shí)大概100秒左右。接下來再用虛擬線程跑一下看看

因?yàn)樵贘DK 19中，虛擬線程是一個(gè)預(yù)覽API，默認(rèn)是禁用。所以需要使用$ java——source 19——enable-preview xx.java 的方式來運(yùn)行代碼。?

Instant start = Instant.now();

try (var executor = Executors.newVirtualThreadPerTaskExecutor()) {
  for(int i = 0; i < 10_000; i++) {
    executor.submit(runnable);
  }
}

Instant finish = Instant.now();
long timeElapsed = Duration.between(start, finish).toMillis();  
System.out.println("總耗時(shí) : " + timeElapsed);