零拷貝（Zero-copy）技術(shù)是一種計(jì)算機(jī)操作系統(tǒng)中用于提高數(shù)據(jù)傳輸效率的優(yōu)化策略。在傳統(tǒng)的數(shù)據(jù)傳輸過程中，需要將數(shù)據(jù)從一個(gè)緩沖區(qū)拷貝到另一個(gè)緩沖區(qū)，然后再傳輸給目標(biāo)。這涉及到多次的 CPU 和內(nèi)存之間的數(shù)據(jù)拷貝操作，會(huì)消耗 CPU 的時(shí)間和內(nèi)存帶寬。而零拷貝技術(shù)通過直接共享數(shù)據(jù)的內(nèi)存地址，避免了中間的拷貝過程，從而提高了數(shù)據(jù)傳輸?shù)男省?/p>

1.傳統(tǒng) IO 執(zhí)行流程

要搞明白零拷貝技術(shù)就要先搞清楚傳統(tǒng) IO 的執(zhí)行流程，傳統(tǒng)的 IO 的執(zhí)行流程如下：

圖片

1.1 用戶態(tài)和內(nèi)核態(tài)

操作系統(tǒng)有用戶態(tài)和內(nèi)核態(tài)之分，這是因?yàn)橛?jì)算機(jī)體系結(jié)構(gòu)中的操作系統(tǒng)設(shè)計(jì)了兩個(gè)不同的執(zhí)行環(huán)境，以提供不同的功能和特權(quán)級(jí)別。

• 用戶態(tài)（User Mode）是指應(yīng)用程序運(yùn)行時(shí)的執(zhí)行環(huán)境。在用戶態(tài)下，應(yīng)用程序只能訪問受限資源，如應(yīng)用程序自身的內(nèi)存空間、CPU 寄存器等，并且不能直接訪問操作系統(tǒng)的底層資源和硬件設(shè)備。
• 內(nèi)核態(tài)（Kernel Mode）是指操作系統(tǒng)內(nèi)核運(yùn)行時(shí)的執(zhí)行環(huán)境。在內(nèi)核態(tài)下，操作系統(tǒng)具有更高的權(quán)限，可以直接訪問系統(tǒng)的硬件和底層資源，如 CPU、內(nèi)存、設(shè)備驅(qū)動(dòng)程序等。

1.2 DMA

DMA（Direct Memory Access，直接內(nèi)存訪問）技術(shù)，繞過 CPU，直接在內(nèi)存和外設(shè)之間進(jìn)行數(shù)據(jù)傳輸。這樣可以減少 CPU 的參與，提高數(shù)據(jù)傳輸?shù)男省?/p>

2.零拷貝技術(shù)的實(shí)現(xiàn)

零拷貝技術(shù)可以利用 Linux 下的 MMap、sendFile 等手段來實(shí)現(xiàn)，使得數(shù)據(jù)能夠直接從磁盤映射到內(nèi)核緩沖區(qū)，然后通過 DMA 傳輸?shù)骄W(wǎng)卡緩存，整個(gè)過程中 CPU 只負(fù)責(zé)管理和調(diào)度，而無需執(zhí)行實(shí)際的數(shù)據(jù)復(fù)制指令。

2.1 MMap

MMap（Memory Map）是 Linux 操作系統(tǒng)中提供的一種將文件映射到進(jìn)程地址空間的一種機(jī)制，通過 MMap 進(jìn)程可以像訪問內(nèi)存一樣訪問文件，而無需顯式的復(fù)制操作。

使用 MMap 可以把 IO 執(zhí)行流程優(yōu)化成以下執(zhí)行步驟：

圖片

傳統(tǒng)的 IO 需要四次拷貝和四次上下文（用戶態(tài)和內(nèi)核態(tài)）切換，而 MMap 只需要三次拷貝和四次上下文切換，從而能夠提升程序整體的執(zhí)行效率，并且節(jié)省了程序的內(nèi)存空間。

2.2 senFile 方法

在 Linux 操作系統(tǒng)中 sendFile() 是一個(gè)系統(tǒng)調(diào)用函數(shù)，用于高效地將文件數(shù)據(jù)從內(nèi)核空間直接傳輸?shù)骄W(wǎng)絡(luò)套接字（Socket）上，從而實(shí)現(xiàn)零拷貝技術(shù)。這個(gè)函數(shù)的主要目的是減少 CPU 上下文切換以及內(nèi)存復(fù)制操作，提高文件傳輸性能。

使用 sendFile() 可以把 IO 執(zhí)行流程優(yōu)化成以下執(zhí)行步驟：

圖片

3.哪些地方用到了零拷貝技術(shù)？

在 Java 中，以下幾個(gè)地方使用了零拷貝技術(shù)：

1. NIO（New I/O）通道：java.nio.channels.FileChannel 提供了 transferTo() 和 transferFrom() 方法，可以直接將數(shù)據(jù)從一個(gè)通道傳輸?shù)搅硪粋€(gè)通道，例如從文件通道直接傳輸?shù)?Socket 通道，整個(gè)過程無需將數(shù)據(jù)復(fù)制到用戶空間緩沖區(qū)，從而實(shí)現(xiàn)了零拷貝。
2. Socket Direct Buffer：在 JDK 1.4 及更高版本中，Java NIO 支持使用直接緩沖區(qū)（DirectBuffer），這類緩沖區(qū)是在系統(tǒng)堆外分配的，可以直接由網(wǎng)卡硬件進(jìn)行 DMA 操作，減少數(shù)據(jù)在用戶態(tài)與內(nèi)核態(tài)之間復(fù)制次數(shù) ，提高網(wǎng)絡(luò)數(shù)據(jù)發(fā)送效率。
3. Apache Kafka 或者 Netty 等高性能框架：這些框架在底層實(shí)現(xiàn)上通常會(huì)利用 Java NIO 的上述特性來優(yōu)化數(shù)據(jù)傳輸，如 Kafka 生產(chǎn)者和消費(fèi)者在傳輸消息時(shí)會(huì)用到零拷貝技術(shù)以提升性能。

小結(jié)

使用零拷貝技術(shù)可以減少 CPU 拷貝，及減少了上下文的切換帶來的性能開銷，提高了程序的整體執(zhí)行效率，它們的區(qū)別對(duì)比如下表格所示：

課后思考

無論是傳統(tǒng) IO，還是零拷貝，其中兩次 DMA 拷貝都不能省略，這是為什么？零拷貝技術(shù)除了 MMap 和 sendFile() 之外，還有沒有其他的技術(shù)實(shí)現(xiàn)？