大家好，我是小風哥，有很多同學問能不能發下之前的文章，后續我會找一些之前閱讀量不錯的發下，本文首發于2021年1月，以下是正文。

在講解該技術之前，我們需要預習一下文件以及文件描述符。

什么是文件

程序員使用I/O最終都逃不過文件這個概念。

在Linux世界中文件是一個很簡單的概念，作為程序員我們只需要將其理解為一個N byte的序列就可以了：

b1, b2, b3, b4, ....... bN

實際上所有的I/O設備都被抽象為了文件這個概念，一切皆文件，Everything is File，磁盤、網絡數據、終端，甚至進程間通信工具管道pipe等都被當做文件對待。

圖片

所有的I/O操作也都可以通過文件讀寫來實現，這一非常優雅的抽象可以讓程序員使用一套接口就能對所有外設I/O操作。

常用的I/O操作接口一般有以下幾類：

• 打開文件，open
• 改變讀寫位置，seek
• 文件讀寫，read、write
• 關閉文件，close

程序員通過這幾個接口幾乎可以實現所有I/O操作，這就是文件這個概念的強大之處。

文件描述符

在上一篇《讀取文件時，程序經歷了什么》中我們講到，要想進行I/O讀操作，像磁盤數據，我們需要指定一個buff用來裝入數據，一般都是這樣寫的：

read(buff);

但是這里我們忽略了一個關鍵問題，那就是雖然我們指定了往哪里寫數據，但是我們該從哪里讀數據呢？

從上一節中我們知道，通過文件這個概念我們能實現幾乎所有I/O操作，因此這里少的一個主角就是文件。

那么我們一般都怎樣使用文件呢？

如果周末你去比較火的餐廳吃飯應該會有體會，一般周末人氣高的餐廳都會排隊，然后服務員會給你一個排隊序號，通過這個序號服務員就能找到你，這里的好處就是服務員無需記住你是誰、你的名字是什么、來自哪里、喜好是什么、是不是保護環境愛護小動物等等，這里的關鍵點就是服務員對你一無所知，但依然可以通過一個號碼就能找到你。

同樣的，在Linux世界要想使用文件，我們也需要借助一個號碼，根據“弄不懂原則”，這個號碼就被稱為了文件描述符，file descriptors，在Linux世界中鼎鼎大名，其道理和上面那個排隊號碼一樣。

因此，文件描述僅僅就是一個數字而已，但是通過這個數字我們可以操作一個打開的文件，這一點要記住。

圖片

有了文件描述符，進程可以對文件一無所知，比如文件在磁盤的什么位置、加載到內存中又是怎樣管理的等等，這些信息統統交由操作系統打理，進程無需關心，操作系統只需要給進程一個文件描述符就足夠了。

因此我們來完善上述程序：

int fd = open(file_name); // 獲取文件描述符
read(fd, buff);

怎么樣，是不是非常簡單。

文件描述符太多了怎么辦

經過了這么多的鋪墊，終于要到高性能、高并發這一主題了。

從前幾節我們知道，所有I/O操作都可以通過文件樣的概念來進行，這當然包括網絡通信。

如果你有一個web服務器，當三次握手成功以后，我們會調用accept來獲取一個鏈接，調用該函數我們同樣會得到一個文件描述符，通過這個文件描述符就可以處理客戶端發送的請求并且把處理結果發送回去。也就是說通過這個描述符我們就可以和客戶端進行通信了。

// 通過accept獲取客戶端的文件描述符
int conn_fd = accept(...);

server的處理邏輯通常是讀取客戶端請求數據，然后執行某些特定邏輯：

if(read(conn_fd, request_buff) > 0) {
    do_something(request_buff);
}

是不是非常簡單，然而世界終歸是復雜的，當然也不是這么簡單的。

接下來就是比較復雜的了。

既然我們的主題是高并發，那么server就不可能只和一個客戶端通信，而是可能會同時和成千上萬個客戶端進行通信。這時你需要處理不再是一個描述符這么簡單，而是有可能要處理成千上萬個描述符。

為了不讓問題一上來就過于復雜，我們先簡單化，假設只同時處理兩個客戶端的請求。

有的同學可能會說，這還不簡單，這樣寫不就行了：

if(read(socket_fd1, buff) > 0) { // 處理第一個
    do_something();
}
if(read(socket_fd2, buff) > 0) { // 處理第二個
    do_something();

在上一篇《讀取文件時，程序都經歷了什么》中我們討論過這是非常典型的阻塞式I/O，如果此時沒有數據可讀那么進程會被阻塞而暫停運行，這時我們就無法處理第二個請求了，即使第二個請求的數據已經就位，這也就意味著處理某一個客戶端時由于進程被阻塞導致剩下的所有其它客戶端必須等待，在同時處理幾萬客戶端的server上，這顯然是不能容忍的。

聰明的你一定會想到使用多線程，為每個客戶端請求開啟一個線程，這樣一個客戶端被阻塞就不會影響到處理其它客戶端的線程了，注意，既然是高并發，那么我們要為成千上萬個請求開啟成千上萬個線程嗎，大量創建銷毀線程會嚴重影響系統性能。

那么這個問題該怎么解決呢？

這里的關鍵點在于，我們事先并不知道一個文件描述對應的I/O設備是否是可讀的、是否是可寫的，在外設的不可讀或不可寫的狀態下進行I/O只會導致進程阻塞被暫停運行。

因此要優雅的解決這個問題，就要從其它角度來思考這個問題了。

不要打電話給我，有需要我會打給你

大家生活中肯定會接到過推銷電話，而且不止一個，一天下來接上十個八個推銷電話你的身體會被掏空的。

這個場景的關鍵點在于打電話的人并不知道你是不是要買東西，只能來一遍遍問你，因此一種更好的策略是不要讓他們打電話給你，記下他們的電話，有需要的話打給他們，這樣推銷員就不會一遍一遍的來煩你了(雖然現實生活中這并不可能)。

在這個例子中，你，就好比內核，推銷者就好比應用程序，電話號碼就好比文件描述符，和你用電話溝通就好比I/O。

現在你應該明白了吧，處理多個文件描述符的更好方法其實就存在于推銷電話中。

因此相比上一節中我們通過I/O接口主動問內核這些文件描述符對應的外設是不是已經就緒了，一種更好的方法是，我們把這些感興趣的文件描述符一股腦扔給內核，并霸氣的告訴內核：“我這里有1萬個文件描述符，你替我監視著它們，有可以讀寫的文件描述符時你就告訴我，我好處理”。而不是弱弱的問內核：“第一個文件描述可以讀寫了嗎？第二個文件描述符可以讀寫嗎？第三個文件描述符可以讀寫了嗎？。。?！?/p>

這樣應用程序就從“繁忙”的主動變為了清閑的被動，反正文件描述可讀可寫了內核會通知我，能偷懶我才不要那么勤奮。

這是一種更加高效的I/O處理機制，現在我們可以一次處理多路I/O了，為這種機制起一個名字吧，再次祭出“弄不懂原則”，就叫I/O多路復用吧，這就是 I/O multiplexing。

I/O多路復用，I/O multiplexing

multiplexing一詞其實多用于通信領域，為了充分利用通信線路，希望在一個信道中傳輸多路信號，要想在一個信道中傳輸多路信號就需要把這多路信號結合為一路，將多路信號組合成一個信號的設備被稱為multiplexer，顯然接收方接收到這一路組合后的信號后要恢復原先的多路信號，這個設備被稱為demultiplexer，如圖所示：

圖片

回到我們的主題。

所謂I/O多路復用指的是這樣一個過程：

1. 我們拿到了一堆文件描述符(不管是網絡相關的、還是磁盤文件相關等等，任何文件描述符都可以)

2. 通過調用某個函數告訴內核：“這個函數你先不要返回，你替我監視著這些描述符，當這堆文件描述符中有可以進行I/O讀寫操作的時候你再返回”

3. 當調用的這個函數返回后我們就能知道哪些文件描述符可以進行I/O操作了。

也就是說通過I/O多路復用我們可以同時處理多路I/O。那么有哪些函數可以用來進行I/O多路復用呢？

在Linux世界中有這樣三種機制可以用來進行I/O多路復用：

• select
• poll
• epoll

接下來我們就來介紹一下牛掰的I/O多路復用三劍客。

I/O多路復用三劍客

本質上select、poll、epoll都是阻塞式I/O，也就是我們常說的同步I/O，原因在于調用這些I/O多路復用函數時如果任何一個需要監視的文件描述符都不可讀或者可寫那么進程會被阻塞暫停執行，直到有文件描述符可讀或者可寫才繼續運行。

1，select：初出茅廬

在select這種I/O多路復用機制下，我們需要把想監控的文件描述集合通過函數參數的形式告訴select，然后select會將這些文件描述符集合拷貝到內核中，我們知道數據拷貝是有性能損耗的，因此為了減少這種數據拷貝帶來的性能損耗，Linux內核對集合的大小做了限制，并規定用戶監控的文件描述集合不能超過1024個，同時當select返回后我們僅僅能知道有些文件描述符可以讀寫了，但是我們不知道是哪一個，因此程序員必須再遍歷一邊找到具體是哪個文件描述符可以讀寫了。

因此，總結下來select有這樣幾個特點：

• 我能照看的文件描述符數量有限，不能超過1024個
• 用戶給我的文件描述符需要拷貝的內核中
• 我只能告訴你有文件描述符滿足要求了，但是我不知道是哪個，你自己一個一個去找吧(遍歷)

因此我們可以看到，select機制的這些特性在高并發網絡服務器動輒幾萬幾十萬并發鏈接的場景下無疑是低效的。

2，poll：小有所成

poll和select是非常相似的，poll相對于select的優化僅僅在于解決了文件描述符不能超過1024個的限制，select和poll都會隨著監控的文件描述數量增加而性能下降，因此不適合高并發場景。

3，epoll：獨步天下

在select面臨的三個問題中，文件描述數量限制已經在poll中解決了，剩下的兩個問題呢？

針對拷貝問題，epoll使用的策略是各個擊破與共享內存。

實際上文件描述符集合的變化頻率比較低，select和poll頻繁的拷貝整個集合，內核都快被煩死了，epoll通過引入epoll_ctl很體貼的做到了只操作那些有變化的文件描述符，同時epoll和內核還成為了好朋友，共享了同一塊內存，這塊內存中保存的就是那些已經可讀或者可寫的的文件描述符集合，這樣就減少了內核和程序的拷貝開銷。

針對需要遍歷文件描述符才能知道哪個可讀可寫這一問題，epoll使用的策略是“當小弟”。

在select和poll機制下，進程要親自下場去各個文件描述符上等待，任何一個文件描述可讀或者可寫就喚醒進程，但是進程被喚醒后也是一臉懵逼并不知道到底是哪個文件描述符可讀或可寫，還要再從頭到尾檢查一遍。

但epoll就懂事多了，主動找到進程要當小弟替大哥出頭。

在這種機制下，進程不需要親自下場了，進程只要等待在epoll上，epoll代替進程去各個文件描述符上等待，當哪個文件描述符可讀或者可寫的時候就告訴epoll，epoll用小本本認真記錄下來然后喚醒大哥：“進程大哥，快醒醒，你要處理的文件描述符我都記下來了”，這樣進程被喚醒后就無需自己從頭到尾檢查一遍，因為epoll小弟都已經記下來了。

因此我們可以看到，在epoll這種機制下，實際上利用的就是“不要打電話給我，有需要我會打給你”這種策略，進程不需要一遍一遍麻煩的問各個文件描述符，而是翻身做主人了，“你們這些文件描述符有哪個可讀或者可寫了主動報上來”，這種機制實際上就是大名鼎鼎的事件驅動，Event-driven，這也是我們下一篇的主題。

實際上在Linux平臺，epoll基本上就是高并發的代名詞。