如何使用Disruptor（一）Ringbuffer的特別

作者：Trisha 寒桐譯 2013-06-19 11:21:51

首先介紹ringbuffer。我對Disruptor的最初印象就是ringbuffer。但是后來我意識到盡管ringbuffer是整個模式（Disruptor）的核心，但是Disruptor對ringbuffer的訪問控制策略才是真正的關鍵點所在。

最近，我們開源了LMAX Disruptor，它是我們的交易系統吞吐量快（LMAX是一個新型的交易平臺，號稱能夠單線程每秒處理數百萬的訂單）的關鍵原因。為什么我們要將其開源？我們意識到對高性能編程領域的一些傳統觀點，有點不對勁。我們找到了一種更好、更快地在線程間共享數據的方法，如果不公開于業界共享的話，那未免太自私了。同時開源也讓我們覺得看起來更酷。

從這個站點，你可以下載到一篇解釋什么是Disruptor及它為什么如此高性能的文檔。這篇文檔的編寫過程，我并沒有參與太多，只是簡單地插入了一些標點符號和重組了一些我不懂的句子，但是非常高興的是，我仍然從中提升了自己的寫作水平。

我發現要把所有的事情一下子全部解釋清楚還是有點困難的，所有我準備一部分一部分地解釋它們，以適合我的NADD聽眾。

ringbuffer到底是什么？

嗯，正如名字所說的一樣，它是一個環（首尾相接的環），你可以把它用做在不同上下文（線程）間傳遞數據的buffer。

（好吧，這是我通過畫圖板手畫的，我試著畫草圖，希望我的強迫癥不會讓我畫完美的圓和直線）

基本來說，ringbuffer擁有一個序號，這個序號指向數組中下一個可用的元素。（校對注：如下圖右邊的圖片表示序號，這個序號指向數組的索引4的位置。）

隨著你不停地填充這個buffer（可能也會有相應的讀取），這個序號會一直增長，直到繞過這個環。

要找到數組中當前序號指向的元素，可以通過mod操作：

sequence mod array length = array index

以上面的ringbuffer為例（java的mod語法）：12 % 10 = 2。很簡單吧。

事實上，上圖中的ringbuffer只有10個槽完全是個意外。如果槽的個數是2的N次方更有利于基于二進制的計算機進行計算。

（校對注：2的N次方換成二進制就是1000，100，10，1這樣的數字， sequence & （array length－1） = array index，比如一共有8槽，3&（8－1）=3，HashMap就是用這個方式來定位數組元素的，這種方式比取模的速度更快。）

那又怎么樣？

如果你看了維基百科里面的關于環形buffer的詞條，你就會發現，我們的實現方式，與其最大的區別在于：沒有尾指針。我們只維護了一個指向下一個可用位置的序號。這種實現是經過深思熟慮的—我們選擇用環形buffer的最初原因就是想要提供可靠的消息傳遞。我們需要將已經被服務發送過的消息保存起來，這樣當另外一個服務通過nak (校對注：拒絕應答信號)告訴我們沒有成功收到消息時，我們能夠重新發送給他們。

聽起來，環形buffer非常適合這個場景。它維護了一個指向尾部的序號，當收到nak(校對注：拒絕應答信號)請求，可以重發從那一點到當前序號之間的所有消息：

我們實現的ring buffer和大家常用的隊列之間的區別是，我們不刪除buffer中的數據，也就是說這些數據一直存放在buffer中，直到新的數據覆蓋他們。這就是和維基百科版本相比，我們不需要尾指針的原因。ringbuffer本身并不控制是否需要重疊（決定是否重疊是生產者-消費者行為模式的一部分–如果你等不急我寫blog來說明它們，那么可以自行檢出Disruptor項目）。

它為什么如此優秀？

之所以ringbuffer采用這種數據結構，是因為它在可靠消息傳遞方面有很好的性能。這就夠了，不過它還有一些其他的優點。

首先，因為它是數組，所以要比鏈表快，而且有一個容易預測的訪問模式。（譯者注：數組內元素的內存地址的連續性存儲的）。這是對CPU緩存友好的—也就是說，在硬件級別，數組中的元素是會被預加載的，因此在ringbuffer當中，cpu無需時不時去主存加載數組中的下一個元素。（校對注：因為只要一個元素被加載到緩存行，其他相鄰的幾個元素也會被加載進同一個緩存行）

其次，你可以為數組預先分配內存，使得數組對象一直存在（除非程序終止）。這就意味著不需要花大量的時間用于垃圾回收。此外，不像鏈表那樣，需要為每一個添加到其上面的對象創造節點對象—對應的，當刪除節點時，需要執行相應的內存清理操作。