在去年的軟件開發2.0技術大會上，我講了一個支持動態負載均衡的多核查找設計方法。基本思想是采用數據結構分拆的方法，使用了多級的數據結構設計。下面先簡要介紹一下這種多級數據結構的設計思路，然后給出一個采用數組順序查找作為查找表實現的多級數據結構類CDHashArray。

在CDHashArray中，對數組的插入和刪除都是順序化的操作，查找也是近似于順序化的操作，看起來似乎會很慢。實際上對于小數組，比如只有幾個或十來個數組，其效率并不慢，這使得以前在單核時代無法用于大型查找的數組順序查找，在多核時代卻可以得到很好應用前景。

二級查找結構基本思想

要了解多級數據結構設計，首先得知道基本的二級查找數據結構設計思想。

二級查找結構就是在第1級查找時找到二級子表的位置，然后在找到的二級子表中進行第二次查找來找到對應的目標數據。

典型的二級查找結構示意圖如下：

圖 16.2.1: 二級查找結構示意圖

二級查找結構由一級查找表和二級子表構成，一個查找表中的每個節點指向一個二級查找子表。查找時，先將關鍵詞映射成一級查找表的位置，然后將對應位置的二級子表取出，在子表中找到對應的查找目標數據。

Intel Threading Building Blocks(TBB)開源項目中，其中的concurrent_hash_map使用的就是一種最簡單的二級查找結構。它使用了哈希表式的數據結構，并給哈希表的每個桶設一把鎖。

對于普通的查找，這種簡單的二級查找結構也許夠用了，但是對于一些大型的查找，這種簡單的二級查找結構并不能滿足。首先的問題是如果子表數量過多，則鎖的數量也非常多，鎖本身需要占用大量的內存開銷。

如 果子表數量過少，那么又會引起另外一個重要的問題，那就是負載平衡問題。因為這種情況中有可能各個二級子表中的數據數量相差非常大，這將導致某些子表的訪 問量很少，而某些子表的訪問量很大。這些訪問量大的表很容易發生多個線程同時訪問的情況，從而導致集中式鎖競爭情況的發生。

為了解決二級查找結構中的不足，下面來看看多級查找結構的設計思想。

多級查找結構設計思想

多級查找結構是在二級查找結構的基礎上設計的，當某個子表中數據個數過多時，可以將其拆分成兩個或更多個子表，同時新建一個索引表來指向這幾個拆分候的子表，指向原來子表的指針指向新建的索引表。

如果拆分后的子表內插入的數據過多時，可以繼續將其分拆，這樣一直分拆下去，將形成一個多級的查找數據結構，下圖就是一個多級查找結構示意圖。