成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

10億數(shù)據(jù)如何快速找到某個(gè)數(shù) | 經(jīng)典算法BitMap詳解

大數(shù)據(jù) 算法
有一個(gè)無(wú)序有界int數(shù)組{1,2,5,7},初步估計(jì)占用內(nèi)存44=16字節(jié),因?yàn)橹挥?個(gè)數(shù),很容易,可以很快找到需要的數(shù)。但是假如有10億個(gè)這樣的數(shù)呢,10億個(gè)不重復(fù)并且沒(méi)有排過(guò)序的無(wú)符號(hào)的int整數(shù),給出一個(gè)整數(shù),找出給定的某個(gè)數(shù),你該如何操作?

前言

  • BitMap從字面的意思,很多人認(rèn)為是位圖,其實(shí)準(zhǔn)確的來(lái)說(shuō),翻譯成基于位的映射,怎么理解呢?

問(wèn)題引入

有一個(gè)無(wú)序有界int數(shù)組{1,2,5,7},初步估計(jì)占用內(nèi)存44=16字節(jié),因?yàn)橹挥?個(gè)數(shù),很容易,可以很快找到需要的數(shù)。但是假如有10億個(gè)這樣的數(shù)呢,10億個(gè)不重復(fù)并且沒(méi)有排過(guò)序的無(wú)符號(hào)的int整數(shù),給出一個(gè)整數(shù),找出給定的某個(gè)數(shù),你該如何操作?

需求分析:Int類型在Java中的存儲(chǔ)占用4個(gè)Byte,32Bit。10億4/(102410241024)=3.72G左右。如果這樣的一個(gè)大的數(shù)據(jù)做查找和排序,那估計(jì)內(nèi)存也崩潰了,有人說(shuō),這些數(shù)據(jù)可以不用一次性加載,那就是要存盤(pán)了,存盤(pán)必然消耗IO。我們提倡的是高性能,這個(gè)方案直接不考慮。

[[330308]]

問(wèn)題分析

如果用BitMap思想來(lái)解決的話,就好很多,那么BitMap是怎么解決的啊,如下:

一個(gè)byte是占8個(gè)bit,如果每一個(gè)bit的值就是有或者沒(méi)有,也就是二進(jìn)制的0或者1,如果用bit的位置代表數(shù)組值有還是沒(méi)有,那么0代表該數(shù)值沒(méi)有出現(xiàn)過(guò),1代表該數(shù)組值出現(xiàn)過(guò)。不也能描述數(shù)據(jù)了嗎?具體如下圖: 

10億數(shù)據(jù)如何快速找到某個(gè)數(shù) | 經(jīng)典算法BitMap詳解

是不是很神奇,那么現(xiàn)在假如10億的數(shù)據(jù)所需的空間就是3.72G/32了吧,一個(gè)占用32bit的數(shù)據(jù)現(xiàn)在只占用了1bit,節(jié)省了不少的空間,排序就更不用說(shuō)了,一切顯得那么順利。這樣的數(shù)據(jù)之間沒(méi)有關(guān)聯(lián)性,要是讀取的,你可以用多線程的方式去讀取。時(shí)間復(fù)雜度方面也是O(Max/n),其中Max為byte[]數(shù)組的大小,n為線程大小。

三、應(yīng)用與代碼

如果BitMap僅僅是這個(gè)特點(diǎn),我覺(jué)得還不是它的優(yōu)雅的地方,接下來(lái)繼續(xù)欣賞它的魅力所在。下面的計(jì)算思想其實(shí)就是針對(duì)bit的邏輯運(yùn)算得到,類似這種邏輯運(yùn)算的應(yīng)用場(chǎng)景可以用于權(quán)限計(jì)算之中。

再看代碼之前,我們先搞清楚一個(gè)問(wèn)題,一個(gè)數(shù)怎么快速定位它的索引號(hào),也就是說(shuō)搞清楚byte[index]的index是多少,position是哪一位。舉個(gè)例子吧,例如add(14)。14已經(jīng)超出byte[0]的映射范圍,在byte[1]范圍之類。那么怎么快速定位它的索引呢。如果找到它的索引號(hào),又怎么定位它的位置呢。Index(N)代表N的索引號(hào),Position(N)代表N的所在的位置號(hào)。

  • Index(N) = N/8 = N >> 3;
  • Position(N) = N%8 = N & 0x07;

(1) add(int num)

你要向bitmap里add數(shù)據(jù)該怎么辦呢,不用擔(dān)心,很簡(jiǎn)單,也很神奇。上面已經(jīng)分析了,add的目的是為了將所在的位置從0變成1.其他位置不變. 

10億數(shù)據(jù)如何快速找到某個(gè)數(shù) | 經(jīng)典算法BitMap詳解

實(shí)例代碼:

  1. public void add(int num){ 
  2.         // num/8得到byte[]的index 
  3.         int arrayIndex = num >> 3;  
  4.          
  5.         // num%8得到在byte[index]的位置 
  6.         int position = num & 0x07;  
  7.          
  8.         //將1左移position后,那個(gè)位置自然就是1,然后和以前的數(shù)據(jù)做|,這樣,那個(gè)位置就替換成1了。 
  9.         bits[arrayIndex] |= 1 << position;  
  10.     } 

(2) clear(int num)

對(duì)1進(jìn)行左移,然后取反,最后與byte[index]作與操作。 

10億數(shù)據(jù)如何快速找到某個(gè)數(shù) | 經(jīng)典算法BitMap詳解

實(shí)例代碼:

  1. public void clear(int num){ 
  2.         // num/8得到byte[]的index 
  3.         int arrayIndex = num >> 3;  
  4.          
  5.         // num%8得到在byte[index]的位置 
  6.         int position = num & 0x07;  
  7.          
  8.         //將1左移position后,那個(gè)位置自然就是1,然后對(duì)取反,再與當(dāng)前值做&,即可清除當(dāng)前的位置了. 
  9.         bits[arrayIndex] &= ~(1 << position);  
  10.  
  11.     } 

(3) contain(int num) 

10億數(shù)據(jù)如何快速找到某個(gè)數(shù) | 經(jīng)典算法BitMap詳解

實(shí)例代碼:

  1. public boolean contain(int num){ 
  2.        // num/8得到byte[]的index 
  3.        int arrayIndex = num >> 3;  
  4.         
  5.        // num%8得到在byte[index]的位置 
  6.        int position = num & 0x07;  
  7.         
  8.        //將1左移position后,那個(gè)位置自然就是1,然后和以前的數(shù)據(jù)做&,判斷是否為0即可 
  9.        return (bits[arrayIndex] & (1 << position)) !=0;  
  10.    } 

全部代碼如下:

  1. public class BitMap { 
  2.     //保存數(shù)據(jù)的 
  3.     private byte[] bits; 
  4.      
  5.     //能夠存儲(chǔ)多少數(shù)據(jù) 
  6.     private int capacity; 
  7.      
  8.      
  9.     public BitMap(int capacity){ 
  10.         this.capacity = capacity; 
  11.          
  12.         //1bit能存儲(chǔ)8個(gè)數(shù)據(jù),那么capacity數(shù)據(jù)需要多少個(gè)bit呢,capacity/8+1,右移3位相當(dāng)于除以8 
  13.         bits = new byte[(capacity >>3 )+1]; 
  14.     } 
  15.      
  16.     public void add(int num){ 
  17.         // num/8得到byte[]的index 
  18.         int arrayIndex = num >> 3;  
  19.          
  20.         // num%8得到在byte[index]的位置 
  21.         int position = num & 0x07;  
  22.          
  23.         //將1左移position后,那個(gè)位置自然就是1,然后和以前的數(shù)據(jù)做|,這樣,那個(gè)位置就替換成1了。 
  24.         bits[arrayIndex] |= 1 << position;  
  25.     } 
  26.      
  27.     public boolean contain(int num){ 
  28.         // num/8得到byte[]的index 
  29.         int arrayIndex = num >> 3;  
  30.          
  31.         // num%8得到在byte[index]的位置 
  32.         int position = num & 0x07;  
  33.          
  34.         //將1左移position后,那個(gè)位置自然就是1,然后和以前的數(shù)據(jù)做&,判斷是否為0即可 
  35.         return (bits[arrayIndex] & (1 << position)) !=0;  
  36.     } 
  37.      
  38.     public void clear(int num){ 
  39.         // num/8得到byte[]的index 
  40.         int arrayIndex = num >> 3;  
  41.          
  42.         // num%8得到在byte[index]的位置 
  43.         int position = num & 0x07;  
  44.          
  45.         //將1左移position后,那個(gè)位置自然就是1,然后對(duì)取反,再與當(dāng)前值做&,即可清除當(dāng)前的位置了. 
  46.         bits[arrayIndex] &= ~(1 << position);  
  47.  
  48.     } 
  49.      
  50.     public static void main(String[] args) { 
  51.         BitMap bitmap = new BitMap(100); 
  52.         bitmap.add(7); 
  53.         System.out.println("插入7成功"); 
  54.          
  55.         boolean isexsit = bitmap.contain(7); 
  56.         System.out.println("7是否存在:"+isexsit); 
  57.          
  58.         bitmap.clear(7); 
  59.         isexsit = bitmap.contain(7); 
  60.         System.out.println("7是否存在:"+isexsit); 
  61.     } 

總結(jié):

Bitmap典型的應(yīng)用場(chǎng)景為:大量數(shù)據(jù)的快速排序、查找、去重

其被廣泛用于數(shù)據(jù)庫(kù)和搜索引擎中,通過(guò)利用位級(jí)并行,它們可以顯著加快查詢速度。

但是,位圖索引會(huì)占用大量的內(nèi)存,因此我們會(huì)更喜歡壓縮位圖索引。

以上為全部?jī)?nèi)容。

 

責(zé)任編輯:未麗燕 來(lái)源: 今日頭條
相關(guān)推薦

2024-07-04 13:42:12

2025-06-26 08:22:03

2025-05-12 01:55:00

MySQL存儲(chǔ)數(shù)據(jù)

2019-08-20 00:39:28

數(shù)據(jù)存儲(chǔ)層冗余

2025-02-21 08:20:33

2024-08-13 14:10:49

2024-06-03 06:45:18

2024-03-06 09:22:23

C#數(shù)據(jù)庫(kù)判重

2024-02-19 11:49:23

JavaBitMap類型

2023-09-04 10:10:47

插件頁(yè)面元素

2015-04-03 12:47:14

NoSQL開(kāi)源非關(guān)系型數(shù)據(jù)庫(kù)

2019-03-05 10:16:54

數(shù)據(jù)分區(qū)表SQLserver

2022-11-16 13:16:23

微軟Windows

2021-01-26 05:33:07

排序算法快速

2024-04-15 08:30:53

MySQLORM框架

2021-05-24 08:58:34

Redis Bitmap 數(shù)據(jù)統(tǒng)計(jì)

2021-02-05 10:58:28

數(shù)據(jù)存儲(chǔ)架構(gòu)

2024-07-02 08:28:17

開(kāi)源代碼社區(qū)

2019-05-05 09:28:59

架構(gòu)數(shù)據(jù)查詢

2019-07-29 14:40:26

架構(gòu)存儲(chǔ)檢索
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)

主站蜘蛛池模板: 日韩精品一区二区三区在线观看 | 欧美色综合网 | 国产1区2区 | 久久久久久99 | 成人在线观看免费 | 国产一区二区久久 | 一区二区三区免费在线观看 | 欧美国产大片 | 99热首页 | 五月综合激情婷婷 | 日韩精品一区二区三区四区 | 国产精品永久免费视频 | 亚洲国产成人精品久久久国产成人一区 | 久久综合久 | 欧美激情视频一区二区三区在线播放 | 玖操| 日韩欧美国产电影 | 国产高清视频在线观看播放 | 国产一区二区久久 | 中文字幕一区二区三区精彩视频 | 国产精品久久久久久久久免费樱桃 | 国产丝袜一区二区三区免费视频 | 国产一区二区在线播放视频 | 久久亚洲精品久久国产一区二区 | 亚洲欧美激情精品一区二区 | 成年女人免费v片 | 精品99久久久久久 | 亚洲精品一区中文字幕乱码 | 成人国产精品久久久 | 中文在线观看视频 | 天堂av在线影院 | 日韩一二三区视频 | 欧美xxxx色视频在线观看免费 | 在线欧美一区二区 | 中文字幕国产精品 | 日韩在线免费 | 久久www免费人成看片高清 | 中文字幕在线一区 | 亚洲国产精品一区在线观看 | 91成人免费电影 | 成人三级视频在线观看 |