成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

基于Redis分布式BitMap的應用

開發 前端
在實際開發中常常遇到如下需求:判斷當前元素是否存在于已知的集合中,將已知集合中的元素維護一個HashSet,使用時只需耗時O(1)的時間復雜度便可判斷出結果,Java內部或者Redis均提供相應的數據結構。使用此種方式除了占用內存空間外,幾乎沒有其它缺點。當數據量達到億級別時,內存空間的占用顯著表現出來,BitMap便是解決此類問題的一種途徑。

一、序言

在實際開發中常常遇到如下需求:判斷當前元素是否存在于已知的集合中,將已知集合中的元素維護一個HashSet,使用時只需耗時O(1)的時間復雜度便可判斷出結果,Java內部或者Redis均提供相應的數據結構。使用此種方式除了占用內存空間外,幾乎沒有其它缺點。

當數據量達到億級別時,內存空間的占用顯著表現出來,BitMap便是解決此類問題的一種途徑。

二、BitMap結構

1、內存消耗分析

Redis BitMap能夠存儲的數據范圍為[0,2^32-1],超過Integer.MAX_VALUE上界值。

為了簡化討論,假設討論的集合元素的范圍為[0,Integer.MAX_VALUE],可以是其中的任何一個數。

使用HashSet數據結構占用內存空間僅與集合中的元素數量(N)相關。當集合中元素數量為N時,所需的內存空間大概為N*4/1024/1024MB,1億條數據約占內存空間381MB。

基于Redis的BitMap所占用的空間大小不與集合中元素數量相關,與集合中元素的最大值直接相關,因此BitMap所占用的內存空間范圍為[N / 8 / 1024 / 1024,Integer.MAX_VALUE / 8 / 1024 / 1024]。

// 測試1億、5億、10億、Integer.MAX_VALUE
List<Integer> items = Arrays.asList(100000000, 500000000, 1000000000, Integer.MAX_VALUE);
for (Integer item : items) {
int size = item / 8 / 1024 / 1024;
System.out.printf("如果集合中最大值為%-10s,則所占用的內存空間為%3sMB%n",item, size);
}

這里給出了一組測試參考數據

如果集合中最大值為100000000 ,則所占用的內存空間為 11MB
如果集合中最大值為500000000 ,則所占用的內存空間為 59MB
如果集合中最大值為1000000000,則所占用的內存空間為119MB
如果集合中最大值為2147483647,則所占用的內存空間為255MB

當集合中數據增長到10億條時,使用BItMap最大占用內存約為255MB,而使用HashSet增長到3.8GB。

2、命令行操作BitMap

使用Redis命令行可直接操作BitMap,將offset位置的值標注為1,則表示當前數據存在。默認情況下未標注的位置值為0。

# 默認位不賦值為0,當數據存在于集合中,將對應位賦值為1
SETBIT key offset value
# 查看對應位數據是否存在(1表示存在,0表示不存在)
GETBIT key offset

3、客戶端操作BitMap

這里提供一個SpringBoot生態的RedisUtils工具類,內部封裝操作Redis BitMap的工具方法。

// 將當前位置標記為true
RedisUtils.setBit(BIT_MAP_KEY, orderId, true);
// 獲取指定位置的值(對應數值是否存在)
RedisUtils.getBit(BIT_MAP_KEY, orderId)

上述工具類的依賴如下,如果找不到Jar包,請直接使用Maven原始倉庫源,阿里云尚未同步完成。

<dependency>
<groupId>xin.altitude.cms</groupId>
<artifactId>ucode-cms-common</artifactId>
<version>1.4.3</version>
</dependency>

4、時間與空間復雜度

BitMap的存儲與取值時間復雜度為O(1),根據數值可直接映射下標。

BitMap占用內存空間復雜度為O(n),與集合中元素的最大值正相關,不是集合中元素的數量。

三、BitMap應用

1、回避緩存穿透

緩存穿透是指當前請求的數據在緩存中不存在,需要訪問數據庫獲取數據(數據庫中也不存在請求的數據)。緩存穿透給數據庫帶來了壓力,惡意緩存穿透甚至能造成數據庫宕機。

使用BitMap動態維護一個集合,當訪問數據庫前,先查詢數據的主鍵是否存在集合中,以此作為是否訪問數據庫的依據。

BitMap新增數據或者移除數據屬于輕量級操作,檢查操作的準確度依賴于動態集合維護的閉環的完整性。比如向數據庫增加數據時需要向BitMap中添加數據,從數據庫中刪除數據需要從BitMap中移除數據。如果要求嚴格的檢查可靠性,則可以單獨維護一個分布式定時任務,定期更新BitMap數據。

2、與布隆過濾器的區別

布隆過濾器與BitMap有相似的應用場景,但也有一定的區別。給定一個數,BitMap能準確知道是否存在于已知集合中;布隆過濾器能準確判斷是否不在集合中,卻不能肯定存在于集合中。

BitMap增加或者移除數據時間復雜度為O(1),方便快捷。布隆過濾器新建容易,剔除數據操作比較繁瑣。

在一些需要精確判斷的場景,優先選擇BitMap,比如判斷手機號是否已經注冊。

四、小結

Redis BitMap不是一種新的數據結構,是利用字符串類型做的一層封裝,看起來像一種新型數據結構。BitMap不像一種技術,更像是算法,在時間復雜度和空間復雜度之間尋找平衡點。

BitMap其它應用場景比如簽到打卡,統計在線人數等等。

責任編輯:未麗燕 來源: 今日頭條
相關推薦

2019-06-19 15:40:06

分布式鎖RedisJava

2021-06-03 00:02:43

RedisRedlock算法

2021-07-30 00:09:21

Redlock算法Redis

2022-03-08 07:22:48

Redis腳本分布式鎖

2015-04-21 09:39:03

javajava分布式爬蟲

2017-10-24 11:28:23

Zookeeper分布式鎖架構

2021-10-26 19:37:15

RedisRedis應用篇

2017-04-13 10:51:09

Consul分布式

2018-12-14 10:06:22

緩存分布式系統

2021-11-01 12:25:56

Redis分布式

2022-06-16 08:01:24

redis分布式鎖

2018-05-19 00:26:13

UAI Train分布式訓練

2021-04-15 22:02:53

區塊鏈金融比特幣

2025-05-16 08:58:47

Mongodb分布式存儲

2022-10-27 10:44:14

分布式Zookeeper

2023-08-21 19:10:34

Redis分布式

2019-07-22 09:35:23

RedisSentinel

2022-01-06 10:58:07

Redis數據分布式鎖

2019-02-18 11:16:12

Redis分布式緩存

2017-11-03 15:05:56

Storm數據處理服務器
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 精品久久久久久久久久久院品网 | 久久久91精品国产一区二区精品 | 精品久久久久久亚洲精品 | 国产精品久久久久久久久久久新郎 | 久久国产精品免费一区二区三区 | 天天夜夜人人 | 热久久性| 亚洲一区二区在线视频 | 99re视频在线观看 | 色黄网站| 国产一区二区三区免费 | 亚洲欧美日韩精品久久亚洲区 | 国产精品不卡一区 | 毛片网站在线观看 | 国产精品精品久久久久久 | 亚洲精品99久久久久久 | av毛片在线免费观看 | 男人的天堂一级片 | 黄色片免费在线观看 | 国产成人精品一区二区三区网站观看 | 欧美视频三级 | 视频一区二区在线观看 | 草久在线视频 | 我要看一级片 | 99免费| 国产真实精品久久二三区 | 成人h免费观看视频 | 国产一区二区三区免费 | 欧美在线一区二区三区 | www.玖玖玖| 成人片免费看 | 国产精品自拍av | 国产精品爱久久久久久久 | 久久精品1 | 欧美成人免费在线 | 成人精品视频 | 久久国产精品免费一区二区三区 | 中文字幕在线第二页 | 国产99在线 | 欧美 | 久久激情av | 伊人春色成人 |