成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

分布式環(huán)境下如何保證 ID 的唯一性

開發(fā) 前端 分布式
首先說下我們?yōu)槭裁葱枰植际?ID,以及分布式 ID 是用來解決什么問題的。當我們的項目還處于單體架構的時候,我們使用數(shù)據(jù)庫的自增 ID 就可以解決很多數(shù)據(jù)標識問題。

[[408786]]

本文轉載自微信公眾號「Java極客技術」,作者鴨血粉絲。轉載本文請聯(lián)系Java極客技術公眾號。

前言

首先說下我們?yōu)槭裁葱枰植际?ID,以及分布式 ID 是用來解決什么問題的。當我們的項目還處于單體架構的時候,我們使用數(shù)據(jù)庫的自增 ID 就可以解決很多數(shù)據(jù)標識問題。但是隨著我們的業(yè)務發(fā)展我們的架構就會逐漸演變成分布式架構,那么這個時候再使用數(shù)據(jù)的自增 ID 就不行了,因為一個業(yè)務的數(shù)據(jù)可能會放在好幾個數(shù)據(jù)庫里面,此時我們就需要一個分布式 ID 用來標識一條數(shù)據(jù),因此我們需要一個分布式 ID 的生成服務。那么分布式 ID 的服務有什么要求和挑戰(zhàn)呢?

要求

全局唯一:既然是用來標識數(shù)據(jù)唯一的,那么一個分布式 ID 肯定要是全局唯一的,在同一業(yè)務下的每個服務下面都是一致的,不會變的,這是一個基本的要求;

全局遞增:遞增這個也很好理解,我們要保證生成的 ID 是依次遞增的,因為很多時候 ID 是給人看的,如果說不具備遞增性,就缺乏了很多的可讀性;

信息安全:分布式 ID 的安全性也很重要,因為我們提到生成的 ID 是遞增的,這就有可能會給競爭對手知道我們的 ID 的生成頻率,這種在電商等場景會有很大的問題,但是這個往往跟全局遞增有點沖突;

高可用性:分布式 ID 的生成服務必須是高可用,畢竟一旦不能生成 ID,后續(xù)的所有服務都無法繼續(xù)使用;

常見的分布式 ID 實現(xiàn)

在當下的互聯(lián)網(wǎng)當中,根據(jù)業(yè)務場景以及需求的不同,對于分布式 ID 的實現(xiàn)有如下幾種實現(xiàn)方式:

  1. UUID;
  2. Redis;
  3. 變形的數(shù)據(jù)庫自增 ID;
  4. 推特雪花算法
  5. 美團的 Leaf——雪花算法的變形;

UUID

寫 Java 的朋友對 UUID 肯定不陌生,7dbb9f04-d15e-4c88-b74b-72a35e0d7580 這是一個標準的 UUID,雖然都說 UUID 是全球唯一,具備我們前面提到的要求中的第一點,但是很顯然不具備全局遞增,這種分布式 ID 可讀性很差,如果說只是用來記錄日志或者不需要人去理解的場景是可以用,但是不適合我們這里說的業(yè)務數(shù)據(jù)的唯一標識。而且這種無序的 UUID 如果作為主鍵會很嚴重影響性能。

Redis

Redis 有個 incr 的命令,這個命令是能保證原子遞增的,在某種程度上也是可以生成全局 ID,不過使用 Redis 有兩個問題:

  1. 不美觀,雖然說我們需要的是一個全局 ID,但是 incr 命令是從 1 開始的整型,所以會導致全局 ID 的長度不一致,雖然說也可以用來標識唯一業(yè)務數(shù)據(jù),但是某些場景也缺少可讀性,因為不攜帶日期信息;
  2. 依賴 Redis 的高可用,因為 Redis 是基于內(nèi)存的,為了保證 ID 的不丟失所以需要對 Redis 進行持久化,但是關于 Redis 的兩種持久化的方式各有優(yōu)缺點,詳細的可以參考公眾號之前的文章 面試官:請說下 Redis 是如何保證在宕機后數(shù)據(jù)不丟失的;

數(shù)據(jù)庫自增 ID

前面我們提到單個數(shù)據(jù)庫在分布式環(huán)境下已經(jīng)沒辦法使用自增 ID 了,因為每個 MySQL 的實例自增 ID 都是從 1 開始,并且步長都按照 1依次遞增,這種情況下我們很容易想到是不是可以考慮給每個數(shù)據(jù)庫設置不同的步長。如果我們設置了不同的步長,這樣就可以保證每個數(shù)據(jù)庫實例都可以生成 ID,并且不會重復。雖然簡單的系統(tǒng)可以這樣用,但是也有幾個問題:

依賴數(shù)據(jù)庫 DB,在分布式環(huán)境下,如果過多的依賴數(shù)據(jù)庫是有風險的,無法支持高并發(fā)的情況,特別是對于一些電商交易的場景,每秒幾十萬的 QPS,數(shù)據(jù)庫是扛不住的;

不同數(shù)據(jù)庫實例的數(shù)據(jù)不能直接關聯(lián)上,需要額外的存儲,才能把數(shù)據(jù)串起來,增加業(yè)務復雜度;

推特的雪花算法—— snowflake

snowflake 算法是推特開源的分布式 ID 生成算法,這個算法提供了一個標準的思路,很多公司都參考這個算法做了自己的實現(xiàn),比較有名的是美團的 Leaf。這里我們就著重看下雪花算法是怎么實現(xiàn)的。

感興趣的可以去參考文章 https://tech.meituan.com/2017/04/21/mt-leaf.html 看下美團的 leaf 的實現(xiàn)原理。

雪花算法的思想是化整為零,將分布式 ID 的生成分散到每個機房和機器上,采用一個 64 位 long 類型的的結構來表示一個 ID,64 的結構如下所示,第一位符號位 0,然后是 41 位的時間戳,接下來的 10 位是機房加機器,最后的 12 位是序列號。

上面這個結構是雪花算法的基本結構,不同公司根據(jù)自身的業(yè)務會進行相應的調(diào)整,有的可以采用 32 位或者其他位數(shù),而且時間戳的位數(shù)也可以根據(jù)實際情況進行調(diào)整,10 位的 workerID 有機房的公司可以用機房加機器組成,沒有機房的公司可以直接用機器來組成,序列位也可以根據(jù)情況適當調(diào)整。

我們可以簡單算一下,41 位的時間位是2 ^ 41 / (365 * 24 * 3600 * 1000) = 69 年,每個機器每毫秒可以生成 2 ^ 12 = 4096 個 ID。

那是不是說我們這個代碼只能運行 69 年呢?其實不是的,這里服務在啟動的時候會設置一個初始值,這里的時間戳是用機器的時間減去初始值的差值。那 SnowFlake 算法有什么優(yōu)缺點呢?

  1. 因為有時間戳,所以滿足自增的要求,同時也具備一定的可讀性;
  2. 化整為零每個服務在各自的機器上可以直接生成唯一 ID,只需要配置好機房和機器編號即可;
  3. 長度可以根據(jù)業(yè)務自行調(diào)整;
  4. 缺點是依賴機器的時鐘,如果說機器的時鐘有問題,會導致生成的 ID 可能會重復,這個需要控制;

結合上面的原理,我們可以通過 Java 代碼來具體實現(xiàn),代碼如下:

  1. public class SnowFlakeUtil { 
  2.  
  3.     //初始時間戳 
  4.     private final static long START_TIMESTAMP = 1624796691000L; 
  5.     //數(shù)據(jù)中心占用的位數(shù) 
  6.     private final static long DATA_CENTER_BIT = 5; 
  7.     //機器標識占用的位數(shù) 
  8.     private final static long MACHINE_BIT = 5; 
  9.     //序列號占用的位數(shù) 
  10.     private final static long SEQUENCE_BIT = 12; 
  11.  
  12.  
  13.     /** 
  14.      * 每一部分的最大值 
  15.      */ 
  16.     private final static long MAX_SEQUENCE = ~(-1L << SEQUENCE_BIT); 
  17.     private final static long MAX_MACHINE_NUM = ~(-1L << MACHINE_BIT); 
  18.     private final static long MAX_DATA_CENTER_NUM = ~(-1L << DATA_CENTER_BIT); 
  19.  
  20.     /** 
  21.      * 每一部分向左的位移 
  22.      */ 
  23.     private final static long MACHINE_LEFT = SEQUENCE_BIT; 
  24.     private final static long DATA_CENTER_LEFT = SEQUENCE_BIT + MACHINE_BIT; 
  25.     private final static long TIMESTAMP_LEFT = DATA_CENTER_LEFT + DATA_CENTER_BIT; 
  26.  
  27.     private final long idc; 
  28.     private final long serverId; 
  29.     private long sequence = 0L; 
  30.     private long lastTimeStamp = -1L; 
  31.  
  32.     private long getNextMill() { 
  33.         long mill = System.currentTimeMillis(); 
  34.         while (mill <= lastTimeStamp) { 
  35.             mill = System.currentTimeMillis(); 
  36.         } 
  37.         return mill; 
  38.     } 
  39.  
  40.     /** 
  41.      * 根據(jù)指定的數(shù)據(jù)中心ID和機器標志ID生成指定的序列號 
  42.      * 
  43.      * @param idc      數(shù)據(jù)中心ID 
  44.      * @param serverId 機器標志ID 
  45.      */ 
  46.     public SnowFlakeUtil(long idc, long serverId) { 
  47.         if (idc > MAX_DATA_CENTER_NUM || idc < 0) { 
  48.             throw new IllegalArgumentException("IDC 數(shù)據(jù)中心編號非法!"); 
  49.         } 
  50.         if (serverId > MAX_MACHINE_NUM || serverId < 0) { 
  51.             throw new IllegalArgumentException("serverId 機器編號非法!"); 
  52.         } 
  53.         this.idc = idc; 
  54.         this.serverId = serverId; 
  55.     } 
  56.  
  57.     /** 
  58.      * 生成下一個 ID 
  59.      * 
  60.      * @return 
  61.      */ 
  62.     public synchronized long genNextId() { 
  63.         long currTimeStamp = System.currentTimeMillis(); 
  64.         if (currTimeStamp < lastTimeStamp) { 
  65.             throw new RuntimeException("Clock moved backwards.  Refusing to generate id"); 
  66.         } 
  67.         if (currTimeStamp == lastTimeStamp) { 
  68.             //相同毫秒內(nèi),序列號自增 
  69.             sequence = (sequence + 1) & MAX_SEQUENCE; 
  70.             //同一毫秒的序列數(shù)已經(jīng)達到最大 
  71.             if (sequence == 0L) { 
  72.                 currTimeStamp = getNextMill(); 
  73.             } 
  74.         } else { 
  75.             //不同毫秒內(nèi),序列號置為0 
  76.             sequence = 0L; 
  77.         } 
  78.         lastTimeStamp = currTimeStamp; 
  79.         return (currTimeStamp - START_TIMESTAMP) << TIMESTAMP_LEFT | idc << DATA_CENTER_LEFT | serverId << MACHINE_LEFT | sequence
  80.     } 
  81.  
  82.     public static void main(String[] args) { 
  83.         SnowFlakeUtil snowFlake = new SnowFlakeUtil(4, 3); 
  84.         for (int i = 0; i < 100; i++) { 
  85.             System.out.println(snowFlake.genNextId()); 
  86.         } 
  87.     } 

參考

知乎·一口氣說出9種分布式ID生成方式,面試官有點懵了 

Leaf——美團點評分布式ID生成系統(tǒng)

 

責任編輯:武曉燕 來源: Java極客技術
相關推薦

2024-05-24 09:29:28

2023-10-26 07:32:42

2020-07-21 11:35:21

開發(fā)技能代碼

2021-06-28 14:45:07

分布式框架操作

2022-02-23 07:09:30

分布式ID雪花算法

2021-06-05 07:33:09

ID分布式架構

2023-01-12 17:46:37

分庫分表id如何生成

2022-09-28 07:58:06

MongoDB分布式ID

2021-11-08 19:25:37

Go生成系統(tǒng)

2023-12-13 09:35:52

算法分布式

2022-12-08 08:13:11

分布式數(shù)據(jù)庫CAP

2023-09-03 22:14:23

分布式ID

2017-04-12 09:29:02

HiveMapReduceSpark

2019-09-03 09:22:08

數(shù)據(jù)庫Redis算法

2024-02-02 10:57:12

Java分布式算法

2024-09-05 16:55:41

2021-11-22 16:30:30

分布式一致性分布式系統(tǒng)

2024-10-07 08:52:59

分布式系統(tǒng)分布式 IDID

2022-06-16 07:31:15

MySQL服務器服務
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 午夜午夜精品一区二区三区文 | 精品在线一区 | 欧美日韩亚洲国产 | 精品真实国产乱文在线 | 久久精品亚洲欧美日韩精品中文字幕 | 中文字幕精品一区二区三区精品 | 日韩精品在线免费观看视频 | 国产激情片在线观看 | 91在线最新| 日韩二三区 | 欧美高清免费 | 久久午夜剧场 | 国产福利91精品 | 亚洲va欧美va人人爽午夜 | 久久成人精品视频 | 三区四区在线观看 | 91精品国产综合久久精品 | 国产日屁| 国产成人麻豆免费观看 | 亚洲精品美女 | 欧洲国产精品视频 | 欧美国产日韩在线 | 成人片免费看 | 国产精品久久久久久久久久不蜜臀 | 国产永久免费 | 欧美日一区二区 | 日韩在线观看一区 | 久久99视频精品 | 久久的色 | 一级片免费观看 | 欧美精品一区三区 | 欧美日韩中文在线 | 在线观看国产h | 日韩视频精品在线 | 男人天堂色 | 国产亚洲精品a | 日本三级黄视频 | 91综合网 | 国产黄色电影 | 日韩国产免费观看 | 久久1区|