雪花演算法的原理和 Java 實現
SnowFlake 演算法,是 Twitter 開源的分散式ID生成演算法。其核心思想就是:使用一個 64 bit 的 long 型的數字作為全域性唯一ID。在分散式系統中的應用十分廣泛,且 ID 引入了時間戳,基本上保持自增的,後面的程式碼中有詳細的註解。
這 64 個 bit 中,其中 1 個 bit 是不用的,然後用其中的 41 bit 作為毫秒數,用 10 bit 作為工作機器ID,12 bit 作為序列號。
給大家舉個例子吧,比如下面那個 64 bit 的 long 型數字:
-
第一個部分是 1 個 bit:0,這個是無意義的。
-
第二個部分是 41 個 bit:表示的是時間戳。
-
第三個部分是 5 個 bit:表示的是機房 ID,10001。
-
第四個部分是 5 個 bit:表示的是機器 ID,1 1001。
-
第五個部分是 12 個 bit:表示的序號,就是某個機房某臺機器上這一毫秒內同時生成的 id 的序號,0000 00000000。
1 bit:是不用的,為啥呢?
因為二進位制裡第一個 bit 為如果是 1,那麼都是負數,但是我們生成的 ID都是正數,所以第一個 bit 統一都是 0。
41 bit:表示的是時間戳,單位是毫秒。
41 bit 可以表示的數字多達 2^41 - 1,也就是可以表示 2 ^ 41 - 1 個毫秒值,換算成年就是表示 69 年的時間。
10 bit:記錄工作機器 ID。
代表的是這個服務最多可以部署在 2^10 臺機器上,也就是 1024 臺機器。
但是 10 bit 裡 5 個 bit 代表機房 ID,5 個 bit 代表機器 ID。意思就是最多代表 2 ^ 5 個機房(32 個機房),每個機房裡可以代表 2 ^ 5 個機器(32 臺機器),也可以根據自己公司的實際情況確定。
12 bit:這個是用來記錄同一個毫秒內產生的不同 ID。
12 bit 可以代表的最大正整數是 2 ^ 12 - 1 = 4096,也就是說可以用這個 12 bit 代表的數字來區分同一個毫秒內的 4096 個不同的 ID。
簡單來說,你的某個服務假設要生成一個全域性唯一 ID,那麼就可以傳送一個請求給部署了 SnowFlake 演算法的系統,由這個 SnowFlake 算法系統來生成唯一 ID。
這個 SnowFlake 算法系統首先肯定是知道自己所在的機房和機器的,比如機房 ID = 17,機器 ID = 12。
接著 SnowFlake 算法系統接收到這個請求之後,首先就會用二進位制位運算的方式生成一個 64 bit 的 long 型 ID,64 個 bit 中的第一個 bit 是無意義的。
接著 41 個 bit,就可以用當前時間戳(單位到毫秒),然後接著 5 個 bit 設定上這個機房 ID,還有 5 個 bit 設定上機器 ID。
最後再判斷一下,當前這臺機房的這臺機器上這一毫秒內,這是第幾個請求,給這次生成 ID 的請求累加一個序號,作為最後的 12 個 bit。
最終一個 64 個 bit 的 ID 就出來了,類似於:
這個演算法可以保證,一個機房的一臺機器上,在同一毫秒內生成了一個唯一的 ID。可能一個毫秒內會生成多個 ID,但是有最後 12 個 bit 的序號來區分開來。
下面我們簡單看看這個 SnowFlake 演算法的一個程式碼實現,這就是個示例,大家如果理解了這個意思之後,以後可以自己嘗試改造這個演算法。
總之就是用一個 64 bit 的數字中各個 bit 位來設定不同的標誌位,區分每一個 ID。
SnowFlake 演算法的實現程式碼如下:
publicclassIdWorker{
//因為二進位制裡第一個 bit 為如果是 1,那麼都是負數,但是我們生成的 id 都是正數,所以第一個 bit 統一都是 0。
//機器ID 2進位制5位 32位減掉1位 31個
private long workerId;
//機房ID 2進位制5位 32位減掉1位 31個
private long datacenterId;
//代表一毫秒內生成的多個id的最新序號 12位 4096 -1 = 4095 個
private long sequence;
//設定一個時間初始值 2^41 - 1 差不多可以用69年
private long twepoch = 1585644268888L;
//5位的機器id
private long workerIdBits = 5L;
//5位的機房id
private long datacenterIdBits = 5L;
//每毫秒內產生的id數 2 的 12次方
private long sequenceBits = 12L;
// 這個是二進位制運算,就是5 bit最多隻能有31個數字,也就是說機器id最多隻能是32以內
private long maxWorkerId = -1L ^ (-1L << workerIdBits);
// 這個是一個意思,就是5 bit最多隻能有31個數字,機房id最多隻能是32以內
private long maxDatacenterId = -1L ^ (-1L << datacenterIdBits);
private long workerIdShift = sequenceBits;
private long datacenterIdShift = sequenceBits + workerIdBits;
private long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;
private long sequenceMask = -1L ^ (-1L << sequenceBits);
//記錄產生時間毫秒數,判斷是否是同1毫秒
private long lastTimestamp = -1L;
public long getWorkerId(){
return workerId;
}
public long getDatacenterId() {
return datacenterId;
}
public long getTimestamp() {
return System.currentTimeMillis();
}
public IdWorker(long workerId, long datacenterId, long sequence) {
// 檢查機房id和機器id是否超過31 不能小於0
if (workerId > maxWorkerId || workerId < 0) {
throw new IllegalArgumentException(
String.format("worker Id can't be greater than %d or less than 0",maxWorkerId));
}
if (datacenterId > maxDatacenterId || datacenterId < 0) {
throw new IllegalArgumentException(
String.format("datacenter Id can't be greater than %d or less than 0",maxDatacenterId));
}
this.workerId = workerId;
this.datacenterId = datacenterId;
this.sequence = sequence;
}
// 這個是核心方法,通過呼叫nextId()方法,讓當前這臺機器上的snowflake演算法程式生成一個全域性唯一的id
public synchronized long nextId() {
// 這兒就是獲取當前時間戳,單位是毫秒
long timestamp = timeGen();
if (timestamp < lastTimestamp) {
System.err.printf(
"clock is moving backwards. Rejecting requests until %d.", lastTimestamp);
throw new RuntimeException(
String.format("Clock moved backwards. Refusing to generate id for %d milliseconds",
lastTimestamp - timestamp));
}
// 下面是說假設在同一個毫秒內,又傳送了一個請求生成一個id
// 這個時候就得把seqence序號給遞增1,最多就是4096
if (lastTimestamp == timestamp) {
// 這個意思是說一個毫秒內最多隻能有4096個數字,無論你傳遞多少進來,
//這個位運算保證始終就是在4096這個範圍內,避免你自己傳遞個sequence超過了4096這個範圍
sequence = (sequence + 1) & sequenceMask;
//當某一毫秒的時間,產生的id數 超過4095,系統會進入等待,直到下一毫秒,系統繼續產生ID
if (sequence == 0) {
timestamp = tilNextMillis(lastTimestamp);
}
} else {
sequence = 0;
}
// 這兒記錄一下最近一次生成id的時間戳,單位是毫秒
lastTimestamp = timestamp;
// 這兒就是最核心的二進位制位運算操作,生成一個64bit的id
// 先將當前時間戳左移,放到41 bit那兒;將機房id左移放到5 bit那兒;將機器id左移放到5 bit那兒;將序號放最後12 bit
// 最後拼接起來成一個64 bit的二進位制數字,轉換成10進位制就是個long型
return ((timestamp - twepoch) << timestampLeftShift) |
(datacenterId << datacenterIdShift) |
(workerId << workerIdShift) | sequence;
}
/**
* 當某一毫秒的時間,產生的id數 超過4095,系統會進入等待,直到下一毫秒,系統繼續產生ID
* @param lastTimestamp
* @return
*/
private long tilNextMillis(long lastTimestamp) {
long timestamp = timeGen();
while (timestamp <= lastTimestamp) {
timestamp = timeGen();
}
return timestamp;
}
//獲取當前時間戳
private long timeGen(){
return System.currentTimeMillis();
}
/**
* main 測試類
* @param args
*/
public static void main(String[] args) {
System.out.println(1&4596);
System.out.println(2&4596);
System.out.println(6&4596);
System.out.println(6&4596);
System.out.println(6&4596);
System.out.println(6&4596);
// IdWorker worker = new IdWorker(1,1,1);
// for (int i = 0; i < 22; i++) {
// System.out.println(worker.nextId());
// }
}
}
SnowFlake 演算法的優點
-
高效能高可用:生成時不依賴於資料庫,完全在記憶體中生成。
-
容量大:每秒鐘能生成數百萬的自增 ID。
-
ID 自增:存入資料庫中,索引效率高。
SnowFlake 演算法的缺點
依賴與系統時間的一致性,如果系統時間被回撥,或者改變,可能會造成 ID 衝突或者重複。
實際中我們的機房並沒有那麼多,我們可以改進改演算法,將10bit 的機器 ID優化,成業務表或者和我們系統相關的業務。