1. 程式人生 > 其它 >Golang語言分散式ID生成器

Golang語言分散式ID生成器

生成類似MySQL自增ID這樣不斷增大,同事又不會出現重複的ID,以支援業務中的高併發場景。比較典型的:電商促銷,短時間內出現大量的訂單湧入到系統中,比如每秒10W+。

明星出軌時,會有大量的熱情粉絲髮微博以表達自己的心意,同時會在短時間內產生大量的訊息。

在插入資料庫之前,需要給這些資訊、訂單上先打上一個ID,然後在插入到資料庫中,對這個ID要求希望能帶一些時間資訊,這樣即使在後端的系統中對資訊進行了分表,也能夠以時間順序對這些資訊進行排序。

Twitter的snowflake演算法是這種場景中的典型演算法。

snowflake中的位元位分佈

首先確定的數值是64位,int64型別,被劃分為4部分,不含開頭的第一個bit,因為這個bit是符號位。用41位表示收到的請求時間戳,單位為毫秒,然後五位來表是資料中心的ID(datacenter_id),然後再五位表示機器的例項ID(worker_id),然後是12位的迴圈自增ID(sequence_id)到達1111,1111,1111後歸0

這樣的機制可以支援我們在同一臺機器上,同一毫秒內產生2^12=4096條資訊,一秒共409.6萬條資訊。從值域上來講完全夠用了。

資料中心加上例項ID共有10位,可以支援我們每秒資料中心部署32臺機器,所有資料中心共1024臺例項

表示timestamp的41位,可以支援我們使用69年。當然,我們的時間毫秒計數不會真的從1970年開始記,那樣系統跑到2039-9-7 23:47:35就不能用了,所以這裡的timestamp只是相對於某個時間的增量。比如我們的系統上線是2018-08-01,那麼可以把這個timestamp當做從2018-08-01 00:00:00.000的偏移量。

worker_id分配

timestamp,datacenter_id,worker_id,sequence_id這四個欄位中,timestamp和sequence_id是由程式在執行期生成的。但datacenter_id和worker_id需要我們在部署階段就能夠獲取得到,並且一旦程式啟動之後,就是不可更改的(如果可以隨意更改,可能被不填修改,造成最終生成ID有衝突 。)

一般不同的資料中心的機器,會提供對應的資料中心ID的API,所以datacenter_id我們在部署階段輕鬆地獲取到。而worker_id是我們邏輯上給機器分配的ID,這個怎麼處理?比較簡單的想法是由能夠提供這種自增ID功能的工具來支援,比如MySQL:

mysql>INSERT INTO a(ip) values("10.1.1.10");
Query OK,1 row affected(0.00 sec)
mysql>SELECT last_insert_id();
+------------------+
| last_insert_id() |
+------------------+
|                2 |
+------------------+
1 row in set (0.00 sec)

從MySQL中獲取到worker_id之後,就把這個worker_id直接持久化到本地,以避免每次上線時都需要獲取新的worker_id。讓單例項的worker_id可以始終保持不變。

當然,使用MySQL相當於給我們簡單的ID生成服務增加了一個外部依賴。依賴越多,我們服務的客運為性就差。

考慮到叢集中即使有單個ID生成的伺服器的例項掛了,也就是損失一段時間的一部分ID,所以簡單暴力一些,把worker_id直接寫在worker的配置中,上線時,由部署指令碼完成worker_id欄位替換。

開源例項

標準snowflake實現

github.com/bwmarrin/snowflake是一個相當輕量化的snowflake的Go實現,其文件對各位使用的定義圖:

簡單使用:

package main

import (
	"fmt"
	"os"

	"github.com/bwmarrin/snowflake"
)

func main() {
	n, err := snowflake.NewNode(1)
	if err != nil {
		println(err)
		os.Exit(1)
	}
	for i := 0; i < 3; i++ {
		id := n.Generate()
		fmt.Println("id", id)
		fmt.Println(
			"node:", id.Node(),
			"step:", id.Step(),
			"time:", id.Time(),
			"\n",
		)
	}
}
>>>
id 1444921611449798656
node: 1 step: 0 time: 1633331132172 

id 1444921611449798657
node: 1 step: 1 time: 1633331132172 

id 1444921611449798658
node: 1 step: 2 time: 1633331132172

當然,這個庫也留好了定製的後路,其中預留了一些可定製欄位:

// Epoch is set to the twitter snowflake epoch of Nov 04 2010 01:42:54 UTC in milliseconds
// You may customize this to set a different epoch for your application.
Epoch int64 = 1288834974657

// NodeBits holds the number of bits to use for Node
// Remember, you have a total 22 bits to share between Node/Step
NodeBits uint8 = 10

// StepBits holds the number of bits to use for Step
// Remember, you have a total 22 bits to share between Node/Step
StepBits uint8 = 12

Epoch:起始時間

NodeBits:機器編號的位長

StepBits:自增序列的位長

Sonyflake

sonyflake是Sony公司的一個開源專案,基本思路和snowflake差不多,不過位分配上稍有不同

這裡的時間只用了39個bit,但時間的單位變成了10ms,所以理論上比41位表示的時間還要久(174年)

Sequence ID和之前的定義一致,Machine ID其實就是節點ID。

sonyflake與眾不同的地方在於其在啟動階段的配置引數:

func NewSonyflake(st Setttings) *Sonyflake

Settings資料結構如下:

type Settings struct {
	StartTime      time.Time				//Sonyflake時間定義為經過時間的時間,當StartTime為0時,則Sonyflake開始時間為“2014-09-01 00:00:00”如果時間早於當前時間,則不會建立Sonyflake
	MachineID      func() (uint16, error)	//MachineID返回Sonyflake例項的唯一ID。如果MachineID為0時,則使用預設MachineID,預設MachineID返回私有IP地址的低16位
	CheckMachineID func(uint16) bool		//CheckMachineID驗證機器ID的唯一性。如果CheckMachineID返回false,則不會建立Sonyflake。如果CheckMachineID為0時,則不進行驗證。
}

Redis中的集合型別來檢查衝突

redis 127.0.0.1:6379> SADD base64_encoding_of_last16bits MzI0Mgo=
(integer) 1
redis 127.0.0.1:6379> SADD base64_encoding_of_last16bits MzI0Mgo=
(integer) 0

使用起來也比較簡單,有一些邏輯簡單的函式就略去實現了:

package main

import (
    "fmt"
    "os"
    "time"

    "github.com/sony/sonyflake"
)

func getMachineID() (uint16, error) {
    var machineID uint16
    var err error
    machineID = readMachineIDFromLocalFile()
    if machineID == 0 {
        machineID, err = generateMachineID()
        if err != nil {
            return 0, err
        }
    }

    return machineID, nil
}

func checkMachineID(machineID uint16) bool {
    saddResult, err := saddMachineIDToRedisSet()
    if err != nil || saddResult == 0 {
        return true
    }

    err := saveMachineIDToLocalFile(machineID)
    if err != nil {
        return true
    }

    return false
}

func main() {
    t, _ := time.Parse("2006-01-02", "2018-01-01")
    settings := sonyflake.Settings{
        StartTime:      t,
        MachineID:      getMachineID,
        CheckMachineID: checkMachineID,
    }

    sf := sonyflake.NewSonyflake(settings)
    id, err := sf.NextID()
    if err != nil {
        fmt.Println(err)
        os.Exit(1)
    }

    fmt.Println(id)
}

摘自:《Golang語言高階程式設計》