陳碩 (giantchen_AT_gmail)

Blog.csdn.net/Solstice

昨天跟朋友聊天，談到了分散式系統中如何為程序取識別符號(process identifier)，寫篇部落格簡單總結一下我的觀點。

本文假定一臺機器 (host) 只有一個 IP，不考慮 multihome 的情況。同時假定分散式系統中的每一臺機器都正確運行了 NTP，各臺機器的時間大體同步。

“程序 process”是作業系統的兩大基本概念之一，指的是在記憶體中執行的程式。在日常交流中，“程序”這個詞通常不止這一個意思。有時候我們會說 “httpd 程序”或者“mysqld 程序”，指的其實是 program，而不一定是特指某一個“程序”——某一次 fork() 系統呼叫的產物。一個“httpd 程序”重啟了，它還是“一個 httpd 程序”。本文討論的是，如何為一個程式每次執行

本文所指的“程序識別符號”是用來唯一標識一個程式的“一次執行”的。每次啟動一個程序，這個程序應該被賦予一個唯一的識別符號，與當前正在執行的所有程序都不同；不僅如此，它應該與歷史上曾經執行過，目前已消亡的程序也都不同（這兩條的直接推論是，與將來可能執行的程序也都不同）。“為每個程序命名”在分散式系統中有相當大的實際意義，特別是在考慮 failover 的時候。因為一個程式重啟之後的新程序和它的“前世程序”的狀態通常不一樣，凡是與它打交道的其他程序(s)最好能通過它的程序識別符號變更來很容易地判斷該程式已經重啟，而採取必要的救災措施，防止搭錯話。

本文先假定每個服務端程式的埠是靜態分配的，在公司內部有一個公用 wiki 來記錄埠和程式的對應關係（然後通過 NIS 或 DNS 釋出）。比如埠 11211 始終對應 memcached，其他程式不會使用 11211 埠；3306 始終留給 mysqld；3690 始終留給 svnserve。在分散式系統的初級階段，這是通常的做法；到了高階階段，多半會用動態分配埠號，因為埠號只有 6 萬多個，是稀缺資源，在公司內部也有分配完的一天。本文只考慮 TCP 協議，不考慮 UDP 協議，“埠”都指的是 TCP 埠。

另外，我們假定在一臺機器上，一個 listening port 同時只能由一個程序使用，不考慮古老的 listen() + fork() 模型（多個程序可以 accept 同一個埠上進來的連線），關於這點陳碩已經寫的很多，見《

錯誤做法

在分散式系統中，如何指涉(refer to)某一個程序呢，或者說一個程序如何取得自己的全域性識別符號 (以下簡稱 gpid)？容易想到的有兩種做法：

• ip:port （port 是這個程序對外提供網路服務的埠號，一般就是它的 tcp listening port）
• host:pid

而這兩種做法都有問題。為什麼？

如果程序本身是無狀態的，或者重啟了也沒有關係，那麼用 ip:port 來標識一個“服務”是沒問題的，比如常見的 httpd 和 memcached 都可以用它們的慣用 port （80 和 11211）來標識。我們可以在其他程式裡安全地引用(refer to)“執行在 10.0.0.5:80 的那個 http 伺服器”，或者“10.0.0.6:11211 的 memcached”，就算這兩個 service 重啟了，也不會有太惡劣的後果，大不了客戶端重試一下，或者自動切換到備用地址。

如果服務是有狀態的，那麼 ip:port 這種標識方法就有大問題，因為客戶端無法區分從頭到尾和自己打交道的是一個程序還是先後多個程序。在開發服務端程式的時候，為了能快速重啟，我們一般都會設定 SO_REUSEADDR，這樣的結果是前一秒鐘站在 10.0.0.7:8888 後面的程序和後一秒鐘佔據 10.0.0.7:8888 的程序可能不相同——服務端程式快速重啟了。

比方說，考慮一個類似 GFS 的分散式檔案系統的 master，如果它僅以 ip:port 來標識自己，然後它向 shadows （不是 chunk server）下達同步指令，那麼 shadows 如何得知 master 是不是已經重啟呢？發指令的是 master 的“前世”還是“今生”？是不是應該拒絕“前世”的遺命？

如果考慮改成 host:pid 這種標識方式會不會好一點？我認為換湯不換藥，因為 pid 的狀態空間很小，重複的概率比較大。比如 Linux 的 pid 的最大值是 32768 （/proc/sys/kernel/pid_max），一個程式重啟之後，獲得與“前世”相同 pid 的概率是 1/32768。或許有讀者不相信重啟之後 pid 會重複，因為 pid 是遞增的，遇到上限再回到目前空閒的最小 pid。考慮一個服務端程式 A，它的 pid 是 1234，它已經穩定運行了好幾天，這期間，pid 已經增長了幾個輪迴（因為這臺機器時常會啟動一些 scripts 執行一些輔助工作）。在 A 崩潰的前一刻，最近被使用的 pid 已經回到了 1232，當 A 崩潰之後，某個守護程序啟動一個指令碼(pid = 1233)來清理 A 的 log，然後再重啟 A 程式；這樣一來，重啟之後的 A 程式的 pid 碰巧和它的前世相同，都是 1234。也就是說，用 host:pid 不能唯一標識程序。

那麼合在一起，用 ip:port:pid 呢？也不能做到唯一。它和 host:pid 面臨的問題是一樣的，因為 ip:port 這部分在重啟之後不會變，pid 可能輪迴。

我猜這時有人會想，建一箇中心伺服器，專門分配系統的 gpid 好了，每個程序啟動的時候向它詢問自己的 gpid。這錯得更遠：這個全域性 pid 分配器的 gpid 由誰來定？如何保證它分配的 gpid 不重複（考慮這個程式也可能意外重啟）？它是不是成為系統的 single point of failure？如果要對該 gpid 分配器做容錯，是不是面臨分散式系統的基本問題：狀態遷移？

還有一種辦法，用一個足夠強的隨機數做 gpid，這樣一來確實不會重複，但是這個 gpid 本身也沒有多大額外的意義，不便於管理和維護（比方說根據 gpid 找到是哪個機器上執行的哪個程序）。

正確做法

正確做法：以四元組 ip:port:start_time:pid 作為分散式系統中程序的 gpid，其中 start_time 是 64-bit 整數，表示程序的啟動時刻（UTC 時區，muduo::Timestamp）。理由如下：

• 容易保證唯一性。如果程式短時間重啟，那麼兩個程序的 pid 必定不重複（還沒有走完一個輪迴：就算每秒建立 1000 個程序，也要 30 多秒才會輪迴，而以這麼高的速度建立程序的話，伺服器已基本癱瘓了。）；如果程式運行了相當長一段時間再重啟，那麼兩次啟動的 start_time 必定不重複。（見下文關於時間重複的解釋）
• 產生這種 gpid 的成本很低（幾次低成本系統呼叫），沒有用到全域性伺服器，不存在 single point of failure。
• gpid 本身有意義，根據 gpid 立刻就能知道是什麼程序(port)，執行在哪臺機器(ip)，是什麼時間啟動的，在 /proc 目錄中的位置 (/proc/pid) 等，程序的資源使用情況也可以通過執行在那臺機器上的監控程式報告出來。
• gpid 具有歷史意義，便於將來追溯。比方說程序 crash，那麼我知道它的 gpid，就可以去歷史記錄中查詢它 crash 之前的 cpu/mem 負載有多大。

如果僅以 ip:port:start_time 作為 gpid，則不能保證唯一性，如果程式短時間重啟（間隔一秒或幾秒），start_time 可能會往回跳變（NTP 在調時間）或暫停（正好處於閏秒期間）。關於時間跳變的問題留給下一篇部落格《〈程式中的日期與時間〉第二章：計時與定時》，簡單地說，計算機上的時鐘不一定是單調遞增的。

沒有 port 怎麼辦？一般來說，一個網路服務程式會偵聽某個埠來提供服務，如果它是個純粹的客戶端，只主動發起連線，沒有主動偵聽埠，gpid 該如何分配呢？根據陳碩在《分散式系統的工程化開發方法 》一文中的觀點“在程式裡內建 http 伺服器”，分散式系統中的每個長期執行的、會與其他機器打交道的程序都應該提供一個管理介面，對外提供一個維修探查通道，可以檢視程序的全部狀態。這個管理介面就是一個 TCP server，它會偵聽某個 port。

使用這樣的維修通道的一個額外好處是，可以自動防止重複啟動程式。因為如果重複啟動，bind 到那個運維 port 的時候會出錯（埠已被佔用），程式會立刻退出。更妙的是，不用擔心程序 crash 沒來得及清理鎖（如果用跨程序的 mutex 就有這個風險），程序關閉的時候作業系統會自動把它開啟的 port 都關上，下一個程序可以順利啟動。

進一步，還可以把程式的名稱和版本號作為 gpid 的一部分，這起到錦上添花的作用。

TCP 協議的啟示

我在《分散式系統的工程化開發方法 》中提到“從 TCP 協議能學到什麼？”，今天講的這個 gpid 其實也是由 TCP 協議啟發而來。TCP 用 ip:port 來表示 endpoint，兩個 endpoint 構成一個 socket。這似乎符合一開始提到的以 ip:port 來標識程序的做法。其實不然。在發起 TCP 連線的時候，為了防止前一次同樣地址的連線（相同的 local_ip:local_port:remote_ip:remote_port）的干擾（稱為 wandering duplicates ，即流浪的 packets），TCP 協議使用 seq 號碼（這種在 SYN packet 裡第一次傳送的 seq 號碼稱為 initial sequence number, ISN）來區分本次連線和以往的連線。TCP 的這種思路與我們防止程序的“前世”干擾“今生”很相像。核心每次新建 TCP 連線的時候會設法遞增 ISN 以確保與上次連線最後使用的 seq 號碼不同。相當於說把 start_time 加入到了 endpoint 之中，這就很接近我們後面提到的“正確的 gpid”做法了。（當然，原始 BSD 4.4 的 ISN 生成演算法有安全漏洞，會導致 TCP sequence prediction attack，Linux 核心已經採用更安全的辦法來生成 ISN。）