1. 程式人生 > >阿里巴巴的雲原生應用開源探索與實踐

阿里巴巴的雲原生應用開源探索與實踐

作者 | 司徒放(姬風) 阿里巴巴技術專家

本文整理自司徒放(姬風)題目為《開源的黃金時代,阿里巴巴雲原生開源的探索與實踐》的演講。
關注“阿里巴巴雲原生”公眾號,回覆關鍵詞“開源”即可下載本文 PPT。

導讀:從擁抱開源、貢獻開源、自主開源,到賦能開源,開源已升級為阿里技術戰略之一,且正為開發者源源不斷地輸送切實可見的價值。雲原生是阿里開源的重要領域,短短几年,以 K8s 為核心的雲原生開源生態迅猛發展,這是全世界開發者合作傑出成果,也是開源力量的結晶。

阿里巴巴的應用架構演進

大家好,我是司徒放,目前在阿里巴巴負責阿里雲的應用平臺和微服務產品線。在和大家分享我們在雲原生應用方面的探索之前,先和大家介紹一下阿里巴巴在整個應用架構方面的演進歷程。

今年是阿里巴巴成立的二十週年,二十年前,阿里巴巴使用的這個應用的架構,還是單體應用模式,它有很多的業務模組都在一個應用裡面,各個業務都在一個應用裡面開發,這個架構的一個好處是簡單,也非常容易部署,對小的創業公司來說是很方便的。它的缺點在於團隊變大變多之後,不能滿足快速迭代要求,因為每一個業務它需要去釋出的時候,都需要在同一個應用上做修改、釋出,當這個業務迭代非常快的時候,它同時的一個併發修改就非常多。

所以在 2008 年的時候,阿里巴巴就引進到了微服務架構,只是當時並不叫微服務,而是叫服務化架構。各個業務模式就按照服務的邊界來拆分,這是比較鬆耦合的一種方式,一個微服務應用是無狀態的,可以快速擴充套件例項。而且某個例項有異常比如宕機時會可以自動下線,不會影響整個服務架構的穩定性。微服務架構也比較容易推動整個網際網路公司的快速迭代需求。

大概三年前,阿里巴巴就走向了雲原生的架構。這是一個天然適合雲的、能夠充分利用雲的彈效能力和標準雲服務,給整個阿里巴巴的電商降低機器的準備成本,特別是類似於在大促雙十一需要很多機器去支撐,但是大促結束之後,這些機器有一半以上就可以歸還到雲上。

這個時候,阿里巴巴就在往雲原生的方向去邁進,而且通過整個雲服務能夠更快地加快整個阿里巴巴的技術構建。而且雲原生架構,是一個比較開放、標準、沒有侵入性的技術架構。

阿里巴巴在雲原生的開源程序

在阿里巴巴進入到了雲原生之後,我們看一下阿里巴巴在開源方面做了一些什麼樣的事情呢?

運維領域

首先,整個雲原生架構裡面最重要、最關鍵的一個基石就是 Kubernetes。
阿里巴巴在兩年前,就在大規模的落地 Kubernetes 的整套技術用來做我們機器資源的排程和管理。在內部有數十萬臺級別的機器以及上百萬級別的容器規模,直接拿開源的 Kubernetes 到這種生產規模下是用不起來的,所以我們在上面做了很多效能優化,包括針對規模上的改造,使得整個 Kubernetes 在阿里巴巴內部能夠很順暢地 run 起來,阿里巴巴也在不斷地向上游去貢獻我們內部實踐和優化的程式碼。
除了 Kubernetes 之外,在整個雲原生生態裡還有像容器、etcd,我們也在不停地優化它的規模能力以及安全隔離方面的一些能力。同時,也開源了內部使用的蜻蜓(Dragonfly)用來做大規模的映象快速分發。

開發領域

在開發領域,阿里巴巴很早就已經使用了微服務架構,也對外進行了開源,比如說 Apache Dubbo,這個是比較知名的 RPC 框架;還有去年開源的 Nacos ,作為阿里巴巴集團支撐大規模的服務註冊發現、配置推送一個元件;另外,還有 Spring Cloud Alibaba,基於阿里開源的元件提供了一整套 Spring Cloud 最佳實現;還有像支撐整個阿里巴巴高可用的 Sentinel、以及 Apache RocketMQ 訊息佇列,都是我們在開發領域做的開源。

這些元件其實隨著阿里巴巴進入雲原生時代之後,也在逐步結合雲原生做一些改進,比如說 Apache Dubbo,會更好地去適配我們未來的微服務 Service Mesh 架構,它會理解 Istio 的 xDS 協議,成為一種資料面;比如 Nacos,它為 Service Mesh 的 Istio 提供 MCP 協議的對接,成為雲原生微服務和傳統微服務互通的橋樑。

應用

在開發領域和運維領域之間,其實我認為還有一個很大的空缺,就是專門用來連線整個開發和運維的應用這一塊。

對於開發階段,寫完程式碼之後交付的是一個應用包,而這個應用包也是整個運維繫統上執行的一個基礎顆粒。我們認為現在在雲原生階段,缺少了一個很好的應用交付和運維標準,大家在不同的公司會看到每個公司都有不一樣的運維平臺,應用的部署和交付都沒有辦法被標準化。我們現在進入雲原生時代,推崇的是標準、開放,所以我們認為在這一塊上面還有很大的機會去做進一步的應用標準建設,這是我接下來想要和大家重點分享的一個話題。

雲上應用交付和運維的痛點

先看一下雲原生在交付和運維方面有哪些痛點呢?

剛剛也講到了,在進入到了微服務之後,我們面臨的一個問題就是應用的例項數會越來越多,會到成百上千的規模不斷往上增長;另外還有我們部署的環境也變得越來越多,比如說現在有不同的雲廠商,以及我們有很多專有云的自建機房的輸出;另外還有很多自建的環境,這些環境多樣化以及我們應用在執行時它會以容器的方式去執行,可能還是以傳統的虛擬機器的方式去執行,或者它會以函式的方式去執行,但是執行時也會有很多不一致,比如不同的環境、或執行時的不一致,會導致整個分散式運維體系變得越來越複雜,它的監控、日誌採集也是一個很大的挑戰。

當這些應用已經放到雲上去執行的時候,由於很多的雲服務並沒有被標準化,很多這種雲的能力需要整合到應用上的時候,也會有很大整合的困難。而這些雲上應用運維的痛點以前也有類似的,我們可以跟過往的解決方案做一個對比。

過往解決方案

首先,是類似 Ansible、Puppet 這些基礎設施運維自動化的工具。這些工具對整個運維效率起到了很大的提升作用,減輕了運維同學的工作量,但是它使用的是一些自應用的模組,而且它的概念是偏向於指令碼運維的方式,非常的底層。

隨後出現了類似 Cloud Foundry 、Heroku 這種比較經典的應用平臺,這些應用平臺是以應用為中心去做運維和交付,往上把運維的工作進行了一個抽象,按照 buildpack 的方式去做運維和交付,通過 buildpack 的方式,可以簡化整個應用運維的工作,但是 buildpack 本身覆蓋的範圍比較窄,在運維和交付方面,缺乏一些運維交付的標準,所以它的可擴充套件性是比較差的。

隨著 Docker 容器的橫空出世,打破了傳統基於 buildpack 的應用交付模式,所以就出現了新一代的容器管理平臺,而 Kubernetes 成為了雲原生時代一個新的容器平臺事實標準。Kubernetes 本身提供了很多基礎服務抽象,比如說 Deployment、Service。在社群裡面它有一句很著名的定位:“Kubernetes is the platform for platforms.”也就是說,Kubernetes 定位是構建平臺的平臺,能夠簡化構建應用平臺的複雜度,它不會再去做上層基於應用的抽象。大家可以發現歷史總是那麼相似,從過去的運維工具到後來基於應用的抽象,到現在容器出現打破運維格局,重新對這個領域進行洗牌,自然,在雲原生時代需要一個對應交付和運維應用的平臺。

從過往解決方案引發的思考

關於雲原生時代的應用抽象,我們要做一個思考:我們需要什麼樣的應用抽象呢?

首先,它需要解決我們運維交付的一個複雜度,以及遮蔽底層細節差異。無論什麼時候,都是應用平臺需要解決的問題。另外,參考我們過去比較傳統的應用平臺的問題,比如說 buildpack 這種方式,它存在不通用/不易於擴充套件的問題,我們認為接下來的應用抽象,它應該要具備在應用運維方面更加通用、可擴充套件的描述能力。

除此之外,我們在推廣應用抽象的時候,還是要採用開源和社群的方式去推進,因為未來一定是更加標準和開放的,我們推廣這個應用抽象,就是希望有更多開發和運維工作者,能夠給這個標準提供更多的建議,能夠通過整個社群進一步推動整個應用交付和運維標準的發展。

Open Application Model - 開放應用模型

在上個月中旬,阿里雲和微軟聯合釋出了“Open Application Model(開放應用模型)”這一個開源專案。我們希望通過這個開放應用模型,解決“在雲原生時代缺乏一種應用交付標準”的問題。(“Open Application Model -開放應用模型”後面簡稱為“OAM”)

OAM 的三種角色

OAM 裡面有三種不同的角色。

  • 首先是應用開發。很明顯,應用開發是負責編寫業務邏輯的。比如說它會寫 Spark、Wordpress、Spring Cloud 等微服務的程式,它寫完這個微服務的程式之後呢,會按照 OAM 標準編寫一段應用定義;

  • 第二個是應用運維的角色,就是負責應用的交付與運維;

  • 第三個角色是基礎設施平臺。基礎設施平臺在 OAM 裡的一個重要定位,在於它要將自己的基礎服務能力抽象成可被複用、被重用的模組,並提供給開發和運維人員去使用。

OAM 核心概念解讀

下面為大家解讀以上的三個角色對應的三個核心概念。

  • 首先是 Component。它是被開發人員定義的一個可被重用的應用元件,這個應用元件描述的就是這個應用它執行的方式;

  • 第二個重要概念是 Trait。它是一種應用的運維特徵,是由基礎設施平臺這個角色定義的,而這個定義它包含了可組合的應用運維特徵,這個特徵是其實是這個平臺可以提供出來的某種運維能力抽象;

  • 最後一個是 ApplicationConfiguration。運維人員負責把 Component 和 Trait 兩個繫結在一起,並且作為一個具體的例項化,生成了這個應用配置(ApplicationConfiguration)之後,就可以把應用部署起來。

用 OAM 描述的應用配置示意

接下來是一個具體的用 OAM 描述的應用配置檔案(上圖檔案做了一定內容簡化,具體以下面的 yaml 文字為準)。

apiVersion: core.oam.dev/v1alpha1
kind: ComponentSchematic
metadata:
  name: wordpress
spec:
  workloadType: core.oam.dev/v1alpha1.Server
  containers:
    - name: test
      image: docker/wordpress:latest
      env:
        - name: key1
          fromParam: test-key
      ports:
        - type: tcp
          containerPort: 9999
          name: http
    parameters:
    - name: test-key
      type: string
---
apiVersion: core.oam.dev/v1alpha1
kind: ApplicationConfiguration
metadata:
  name: wordpress-app
spec:
  components:
    - name: wordpress
      instanceName: wordpress-instance
      parameterValues:
        - name: replicas
          value: 3
        - name: test-key
          value: value-from-ops
      traits:
        - name: service
          parameterValues:
            - name: portMapping
              value: 
                - protocol: "TCP"
                  port: 52014
                  targetPort: 9999
        - name: rollout
          parameterValues:
            - name: canaryReplicas
              value: 1

由運維人員編寫的 ApplicationConfiquration 檔案,它將 Component 和 Trait 兩個概念繫結在一起。首先裡面描述運維要部署一個叫 wordpress-app的應用,它引用了一個叫 wordpress 的 Component。這是開發人員在另一個配置檔案 Component 定義的,他除了定義 wordpress 應如何執行(比如配置映象位置)以外,還允許運維配置執行例項的副本數以及執行時環境變數 test-key 的值。在 ApplicationConfiquration 裡同時引用了兩個運維特徵,運維人員會填寫這個應用需要一個負載均衡,要做外網的埠對映,部署時需要採用金絲雀釋出策略。這個檔案對應到實際上的部署階段會變成如上圖右側所示,上面會有一個負載均衡,比如在雲上執行時,就會使用 SLB 去做負載均衡的自動分發,會給它配置外網 IP 和內外埠對映。

通過這個簡單的 yaml 檔案,大家就可以瞭解到這個應用怎麼做快速部署,並且描述運維要具備什麼能力。

OAM 的設計理念

給大家總結一下,我所認為的 OAM 的重要的設計理念。

  • 首先第一個是配置即程式碼。所有的 OAM 上面的運維和交付的操作都會使用配置的方式,完全通過 yaml 檔案去完成所有的交付運維配置;

  • 第二個是依賴倒置。這個依賴倒置有點像 JAVA Spring 開發者使用 IoC 或者 DI 的這種模式,在寫這個應用配置的時候,只是依賴應用標準抽象,而這個標準抽象背後的實現實際上是由 OAM 的執行時去做“注入”,通過這個方式就使得我們的應用運維不依賴於我們具體的執行環境;

  • 第三個是重要的設計理念就是角色關注點分離。剛剛上面講過 OAM 裡的三種不同的重要角色:開發、運維以及基礎設定平臺。這三種角色只需要編寫對應不同的配置檔案,互相解耦。這樣開發不需要關心應用是怎麼運維的,只需要把執行時需要的配置暴露並描述出來;基礎平臺只需要把平臺能力提煉成 Trait;最終由運維人員把開發需要的引數和運維需要的能力進行結合。

  • 第四個就是整個 OAM 的設計是一個可組合可擴充套件的方式。它會通過讓我們剛剛說到的 Traits 能夠按需組合、重用、移植和擴充套件。

EDAS & OAM

上面我們說了這麼多其實都是比較一些概念性的東西,接下來我們看一下,在阿里巴巴的雲產品 EDAS 對 OAM 所做一些落地方面的嘗試,這也是第一個在實際生產上面基於 OAM 對外可開放使用的雲產品。

下面會用 EDAS 為例,給大家做一個介紹,講解一下 OAM 具體怎麼運作。

EDAS 是什麼?

首先介紹一下 EDAS 是阿里雲上面的一個雲產品,它扮演著我剛才講到的類似於一個應用平臺的一個角色:

  • EDAS 從開發方面就提供了開發框架給我們雲上的開發者去使用;
  • 開發者開發完程式之後,會把應用交付到 EDAS 上面去進行部署;
  • 與此同時 EDAS 會對這個應用進行監控診斷,根據容量情況進行例項彈性伸縮;
  • EDAS 會對上面的微服務進行註冊發現、服務治理;
  • 提供應用的高可用保護,比如限流降級、熔斷等。

這些是 EDAS 作為應用平臺在阿里雲上的產品定位。

EDAS 支援 OAM 的執行示意圖

那麼它在支援 OAM 在執行的時候又是什麼樣的呢?

如圖所示,一個開發人員,他首先需要去編寫一個按照 OAM 標準為參考去定義一個 Component。這個 Component 裡面會定義如開發應用型別是什麼樣子,比如它的映象路徑、它需要多大的儲存空間,以及它的環境變數是什麼樣子,這些都是開發人員在開發的時候需要去描述的內容。

對於阿里雲來說,它是一個基礎設施平臺的身份。它在上面其實有很多運維的能力,比如說像監控報警、塊儲存、需要釋出策略和彈性伸縮的策略。EDAS 會把這些平臺能力抽象成一個一個獨立的 Trait,開放給運維人員使用。

在需要部署應用的時候,運維人員會選擇 EDAS 上提供的 Trait 並填寫相關引數,同時也設定好開發人員的 Component 的引數,這作為一次應用部署,生成了 ApplicationConfiguration 提交給 EDAS。

EDAS 作為 OAM 的執行時,在讀取到這份部署配置後,它會去實現 Trait 提供相應的運維特徵動作,比如說運維描述需要一個塊儲存,那麼 EDAS 會在阿里雲上面去申請一個具體的塊儲存物件,並繫結到這個應用上面。同時 EDAS 會提供一個容器環境(如 Kubernetes)去執行開發者定義的 Component 的工作負載,比如購買 ECS,配置好容器環境,把環境變數傳給容器,使 Component 能夠正常執行。

以上就是整個 EDAS 支援 OAM 的一個執行示意圖。

EDAS 支援 OAM 的對比

那麼 EDAS 在支援 OAM 之後,它的使用情況又會發生怎樣的變化呢?

在沒有使用 OAM 的時候,客戶需要和系統解釋我要做些什麼事情、我要怎麼做這個事情。比如說,他需要申請 5G NAS 儲存,並且要把它掛載到某個機器的某個目錄上面;或者他還有一個監控的需求,他需要告訴系統現在有一個業務指標檔案,需要被監控採集,他要去設定這個檔案的指標處理規則,最後把這個指標儲存成時間序列資料,並且設定報警閾值。在使用 OAM 之後,它就變成了描述式,他只要描述我需要什麼東西就夠了。比如開發者可以說這個目錄上面需要有 5G 的外接可讀寫儲存就夠了,具體這 5G 儲存怎麼申請是由 OAM 執行時去幫助解決的。另外,在監控的時候,他只需要描述自己的這個應用需要被監控、哪個指標需要被監控並報警就夠了,他不需要了解對接到具體是哪一個監控系統,他不需要去關心這些事情。

原來很多雲產品或者原來很多自定義運維平臺都是需要依賴特定的 API 或者 CLI 這種模式去做運維的,這個時候應用要遷移到另外一個運維平臺,它的程式碼、映象、二進位制包可以帶走,但是它的很多運維的設施、運維的配置包括監控的配置,這些東西都是隻能留在這個平臺上的,沒有辦法很容易地遷移到另外一個平臺上面。而通過 OAM,可以將平臺所有的運維配置以 yaml 匯出,並且能夠很快地匯入到另外一個環境、甚至是另一個應用平臺上,整個系統會變得更加標準。

在使用 OAM 以前,運維人員需要去學習很多知識,比如使用的是 Kubernetes,他需要去了解整個容器和 Kubernetes 的使用方式,他要做定製和拓展就需要去學習 Kubernetes。如果他是從虛擬機器的模式切換到容器的運維模式,這個時候他就需要很多時間去理解容器和虛擬機器運維之間的差異。遷移到 OAM 之後,相當於 OAM 遮蔽了整個平臺底層的細節,所以使得整個運維平臺的 OAM 配置沒有多大差別。

最後一點就是定製的難度上面。剛剛也講到過,這個是 OAM 的一個重要的目標,讓整個運維的擴充套件能夠更容易的被發現、被組合、被替換。在使用 OAM 之前,運維的邏輯都散落在腳本里面,或者說都在運維平臺內部,這個時候很難去統一管理。而一套 OAM 的執行環境是可以自描述的,可以非常容易把平臺提供的 Trait、Component 工作負載羅列出來,使用者可以替換或增加新的 Traits,在執行應用時可以自由選擇和組合這些 Traits。

OAM 後續規劃,歡迎社群貢獻

以上講了 OAM 相關的一些基本內容,實際上 OAM 剛剛開源還有很多需要補充和完善的地方,這裡也列出了 OAM 上最近這半年的計劃,希望大家能夠參與社群,在上面貢獻更多的想法。

主要有幾個規劃:

  • 易用性方面
    • 提供 Kubernetes 一鍵匯入工具;
    • 增加應用之間的依賴描述;
    • 不斷完善 OAM 的標準定義(Spec);
    • 社群提供更多的 OAM 上的實踐案例;
  • OAM 開發方面
    • 儘量進一步去做開發的簡化,包括一些欄位的校驗工具、編寫 Controller 框架,方便更高效的開發 Trait 等實現;
    • 另外,OAM 它本身不僅僅是一個標準,它還提供了一個名為 Rudr 的參考開源實現;
  • 功能方面
    • 提供新的基礎 Traits 去簡化應用運維管理,比如常見的流量管理、藍綠髮布;
    • 能對接更多的應用平臺,比如說像 Windows、IoT 這樣的平臺。

最後,我的演講就到這裡,謝謝大家!喜歡 OAM 的朋友可以掃描下方二維碼,謝謝!

更多詳細資訊請關注“阿里巴巴雲原生”。

“ 阿里巴巴雲原生微信公眾號(ID:Alicloudnative)關注微服務、Serverless、容器、Service Mesh等技術領域、聚焦雲原生流行技術趨勢、雲原生大規模的落地實踐,做最懂雲原生開發者的技術公眾號。”