微服務架構設計綱要
微服務
軟體架構是一個包含各種組織的系統組織,這些元件包括 Web伺服器, 應用伺服器, 資料庫,儲存, 通訊層), 它們彼此或和環境存在關係。系統架構的目標是解決利益相關者的關注點。
Conway’s law: Organizations which design systems[...] are constrained to produce designs which are copies of the communication structures of these organizations.
(設計系統的組織,其產生的設計和架構等價於組織間的溝通結構。)
Monolithic架構
Monolithic比較適合小專案,優點是:
開發簡單直接,集中式管理, 基本不會重複開發
功能都在本地,沒有分散式的管理開銷和呼叫開銷。它的缺點也非常明顯,特別對於網際網路公司來說(不一一列舉了):
開發效率低:所有的開發在一個專案改程式碼,遞交程式碼相互等待,程式碼衝突不斷
程式碼維護難:程式碼功能耦合在一起,新人不知道何從下手
部署不靈活:構建時間長,任何小修改必須重新構建整個專案,這個過程往往很長
穩定性不高:一個微不足道的小問題,可以導致整個應用掛掉
擴充套件性不夠:無法滿足高併發情況下的業務需求
微服務架構
微服務是指開發一個單個小型的但有業務功能的服務,每個服務都有自己的處理和輕量通訊機制,可以部署在單個或多個伺服器上。微服務也指一種種鬆耦合的、有一定的有界上下文的面向服務架構。也就是說,如果每個服務都要同時修改,那麼它們就不是微服務,因為它們緊耦合在一起;如果你需要掌握一個服務太多的上下文場景使用條件,那麼它就是一個有上下文邊界的服務,這個定義來自DDD領域驅動設計。
相對於單體架構和SOA,它的主要特點是元件化、鬆耦合、自治、去中心化,體現在以下幾個方面:
- 一組小的服務
服務粒度要小,而每個服務是針對一個單一職責的業務能力的封裝,專注做好一件事情。
- 獨立部署執行和擴充套件
每個服務能夠獨立被部署並執行在一個程序內。這種執行和部署方式能夠賦予系統靈活的程式碼組織方式和釋出節奏,使得快速交付和應對變化成為可能。
- 獨立開發和演化
技術選型靈活,不受遺留系統技術約束。合適的業務問題選擇合適的技術可以獨立演化。服務與服務之間採取與語言無關的API進行整合。相對單體架構,微服務架構是更面向業務創新的一種架構模式。
- 獨立團隊和自治
團隊對服務的整個生命週期負責,工作在獨立的上下文中,自己決策自己治理,而不需要統一的指揮中心。團隊和團隊之間通過鬆散的社群部落進行銜接。
我們可以看到整個微服務的思想就如我們現在面對資訊爆炸、知識爆炸是一樣的:通過解耦我們所做的事情,分而治之以減少不必要的損耗,使得整個複雜的系統和組織能夠快速的應對變化。
我們為什麼採用微服務呢?
"讓我們的系統儘可能快地響應變化" - Rebecca Parson
讓我們的系統儘可能快地去響應變化。其實幾十年來我們一直在嘗試解決這個問題。如果一定要在前面加個限制的話,那就是低成本的快速響應變化。上世紀90年代Kent Beck提出要擁抱變化,在同期出現了諸多輕量級開發方法(諸如 XP、Scrum);2001年敏捷宣言誕生,之後又出現了精益、看板等新的管理方式。如果說,這些是為了儘快的響應變化,在軟體開發流程和實踐方面提出的解決方案,那麼微服務架構就是在軟體技術和架構層面提出的應對之道。
Autonomous
A Microservice is a unit of functionality; it provides an API for a set of capabilities oriented around a business domain or common utility
Isolated
A Microservice is a unit of deployment; it can be modified, tested and deployed as a unit without impacting other areas of a solution
Elastic
A Microservice is stateless; it can be horizontally scaled up and down as needed
Resilient
A Microservice is designed for failure; it is fault tolerant and highly available
Responsive
A Microservice responds to requests in a reasonable amount of time
Intelligent
The intelligence in a system is found in the Microservice endpoints not ‘on the wire’
Message Oriented
Microservices rely on HTTP or a lightweight message bus to establish a boundary between components; this ensures loose coupling, isolation, location transparency, and provides the means to delegate errors as messages
Programmable
Microservices provide API’s for access by developers and administrators
Composable
Applications are composed from multiple Microservices
Automated
The lifecycle of a Microservice is managed through automation that includes development, build, test, staging, production and distribution
服務之間如何通訊
一般同步呼叫比較簡單,一致性強,但是容易出調用問題,效能體驗上也會差些,特別是呼叫層次多的時候。RESTful和RPC的比較也是一個很有意 思的話題。一般REST基於HTTP,更容易實現,更容易被接受,服務端實現技術也更靈活些,各個語言都能支援,同時能跨客戶端,對客戶端沒有特殊的要 求,只要封裝了HTTP的SDK就能呼叫,所以相對使用的廣一些。RPC也有自己的優點,傳輸協議更高效,安全更可控,特別在一個公司內部,如果有統一個 的開發規範和統一的服務框架時,他的開發效率優勢更明顯些。就看各自的技術積累實際條件,自己的選擇了。而非同步訊息的方式在分散式系統中有特別廣泛的應用,他既能減低呼叫服務之間的耦合,又能成為呼叫之間的緩衝,確保訊息積壓不會沖垮被呼叫方,同時能 保證呼叫方的服務體驗,繼續幹自己該乾的活,不至於被後臺效能拖慢。不過需要付出的代價是一致性的減弱,需要接受資料最終一致性;還有就是後臺服務一般要 實現冪等性,因為訊息傳送出於效能的考慮一般會有重複(保證訊息的被收到且僅收到一次對效能是很大的考驗);最後就是必須引入一個獨立的broker,如 果公司內部沒有技術積累,對broker分散式管理也是一個很大的挑戰。
微服務優點
- 每個微服務都很小,這樣能聚焦一個指定的業務功能或業務需求。
- 微服務能夠被小團隊單獨開發,這個小團隊是2到5人的開發人員組成。
- 微服務是鬆耦合的,是有功能意義的服務,無論是在開發階段或部署階段都是獨立的。
- 微服務能使用不同的語言開發。
- 微服務允許容易且靈活的方式整合自動部署,通過持續整合工具,如Jenkins, bamboo 。
- 一個團隊的新成員能夠更快投入生產。
- 微服務易於被一個開發人員理解,修改和維護,這樣小團隊能夠更關注自己的工作成果。無需通過合作才能體現價值。
- 微服務允許你利用融合最新技術。
- 微服務只是業務邏輯的程式碼,不會和HTML,CSS 或其他介面元件混合。
- 微服務能夠即時被要求擴充套件。
- 微服務能部署中低端配置的伺服器上。
- 易於和第三方整合。
- 每個微服務都有自己的儲存能力,可以有自己的資料庫。也可以有統一資料庫。
微服務架構的缺點
- 微服務架構可能帶來過多的操作。
- 需要DevOps技巧 (http://en.wikipedia.org/wiki/DevOps).
- 可能雙倍的努力。
- 分散式系統可能複雜難以管理。
- 因為分佈部署跟蹤問題難。
- 當服務數量增加,管理複雜性增加。
需要考慮的問題
- 單個微服務程式碼量小,易修改和維護。但是,系統複雜度的總量是不變的,每個服務程式碼少了,但服務的個數肯定就多了。就跟拼圖遊戲一樣,切的越碎,越難拼出整幅圖。一個系統被拆分成零碎的微服務,最後要整合為一個完整的系統,其複雜度肯定比大塊的功能整合要高很多。
- 單個微服務資料獨立,可獨立部署和執行。雖然微服務本身是可以獨立部署和執行的,但仍然避免不了業務上的你來我往,這就涉及到要對外通訊,當微服務的數量達到一定量級的時候,如何提供一個高效的叢集通訊機制成為一個問題。
- 單個微服務擁有自己的程序,程序本身就可以動態的啟停,為無縫升級的打好了基礎,但誰來啟動和停止程序,什麼時機,選擇在哪臺裝置上做這件事情才是無縫升級的關鍵。這個能力並不是微服務本身提供的,而是需要背後強大的版本管理和部署能力。
- 多個相同的微服務可以做負載均衡,提高效能和可靠性。正是因為相同微服務可以有多個不同例項,讓服務按需動態伸縮成為可能,在高峰期可以啟動更多的相同的微服務例項為更多使用者服務,以此提高響應速度。同時這種機制也提供了高可靠性,在某個微服務故障後,其他相同的微服務可以接替其工作,對外表現為某個裝置故障後業務不中斷。同樣的道理,微服務本身是不會去關心繫統負載的,那麼什麼時候應該啟動更多的微服務,多個微服務的流量應該如何排程和分發,這背後也有一套複雜的負載監控和均衡的系統在起作用。
- 微服務可以獨立部署和對外提供服務,微服務的業務上線和下線是動態的,當一個新的微服務上線時,使用者是如何訪問到這種新的服務?這就需要有一個統一的入口,新的服務可以動態的註冊到這個入口上,使用者每次訪問時可以從這個入口拿到系統所有服務的訪問地址。這個統一的系統入口並不是微服務本身的一部分,所以這種能力需要系統單獨提供。
- 還有一些企業級關注的系統問題,比如,安全策略如何集中管理?系統故障如何快速審計和跟蹤到具體服務?整個系統狀態如何監控?服務之間的依賴關係如何管理?等等這些問題都不是單個微服務考慮的範疇,而需要有一個系統性的考慮和設計,讓每個微服務都能夠按照系統性的要求和約束提供對應的安全性,可靠性,可維護性的能力。
API為什麼很重要
- 服務價值的精華體現
- 可靠、可用、可讀
- 只有一次機會
實現一個API閘道器作為所有客戶端的唯一入口。API閘道器有兩種方式來處理請求。有些請求被簡單地代理/路由到合適的服務上,其他的請求被轉給到一組服務。
相比於提供普適的API,API閘道器根據不同的客戶端開放不同的API。比如,Netflix API閘道器執行著客戶端特定的介面卡程式碼,會向客戶端提供最適合其需求的API。
API閘道器也可以實現安全性,比如驗證客戶端是否被授權進行某請求。
設計要素
- Version
- RequstID
- Auth&Signature
- RateLimit
- Docs
- ErrorCode&Message
微服務治理
- 按需伸縮
–部署與監控運維成本
- 獨立部署
–機器數量與部署成本
- 業務獨立
–服務依賴、治理,版本管理、事務處理
- 技術多樣性
–環境部署成本、約定成本
- 執行狀態治理
–監控、限流、SLA、LB、日誌分析
- 服務註冊與發現
- 部署
–快速、複製、擴容
–單機開發
- 呼叫
–安全、容錯、服務降級、呼叫延時
服務容錯
當企業微服務化以後,服務之間會有錯綜複雜的依賴關係,例如,一個前端請求一般會依賴於多個後端服務,技術上稱為1 -> N扇出. 在實際生產環境中,服務往往不是百分百可靠,服務可能會出錯或者產生延遲,如果一個應用不能對其依賴的故障進行容錯和隔離,那麼該應用本身就處在被拖垮的風險中。在一個高流量的網站中,某個單一後端一旦發生延遲,可能在數秒內導致所有應用資源(執行緒,佇列等)被耗盡,造成所謂的雪崩效應(Cascading Failure),嚴重時可致整個網站癱瘓。
服務依賴
服務框架
- 服務註冊、發現、負載均衡和健康檢查,假定採用程序內LB方案,那麼服務自注冊一般統一做在伺服器端框架中,健康檢查邏輯由具體業務服務定製,框架層提供呼叫健康檢查邏輯的機制,服務發現和負載均衡則整合在服務客戶端框架中。
- 監控日誌,框架一方面要記錄重要的框架層日誌、metrics和呼叫鏈資料,還要將日誌、metrics等介面暴露出來,讓業務層能根據需要記錄業務日誌資料。在執行環境中,所有日誌資料一般集中落地到企業後臺日誌系統,做進一步分析和處理。
- REST/RPC和序列化,框架層要支援將業務邏輯以HTTP/REST或者RPC方式暴露出來,HTTP/REST是當前主流API暴露方式,在效能要求高的場合則可採用Binary/RPC方式。針對當前多樣化的裝置型別(瀏覽器、普通PC、無線裝置等),框架層要支援可定製的序列化機制,例如,對瀏覽器,框架支援輸出Ajax友好的JSON訊息格式,而對無線裝置上的Native App,框架支援輸出效能高的Binary訊息格式。
- 配置,除了支援普通配置檔案方式的配置,框架層還可整合動態執行時配置,能夠在執行時針對不同環境動態調整服務的引數和配置。
- 限流和容錯,框架整合限流容錯元件,能夠在執行時自動限流和容錯,保護服務,如果進一步和動態配置相結合,還可以實現動態限流和熔斷。
- 管理介面,框架整合管理介面,一方面可以線上檢視框架和服務內部狀態,同時還可以動態調整內部狀態,對除錯、監控和管理能提供快速反饋。Spring Boot微框架的Actuator模組就是一個強大的管理介面。
- 統一錯誤處理,對於框架層和服務的內部異常,如果框架層能夠統一處理並記錄日誌,對服務監控和快速問題定位有很大幫助。
- 安全,安全和訪問控制邏輯可以在框架層統一進行封裝,可做成外掛形式,具體業務服務根據需要載入相關安全外掛。
- 文件自動生成,文件的書寫和同步一直是一個痛點,框架層如果能支援文件的自動生成和同步,會給使用API的開發和測試人員帶來極大便利。Swagger是一種流行Restful API的文件方案。
- 想要了解更多微服務架構知識點的,可以關注我一下,我後續也會整理更多這一塊的知識點分享出來,另外順便在這裡給大家推薦一個Java後端的交流社群:586446657,裡面會分享一些資深架構師錄製的視訊錄影:有Spring,MyBatis,Netty原始碼分析,高併發、高效能、分散式、微服務架構的原理,JVM效能優化這些成為架構師必備的知識體系。相信對於已經工作和遇到技術瓶頸的碼友,在這裡一定有你需要的內容。
微服務系統底座
一個完整的微服務系統,它的底座最少要包含以下功能:
- 日誌和審計,主要是日誌的彙總,分類和查詢
- 監控和告警,主要是監控每個服務的狀態,必要時產生告警
- 訊息匯流排,輕量級的MQ或HTTP
- 註冊發現
- 負載均衡
- 部署和升級
- 事件排程機制
- 資源管理,如:底層的虛擬機器,物理機和網路管理
以下功能不是最小集的一部分,但也屬於底座功能:
- 認證和鑑權
- 微服務統一程式碼框架,支援多種程式語言
- 統一服務構建和打包
- 統一服務測試
- 微服務CI/CD流水線
- 服務依賴關係管理
- 統一問題跟蹤除錯框架,俗稱呼叫鏈
- 灰度釋出
- 藍綠部署
容器(Docker)與微服務
- 容器夠小
–解決微服務對機器數量的訴求
- 容器獨立
–解決多語言問題
- 開發環境與生產環境相同
–單機開發、提升效率
- 容器效率高
–省錢
- 程式碼/image一體化
–可複用管理系統
- 容器的橫向與縱向擴容
–可複製
–可動態調節CPU與記憶體
容器(Docker)與微服務
- Image管理
- 系統安全管理
- 授權管理
- 系統成熟度
- 社群成熟度
開發方式影響
隨著持續交付概念推廣以及Docker容器普及,微服務將這兩種理念和技術結合起來,形成新的微服務+API + 平臺的開發模式,提出了容器化微服務的持續交付概念。
下圖傳統Monolithic的DevOps開發隊伍方式:
這種整體型架構要求產品隊伍橫跨產品管理 Dev開發 QA DBA 以及系統運營管理,而微服務架構引入以後,如下圖:
微服務促進了DevOps方式的重組,將一個大臃腫的整體產品開發隊伍切分為根據不同微服務的劃分的產品隊伍,以及一個大的整體的平臺隊伍負責運營管理,兩者之間通過API互動,做到了鬆耦合隔絕。
- 首先需要考慮構建DevOps能力,這是保證微服務架構在持續交付和應對複雜運維問題的動力之源;
- 其次保持服務持續演進,使之能夠快速、低成本地被拆分和合並,以快速響應業務的變化;
- 同時要保持團隊和架構對齊。微服務貌似是技術層面的變革,但它對團隊結構和組織文化有很強的要求和影響。識別和構建匹配架構的團隊是解決問題的另一大支柱。
- 最後,打造持續改進的自組織文化是實施微服務的關鍵基石。只有持續改進,持續學習和反饋,持續打造這樣一個文化氛圍和團隊,微服務架構才能持續發展下去,保持新鮮的生命力,從而實現我們的初衷。
微服務的實施是有一定的先決條件:基礎的運維能力(如監控、快速配置、快速部署)需提前構建,否則就會陷入如我們般被動的局面。推薦採用基礎設施及程式碼的實踐,通過程式碼來描述計算和網路基礎設施的方法,使得圖案度i可以快速安全的搭建和處理由新的配置代替的伺服器,伺服器之間可以擁有更高的一致性,降低了在“我的環境工作,而你的環境不工作”的可能,也是為後續的釋出策略和運維提供更好的支撐。
由於Docker引入,不同的微服務可以使用不同的技術架構,比如Node.js Java Ruby Python等等,這些單個的服務都可以獨立完成交付生命週期,如下:
微服務案例
Netflix的微服務架構如下,著重全球分發 高可擴充套件性和可用性:
Twitter的微服務架構,注重高效的可擴充套件的資料中心:
------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
希望對您系統架構,軟體專案開發,運維管理,系統架構與研發管理體系, 資訊保安, 企業資訊化等有幫助。
文章轉載自部落格園:PetterLiu