.net core 高吞吐遠端方法呼叫元件XRPC
XRPC的目標非常明確,就是給.net core平臺實現一個百萬級別的遠端方法呼叫RPC通訊元件。它的設計理念和GRPC一樣,基於連線複用的機制實現高吞的效能;XRPC採用了HTTP2複用的思想,在協議設計上也類似文字和二進位制相結合;在應用層面並沒使用訊息而是基於介面代理的方式讓使用更簡便。
協議序列化
XRPC採用了基於文字+二進位制相結合的通訊協議,頭以文字的方式表現主要是描述請求的位置和附加資訊,這樣設計的好處就是在實現閘道器的時候只需要解釋頭部就能做很好的負載策略。二進位制處理並沒有像GPRC一樣使 Protobuf,而是使用了在.net core平臺下相對更高效的元件MessagePack。
通訊機制
在早期很多RPC是基於獨享連和連線池的方式進行構建,這樣的好處就是實現起來方便簡單,但這種設計就無法把不同請求的請求混合到一個IO上。導致網路IO隨併發訊息的增長而增長,從而侷限了效能的發揮。XRPC的設計是儘量在最少連線情況發揮更高效的網路處理能力,這樣就可以把N個請求的資料複用在一個IO上,而從讓網路利用率大大提升。
但這種設計的缺點就是使用起來非常複雜,不過在.NET
提供async/await
支援下整體設計和應用就變得相對簡單和清晰很多了。現在模組已經完成基礎功能版本,以下介紹一下如何使用。
元件使用
元件現在只完成最基礎的功能,後面會引用Actor
Nuget
引用元件
Install-Package BeetleX.XRPC -Version x
定義介面服務
XRPC是通過介面的方式來描述服務,通過介面制定相關服務的邏輯,具體實現如下:
[Controller(typeof(IUserService))] public class UserService : IUserService { public Task<User> Add(string name, string email, string city, string remark) { User user = new User(); user.Name = name; user.EMail = email; user.City = city; user.Remark = remark; return Task.FromResult(user); } public Task<List<User>> List(int count) { List<User> result = new List<User>(); for (int i = 0; i < count; i++) { User user = new User(); user.ID = Guid.NewGuid().ToString("N"); user.City = "GuangZhou"; user.EMail = "[email protected]"; user.Name = "henryfan"; user.Remark = "http://ikende.com"; result.Add(user); } return Task.FromResult(result); } public bool Login(string name, string pwd) { return (name == "admin" && pwd == "123456"); } public User Modify(User user) { return user; } public void Save() { Console.WriteLine("user saved"); } }
啟動服務
class Program { private static XRPCServer mXRPCServer; static void Main(string[] args) { mXRPCServer = new XRPCServer(); //mXRPCServer.ServerOptions.DefaultListen.Port = 80; mXRPCServer.Register(typeof(Program).Assembly); mXRPCServer.Open(); Console.Read(); } }
通過Register
註冊相關程式集,元件會把程式集中所有控制器載入到記憶體中,可以通過日誌載入情況:
Client定義
client = new XRPCClient("localhost", 9090); client.Connect(); client.NetError = (c, e) => { Console.WriteLine(e.Error.Message); }; client.TimeOut = 10000;
定義一個XRPCClient
物件來進行遠端訪問,物件預設最大連線數是2,也可以根據自己實情況進行調整,不建增加這樣會導致網路IO也會增加影響整體效能。
var api = client.Create<IUserService>(); var lresult = await api.Login("admin", "123456"); Console.WriteLine(lresult); var result = await api.Add("henry", "[email protected]", "gz", "http://github.com"); Console.WriteLine($"{result.Name}\t{result.EMail}\t{result.City}\t{result.Remark}"); await api.Save(); Console.WriteLine("save completed"); User user = new User(); user.ID = Guid.NewGuid().ToString("N"); user.Name = "henry"; user.EMail = "[email protected]"; user.City = "GuangZhou"; user.Remark = "http://github.com/ikende"; result = await api.Modify(user); Console.WriteLine($"{result.Name}\t{result.EMail}\t{result.City}\t{result.Remark}"); var items = await api.List(5); foreach(var item in items) { Console.WriteLine($"{item.Name}\t{item.EMail}\t{item.City}\t{item.Remark}"); }
通過Create方法可以建立介面代理,這個代理是執行緒安全的,正常情況只需要建立一個靜態成員即可;建立介面後只需要呼叫相關方法即可完成遠端方法的呼叫。
基礎效能
元件設計的效能目標是百萬級別RPS的遠端方法呼叫,不過在一臺4核物機作為服務測試並沒有達到這個目標,不過測試結果還算比較理想,在以上示例程式碼Login方法,採用500個併發模擬的情況RPS達到將近70萬。以下是不同方法在不同併發數下的測試結果。
詳細測試程式碼:https://github.com/IKende/XRPC/tree/master/Samples/Perform