目錄

• 前文回顧
  • IServiceCallSite
  • CallSiteFactory
  • ServiceProviderEngine
  • CompiledServiceProviderEngine
  • DynamicServiceProviderEngine
• 測試引數
  • -m|method
  • -t|target
  • -n|number
  • -c|cache
  • -l|loop
• 啟動測試
• 測試結果
  • 反射
  • 表示式樹
  • Emit 與表示式差異不大
  • 開銷對比

前文回顧

Microsoft.Extensions.DependencyInjection 之一：解析實現 提到了 Microsoft.Extensions.DependencyInjection 包含以下核心元件。

IServiceCallSite

元件例項化上下文，包含許多實現，僅列舉其中的ConstantCallSite，CreateInstanceCallSite，ConstructorCallSite

如下。

ConstructorCallSite既是IServiceCallSite的實現類，又複合引用IServiceCallSite，以表達自身引數的構建形式。

元件生命週期也使用IServiceCallSite表達，它們既從IServiceCallSite繼承，也引用IServiceCallSite。

CallSiteFactory

當元件需要被例項化時，CallSiteFactory從維護的ServiceDescriptor查詢注入方式，對型別注入的元件使用反射解析其建構函式，並遞迴解析其引數，最後快取得到的IServiceCallSite例項。

ServiceProviderEngine

ServiceProviderEngine是抽象類，內部依賴CallSiteRuntimeResolver完成基於反射的元件例項化，並快取了元件例項化的委託。

CompiledServiceProviderEngine

CompiledServiceProviderEngine從ServiceProviderEngine繼承，內部依賴ExpressionResolverBuilder完成基於表示式樹的元件例項化的委託。

DynamicServiceProviderEngine

DynamicServiceProviderEngine從CompiledServiceProviderEngine繼承，它建立的委託比較特殊：

• 該委託第1次執行實際是 ServiceProviderEngine 內部的CallSiteRuntimeResolver呼叫
• 該委託第2次執行時開啟非同步任務，呼叫CompiledServiceProviderEngine內部的ExpressionResolverBuilder編譯出委託並覆蓋ServiceProviderEngine內部快取。

為了印證該邏輯，這裡使用 LINQPad 6 進行探索，該程式碼可以在控制檯中執行，但部分語句僅在 LINQPad 中生效。

void Main() {
    var services = new ServiceCollection()
        .AddTransient<IFoo1, Foo1>()
        .BuildServiceProvider();
    var engine = ReflectionExtensions.GetNonPublicField(services, "_engine");
    var realizedServices = (System.Collections.IDictionary)ReflectionExtensions.GetNonPublicProperty(engine, "RealizedServices");

    for (int i = 0; i < 3; i++) {
        services.GetRequiredService<IFoo1>(); //元件例項化
        foreach (DictionaryEntry item in realizedServices) {
            var title = String.Format("Loop {0}, type {1}, hash {2}", i, ((Type)item.Key).FullName, item.Value.GetHashCode());
            item.Value.Dump(title, depth: 2); //僅被 LINQPad 支援
        }
        Thread.Sleep(10); //確保非同步任務完成
    }
}

class ReflectionExtensions {
    public static Object GetNonPublicField(Object instance, String name) {
        var type = instance.GetType();
        var field = type.GetField(name, BindingFlags.NonPublic | BindingFlags.Instance);
        return field.GetValue(instance);
    }

    public static Object GetNonPublicProperty(Object instance, String name) {
        var type = instance.GetType();
        var property = type.GetProperty(name, BindingFlags.NonPublic | BindingFlags.Instance);
        return property.GetValue(instance);
    }
}

interface IFoo1 {
    void Hello();
}

class Foo1 : IFoo1 {
    public void Hello() {
        Console.WriteLine("Foo1.Hello()");
    }
}

執行該指令碼，可以看到

• 第1次和第2次元件例項化，委託相同，hash 值都是 688136691，都是Microsoft.Extensions.DependencyInjection.ServiceLookup.DynamicServiceProviderEngine的內部委託；
• 第1次和第2次元件例項化的 callSite計數從1談到2；
• 第3次元件例項例，委託變成了System.Object lambda_method(...)，hash 值變成了 1561307880；

LINQPad 5 執行該指令碼未能看到 hash 值變化，猜測是優化相關所致，考慮到DEBUG、單元測試和 LINQPad 6 已經實證，不再研究。

Microsoft.Extensions.DependencyInjection 之二：使用診斷工具觀察記憶體佔用 對比了元件例項化前後的記憶體變化如下圖，從第3次開始元件例項化的效能大幅提升。

在以上基礎上得到作了小結：

Microsoft.Extensions.DependencyInjection 並非是銀彈，它的便利性是一種空間換時間的典型，我們需要對以下情況有所瞭解：

• 重度使用依賴注入的大型專案啟動過程相當之慢；
• 如果單次請求需要例項化的元件過多，前期請求的記憶體開銷不可輕視；
• 由於例項化伴隨著遞迴呼叫，過深的依賴將不可避免地導致堆疊溢位；

測試引數

Microsoft.Extensions.DependencyInjection 中抽象類Microsoft.Extensions.DependencyInjection.ServiceLookup.ServiceProviderEngine有以下實現

• Microsoft.Extensions.DependencyInjection.ServiceLookup.CompiledServiceProviderEngine
• Microsoft.Extensions.DependencyInjection.ServiceLookup.DynamicServiceProviderEngine
• Microsoft.Extensions.DependencyInjection.ServiceLookup.ExpressionsServiceProviderEngine
• Microsoft.Extensions.DependencyInjection.ServiceLookup.RuntimeServiceProviderEngine
• Microsoft.Extensions.DependencyInjection.ServiceLookup.ILEmitServiceProviderEngine

RuntimeServiceProviderEngine 是對 ServiceProviderEngine 的原樣繼承可以忽略，ExpressionsServiceProviderEngine和CompiledServiceProviderEngine都是表示式樹的使用也沒有差異。ILEmitServiceProviderEngine是 emit 相關的實現。

從aspnet/DependencyInjection 獲取到的分支release/2.1 後，提取到ServiceProviderEngine、CompiledServiceProviderEngine和ILEmitServiceProviderEngine等核心實現，再編寫控制檯程式，對依賴注入中反射、表示式樹、emit 3種實現方式的開銷和效能上進行探索。

程式使用啟動引數控制組件例項化行為，並記錄測試結果，以下是程式啟動引數的解釋。

-m|method

例項化方式，使用反射、表示式樹與 Emit 參與了測試，分別對應：

• ref：使用反射例項化元件，實質是對 CallSiteRuntimeResolver 的呼叫；
• exp：使用表示式樹例項化元件，實質是對 ExpressionResolverBuilder 的呼叫；
• emit：使用 emit 例項化元件，實質是對 ILEmitResolverBuilder 的呼叫；

Action<Type, Boolean> handle = default;
if (method == "ref")
{
    handle = GetRefService;
}
else if (method == "exp")
{
    handle = GetExpService;
}
else if (method == "emit")
{
    handle = GetEmitService;
}

-t|target

例項化目標，使用選取以下兩種，配合引數 -n|number 使用

• foo：使用 IFoo_{n} 作為例項化目標，已定義了 IFoo_0、IFoo_1、IFoo_2 至 IFoo_9999 共1萬個介面與對應實現
• bar：使用 IBar_{n} 作為例項化目標，只定義了 IBar_100、IBar_1000、IBar_5000、IBar_10000 共4個介面，每個實現均以 IFoo 作為建構函式的引數，
  • IBar_100：使用 IFoo_0、IFoo_1 至 IFoo_99 作為建構函式引數；
  • IBar_1000：使用 IFoo_0、IFoo_1 至 IFoo_999 作為建構函式引數；
  • IBar_5000：使用 IFoo_0、IFoo_1 至 IFoo_4999 作為建構函式引數；
  • IBar_10000：使用 IFoo_0、IFoo_1 至 IFoo_9999 作為建構函式引數；

該部分同 大量介面與實現類的生成 一樣仍然使用指令碼生成。

-n|number

幫助指示例項化的目標及數量

• 100：target = foo 為從 IFoo_0、IFoo_1 至 IFoo_100 共100個介面，target =bar 則僅為 IBar_100；
• 1000：target = foo 為從 IFoo_0、IFoo_1 至 IFoo_1000 共1000個介面，target = bar 則僅為 IBar_1000；
• 5000：target = foo 為從 IFoo_0、IFoo_1 至 IFoo_5000 共5000個介面，target =bar 則僅為 IBar_5000；
• 10000：target = foo 為從 IFoo_0、IFoo_1 至 IFoo_10000 共10000個介面，target =bar 則僅為 IBar_10000；

-c|cache

快取行為，cache = false 時每次都構建委託，cache = true 則把構建委託快取起來重複使用。GetRefService()實現如下，GetExpService()和GetEmitService()相似。

static void GetRefService(Type type, Boolean cache)
{
    var site = _expEngine.CallSiteFactory.CreateCallSite(type, new CallSiteChain());
    Func<ServiceProviderEngineScope, object> func;
    if (cache)
    {
        func = _expEngine.RealizedServices.GetOrAdd(type, scope => _expEngine.RuntimeResolver.Resolve(site, scope));
    }
    else
    {
        func = scope => _expEngine.RuntimeResolver.Resolve(site, scope);
        _expEngine.RealizedServices[type] = func;
    }
    if (func == null)
    {
        _logger.Warn("Cache miss");
        return;
    }
    var obj = func(_expEngine.Root);
    if (obj == null)
    {
        throw new NotImplementedException();
    }
}

-l|loop

重複執行若干次，每次均記錄測試時長

static void TestBar(Action<Type, Boolean> handle, String method, Boolean cache, Type type)
{
    _watch.Restart();
    handle(type, cache);
    _watch.Stop();
    _logger.Info("method {0}, cache {1}, target {2}, cost {3}",
        method, cache, type.Name, _watch.ElapsedMilliseconds);
}

...
TestBar(handle, method, false, number);
for (int i = 1; i < loop; i++)
{
    TestBar(handle, method, cache, number);
}

由於本測試的重點是對比使用反射、表示式樹與 emit 的效能與開銷，故程式啟動後首先遍歷 ServiceCollection 對每個元件呼叫 CallSiteFactory.CreateCallSite(Type serviceType)，確保元件的上下文已經被建立和快取。

啟動測試

對以上引數進行組合，得到以下啟動方式，測試結果非同步寫入日誌檔案供後續解析。

# 啟用委託快取行為，例項化以 IFoo_ 作為命名字首注入的服務
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t foo -c true -n 100 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t foo -c true -n 1000 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t foo -c true -n 5000 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t foo -c true -n 10000 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t foo -c true -n 100 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t foo -c true -n 1000 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t foo -c true -n 5000 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t foo -c true -n 10000 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t foo -c true -n 100 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t foo -c true -n 1000 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t foo -c true -n 5000 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t foo -c true -n 10000 -l 100

# 禁用委託快取行為，例項化以 IFoo_ 作為命名字首注入的服務
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t foo -c false -n 100 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t foo -c false -n 1000 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t foo -c false -n 5000 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t foo -c false -n 10000 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t foo -c false -n 100 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t foo -c false -n 1000 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t foo -c false -n 5000 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t foo -c false -n 10000 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t foo -c false -n 100 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t foo -c false -n 1000 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t foo -c false -n 5000 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t foo -c false -n 10000 -l 50

# 啟用委託快取行為，例項化 IBar_100、IBar_1000、IBar_5000、IBar_10000
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t bar -c true -n 100 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t bar -c true -n 1000 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t bar -c true -n 5000 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t bar -c true -n 10000 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t bar -c true -n 100 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t bar -c true -n 1000 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t bar -c true -n 5000 -l 100
# ./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t bar -c true -n 10000 -l 100 # 請求無法完成，丟擲 IL 相關異常
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t bar -c true -n 100 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t bar -c true -n 1000 -l 100
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t bar -c true -n 5000 -l 100
# ./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t bar -c true -n 10000 -l 100 # 請求無法完成，丟擲 IL 相關異常

# 禁用委託快取行為，例項化 IBar_100、IBar_1000、IBar_5000、IBar_10000
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t bar -c false -n 100 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t bar -c false -n 1000 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t bar -c false -n 5000 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m ref -t bar -c false -n 10000 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t bar -c false -n 100 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t bar -c false -n 1000 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t bar -c false -n 5000 -l 50
# ./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m exp -t bar -c false -n 10000 -l 50 # 請求無法完成，丟擲 IL 相關異常
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t bar -c false -n 100 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t bar -c false -n 1000 -l 50
./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t bar -c false -n 5000 -l 50
# ./LeoninewAxe.Scaffold.DependencyInjection.App.exe -m emit -t bar -c false -n 10000 -l 50 # 請求無法完成，丟擲 IL 相關異常

值得一提的是，表示式樹和 emit 均無法完成 IBar_10000 的例項化，執行中丟擲相同異常 "System.InvalidProgramException: The JIT compiler encountered invalid IL code or an internal limitation."

測試結果

使用 LINQPad 編寫指令碼解析日誌，對解析結果使用 Excel 透視作表，得到耗時平均值與標準差。

對於本測試使用到的以 IFoo_ 和 IBar_ 作為命名字首的介面來說：

• 1萬餘介面的注入時間為 10s 左右；
• 1萬餘介面的元件的上下文建立時間在 0.6s 左右；
• 開啟委託快取時，所有例項化方式都能獲益；
• 所有方式例項化 IBar_N 均比例項化 IFoo_0 至 IFoo_N 快非常多；

反射

• 對快取不敏感（控制檯為 dotnet 3.0 版本）；
• 元件數量增長時，記憶體使用平穩，完成10000個 IFoo 例項化完成後程序記憶體增長 49.1MB-35.9MB=13.2MB；

表示式樹

• 隨著元件數量增長，對快取越發敏感；
• 記憶體需求增長，完成10000個 IFoo 例項化後進程記憶體增長75.7MB-35.9MB=39.8MB；
• 例項化依賴眾多的元件時，在快取下的耗時幾乎忽略；

Emit 與表示式差異不大

• 同表示式樹對快取敏感
• 記憶體需求增長，完成10000個 IFoo 例項化後進程記憶體增長77.7MB-35.9MB=41.8MB；
• 耗時更不穩定

開銷對比

對比1：開啟快取，例項化 IFoo_ 相關元件

對比2：開啟快取，例項化 IBar_ 相關元件

表達樹與 emit 方式均無法完成例項化 IBar_10000

對比3：關閉快取，例項化 IFoo_ 相關元件

對比4：關閉快取，例項化 IBar_ 相關元件

表達樹與 emit 方式均無法完成例項化 IBar_10000

相對於使用反射來說，不開啟快取時表示式樹和 emit 既慢記憶體消耗又高——無論是例項化 IFoo_ 相關元件還是 IBar_ 相關元件，它們均達到更高的記憶體佔用，又頻繁地觸發 GC，最終 CPU 使用率居高不下。

測試中未使用 GC.SuppressFinalize()處理例項化得到的元件，大量的 IFoo_ 例項回收影響判斷，IBar_ 沒有這個問題故放出截圖。

相關推薦