1. 程式人生 > >高效方便的IO庫: System.IO.Pipelines

高效方便的IO庫: System.IO.Pipelines

原文: 高效方便的IO庫: System.IO.Pipelines

我們在編寫網路程式的時候,經常會進行如下操作:

  1. 申請一個緩衝區
  2. 從資料來源中讀入資料至緩衝區
  3. 解析緩衝區的資料
  4. 重複第2步

表面上看來這是一個很常規而簡單的操作,但實際使用過程中往往存在如下痛點:

資料讀不全:

可能不能在一次read操作中讀入所有需要的資料,因此需要在緩衝區中維護一個遊標,記錄下次讀取操作的起始位置,這個遊標帶了了不小的複雜度:

  • 從緩衝區讀資料時,要根據遊標計算緩衝區起始寫位置,以及剩餘空間大小。增加了讀資料的複雜度。
  • 解析資料也是複用這個緩衝區的,解析的時候也要判斷遊標起始位置,剩餘空間大小。同時增加了解析資料的複雜度。
  • 解析玩了後還要移動遊標,重新標記緩衝區起始位置,再次增加了複雜度。

 

緩衝區容量有限:

由於緩衝區有限,可能申請的緩衝區不夠用,需要引入動態緩衝區。這也大幅加大了程式碼的複雜度。

  • 如果每次都申請更大的記憶體,一方面帶來的記憶體申請釋放開銷,另一方面需要將原來的資料移動,並更新遊標,帶來更復雜的邏輯。
  • 如果靠多段的記憶體組成一個邏輯整理,資料的讀寫方式都比較複雜。
  • 使用完後的記憶體要釋放,如果需要更高的效率還要維持一個記憶體池。

 

讀和用沒有分離

我們的業務本身只關心使用操作,但讀和用操作沒有分離,複雜的都操作導致用操作也變得複雜,並且嚴重干擾業務邏輯。

 

今天介紹微軟新推出的一個庫:System.IO.Pipelines(需要在Nuget上安裝),用於解決這些痛點。它主要包含一個Pipe物件,它有一個Writer屬性和Reader屬性。

var pipe   = new Pipe();
var writer = pipe.Writer;
var reader = pipe.Reader;

 

Writer物件

Writer物件用於從資料來源讀取資料,將資料寫入管道中;它對應業務中的"讀"操作。

var content = Encoding.Default.GetBytes("hello world");
var data    = new Memory<byte>(content);
var result  = await writer.WriteAsync(data);

另外,它也有一種使用Pipe申請Memory的方式

var buffer = writer.GetMemory(512);
content.CopyTo(buffer);
writer.Advance(content.Length);
var result = await writer.FlushAsync();

 

Reader物件

Reader物件用於從管道中獲取資料來源,它對應業務中的"用"操作。

首先獲取管道的緩衝區:

var result = await reader.ReadAsync();
var buffer = result.Buffer;

這個Buffer是一個ReadOnlySequence<byte>物件,它是一個相當好的動態記憶體物件,並且相當高效。它本身由多段Memory<byte>組成,檢視Memory段的方法有:

  • IsSingleSegment: 判斷是否只有一段Memory<byte>
  • First: 獲取第一段Memory<byte>
  • GetEnumerator: 獲取分段的Memory<byte>

它從邏輯上也可以看成一段連續的Memory<byte>,也有類似的方法:

  • Length: 整個資料緩衝區長度
  • Slice: 分割緩衝區
  • CopyTo: 將內容複製到Span中
  • ToArray: 將內容複製到byte[]中

另外,它還有一個類似遊標的位置物件SequencePosition,可以從其Position相關函式中使用,這裡就不多介紹了。

這個緩衝區解決了"資料讀不夠"的問題,一次讀取的不夠下次可以接著讀,不用緩衝區的動態分配,高效的記憶體管理方式帶來了良好的效能,好用的介面是我們能更關注業務。

獲取到緩衝區後,就是使用緩衝區的資料

var data = buffer.ToArray();

使用完後,告訴PIPE當前使用了多少資料,下次接著從結束位置後讀起

reader.AdvanceTo(buffer.GetPosition(4));

這是一個相當實用的設計,它解決了"讀了就得用"的問題,不僅可以將不用的資料下次再使用,還可以實現Peek的操作,只讀但不改變遊標。

 

互動

除了"讀"和"用"操作外,它們之間還需要一些互動,例如:

  1. 讀過程中資料來源不可用,需要停止使用
  2. 使用過程中業務結束,需要中止資料來源。

Reader和Writer都有一個Complete函式,用於通知結束:

reader.Complete();
writer.Complete();

在Writer寫入和Reader讀取時,會獲得一個結果

FlushResult result = await writer.FlushAsync();
ReadResult result = await reader.ReadAsync();

它們都有一個IsComplete屬性,可以根據它是否為true判斷是否已經結束了讀和寫的操作。

 

取消

在寫入和讀取的時候,也可以傳入一個CancellationToken,用於取消相應的操作。

writer.FlushAsync(CancellationToken.None);
reader.ReadAsync(CancellationToken.None);

如果取消成功,對應的Result的IsCanceled則為true(沒有驗證過)

 

相關文件: