GPU虛擬化：MIG和vGPU對比
阿新 • • 發佈：2022-05-06
在 vGPU 模式下，GPU 上的記憶體是靜態分割槽的，但計算能力在共享 GPU 的 VM 之間分時共享。在這種模式下，當虛擬機器在 GPU 上執行時，它“擁有” GPU 的所有計算能力，但只能訪問其共享的 GPU 記憶體。
在 MIG 模式下，記憶體和計算能力是靜態劃分的。當 VM 在 MIG 模式下使用 GPU 時，它只能訪問分配給它的記憶體，並且只能使用分配給它的計算核心。因此，即使 GPU 中剩餘的計算核心（即未分配給該 VM 的核心）處於空閒狀態，VM 也無法使用這些空閒核心。
無論 VM 使用哪種模式來執行其工作負載，計算結果都是相同的。唯一的區別在於使用掛鐘時間測量的效能。vGPU 和 MIG 模式各有優缺點：vGPU 模式分時共享計算核心，而 MIG 模式靜態劃分核心。 鑑於這兩種模式共享核心的方式存在差異，這就提出了一個問題，即哪種模式可以為給定的工作負載提供最佳效能（即最低執行時間）。
vGPU 模式顯示了使用掛鐘時間測量的最佳效能，以完成具有資料傳輸和/或 CPU 計算與 CUDA 計算穿插的工作負載的任務。MIG 模式顯示了執行繁重、大型 CUDA 核心的工作負載的最佳效能，而資料傳輸或 CPU 計算的中斷很少或沒有中斷。對於具有聚合資料傳輸和聚合 CUDA 計算的工作負載，MIG 模式顯示兩個或更少虛擬機器同時執行的最佳效能，而 vGPU 模式顯示三個或更多虛擬機器同時執行的最佳效能。
https://blogs.vmware.com/performance/2021/09/mig-or-vgpu-part1.html