1. 程式人生 > 其它 >【優優工場雲原生的GPU虛擬化AI平臺產品 XPU】 通過亞馬遜 AWS Marketplace對外發布

【優優工場雲原生的GPU虛擬化AI平臺產品 XPU】 通過亞馬遜 AWS Marketplace對外發布

AWS Marketplace是全球規模最大最成功的公有云生態產品和服務目錄,它使客戶能夠輕鬆查詢、測試、部署和管理他們在AWS全球範圍內當前20個區域(AWS 中國包括北京和寧夏兩個區域)執行系統所需要的第三方軟體和服務。藉助AWS Marketplace,客戶可以從這一應用軟體商店查詢和比較軟體產品,並在登入其AWS賬戶後,幾分鐘內快速部署和使用預配置的軟體產品。客戶可以在AWS Marketplace全球官方網站(https://aws.amazon.com/market...)或 AWS Marketplace 中國官方網站(https://awsmarketplace.amazon...)。

優優工場(YOYOWORKS)作為Amazon AWS全球和亞馬遜雲科技(中國)的官方合作伙伴,幫助客戶輕鬆實現的AI 計算雲原生的GPU虛擬化方案。XPU是優優工場(YOYOWORKS)推出的容器GPU虛擬化產品。XPU核心思想是將GPU在核心層進行切分,向上模擬出統一的XPU裝置供容器使用,即多個容器共享一張GPU卡。XPU實現了一套框架能夠很好的遮蔽異構GPU和應用(TensorFlow,PyTorch等)之間的耦合,對GPU進行故障隔離,視訊記憶體隔離,算力隔離,從而實現業務的安全隔離,提高GPU硬體資源的利用率並降低使用成本。

XPU 雲原生AI平臺解決方案,主要優勢如下:

XPU採用零侵入式架構設計,通過kernel module,services及container runtime為容器提供虛擬的GPU裝置,在保證效能的前提下隔離視訊記憶體和算力,為充分利用GPU硬體資源進行訓練和推理提供有效保障。

高效能

  • 採用本地使用GPU計算資源的架構,有天然的效能優勢,相比於物理GPU,效能損耗幾乎為零。
  • 支援將GPU切片為任意大小的XPU,從而允許多AI負載並行執行,提高物理GPU利用率。
  • 提高GPU綜合利用率多達3-10倍,1張卡相當於起到N張卡的效果,真正做到昂貴算力平民化。

安全性

  • 完美支援GPU單卡和多卡的算力隔離,視訊記憶體隔離及故障隔離。

相容性

  • 零侵入設計: 最大的限度保證向後和向前相容。使用者零開銷在 XPU 平臺上運營現有AI應用,無縫相容已有NGC等容器映象。
  • 硬體相容性: 完美支援包括NVIDIA Pascal及以後架構的系列 GPU(GeForce,Quadro/RTX,Tesla);支援裸金屬和虛擬環境,支援物理GPU和vGPU。
  • 架構相容性:依託實現在核心模組層的通用介面能力,XPU 完美支援CUDA8.0 及以後所有版本的框架和應用。
  • 生態相容性:相容業界標準的Kubernetes和NVIDIA Docker產品和方案。

AWS Marketplace 全球網站和AWS Marketplace中國網站是使用者使用 AWS 雲產品和服務的統一入口。 下面我一 AWS Marketplace 全球為例介紹使用者使用優優工場 XPU 產品和方法(AWS Marketplace中國的方法非常類似,請通過其訪問)AWS Marketplace官網支援英文關鍵詞搜尋。以下我們就向您展示如何通過AWS Marketplace官方網站訂閱以及使用XPU。

第一步:通過AWS Marketplace官方網站搜尋框,搜尋“yoyoworks”或者“XPU”,點選產品並選擇右側“Continue to Subscribe”XPU

下拉檢視詳細資訊:

第二步:進入下一頁閱讀相關內容,以及條款說明後,點選“Continue to Configuration”按鈕。

第三步:點選“Continue to Configuration”後進入產品配置軟體步驟,您可以按需選擇Delivery Method、Software Version、Region三個選項,然後點選“Continue to Launch”按鈕

第四步:在您接受軟體相關條款確認訂閱並確定區域和軟體版本後,您進入“Launch this software”的介面,在此介面中您可以選擇通過網站或者Amazon Elastic Compute Cloud (Amazon EC2)控制檯啟動Amazon系統映像(AMI)產品。“Launch from Website”選項使用軟體供應商推薦的軟體配置幫助客戶通過幾次點選就可以快速啟動一個例項。如下圖所示,在軟體啟動頁面,您可以清楚看到“Launch from Website”選項。在您完成一些基本設定後,例如VPC、安全組、金鑰對和Amazon EC2例項型別,您就可以直接啟動軟體。

如果需要更多的配置選項,您仍可以選擇通過Amazon EC2控制檯啟動產品。所有在AWS Marketplace上面的產品都已經經過質量和安全驗證並在 AWS基礎設施上預配置了快速啟動功能。

集中化軟體管理
此次官網上線,AWS Marketplace還配合推出了AWS Marketplace訂閱控制檯以幫助您檢視和管理所有您在AWS Marketplace上面的訂閱。在這個控制檯中,您可以檢視每個產品的Amazon EC2例項狀態,啟動一個新例項,或者取消您的軟體訂閱。要訪問這個控制檯,您可以在登陸後,在網站的右上角您的使用者名稱的下拉選單中選擇您的AWS Marketplace軟體選項,或者您可以在Amazon EC2控制檯的左側查詢服務中直接輸入AWS Marketplace。如下圖所示,AWS Marketplace訂閱控制檯包含所有您訂閱過的產品列表,點選每項產品,你還可以看到產品概述以及相關管理選項。例如,您可以檢視某一個產品正在執行的所有例項資訊。

訊息來源:優優工場(YOYOWORKS)