1. 程式人生 > 資訊 >英偉達釋出 Jarvis 1.0 公測版:基於 GPU 提供對話式 AI 服務的應用框架

英偉達釋出 Jarvis 1.0 公測版:基於 GPU 提供對話式 AI 服務的應用框架

2 月 26 日訊息 根據英偉達官方的訊息,英偉達今日釋出 Jarvis 1.0 公測版,這是基於 NVIDIA GPU 提供實時效能的靈活、多模態對話式 AI 服務應用框架。官方表示,公測版中包含用於構建和部署實時對話式 AI 應用程式的端到端工作流程,例如轉錄、虛擬助手和聊天機器人等。

英偉達表示,此次釋出的 Jarvis 包含多個新型對話式 AI 預訓練模型,並支援遷移學習工具包(TLT),方便企業根據自己的具體用例和領域調整應用。這些應用能夠理解上下文和細微差別,為使用者提供更好的體驗。

通過 Jarvis,企業可以獲得各種先進的模型、通過 TLT 遷移學習實現開發速度高達 10 倍提升,以及全面優化的 GPU 加速流程,從而建立實時執行的智慧語言型應用。

本次釋出版本的亮點包括:

  • 基於數千小時語音資料訓練的 ASR、NLU 和 TTS 模型。

  • 採用自定義資料通過零編碼的方法快速重新訓練模型的 TLT。

  • 全面加速的深度學習流程經過優化,可作為可擴充套件服務執行。

  • 使用一行程式碼部署服務的端到端工作流程和工具。

瞭解到,基於 Jarvis 構建的應用程式可以應用全新 NVIDIA A100 Tensor Core GPU 中的各項創新技術進行 AI 計算,並使用 NVIDIA TensorRT的最新優化進行推理。現在,使用最強大的視覺和語音模型執行整個多模態應用已成為可能,而且其速度比實時互動所需的 300 毫秒閾值還要快。Jarvis 提供了一整套 GPU 加速軟體堆疊和工具,使開發者能夠輕鬆地建立、部署和執行端到端的實時 AI 應用程式,並且能夠準確理解各企業及其客戶溝通時所用的各種專業術語。