新一批創(chuàng)新企業(yè)開始基于 DGX 系統(tǒng)、Base Command 和 DGX SuperPOD 來實現(xiàn) AI,包括 Adept AI、現(xiàn)代汽車集團、KT 和威斯康星大學麥迪遜分校。
在GTC 大會上,NVIDIA 公布了DGX 產(chǎn)品系列的多項更新,有望推動企業(yè)級 AI 開發(fā)實現(xiàn)新突破。
NVIDIA DGX H100 系統(tǒng)現(xiàn)已提供訂購。這些基礎設施的基礎構建模塊支持 NVIDIA 的全棧企業(yè)級 AI 解決方案。
NVIDIA DGX H100 在 FP8 精度下提供 32 petaflop 的性能,將能大幅提升企業(yè)級 AI 開發(fā)的效率。與上一代系統(tǒng)相比,DGX H100 的總體擁有成本降至1/3,能效提高 3.5 倍。
新的 NVIDIA Base Command 軟件可簡化和加速 AI 開發(fā),有力支持從單節(jié)點到 DGX SuperPOD 的各種 DGX 系統(tǒng)高效運行。
此外,NVIDIA DGX BasePOD(DGX POD 的進階版)也揭開了面紗,它使 IT 團隊能更快速輕松地獲得、部署和管理企業(yè)級數(shù)據(jù)中心 AI。
全球許多 AI 領軍企業(yè)都在使用 NVIDIA DGX 系統(tǒng)和軟件,致力于尋求技術突破(從自動駕駛汽車到語音助手),且從未放緩創(chuàng)新的步伐。
全新 NVIDIA Base Command 功能
NVIDIA Base Command 提供企業(yè)級編排和集群管理功能,并且包含完整的軟件棧,以盡可能地提高 AI 開發(fā)者的工作效率、IT 可管理性和工作負載性能。
Base Command 的工作流管理功能現(xiàn)在包含對本地 DGX SuperPOD 環(huán)境的支持,使企業(yè)能通過簡化的項目團隊協(xié)作、集成的監(jiān)控和報告面板來集中控制 AI 開發(fā)項目。
Base Command 與 NVIDIA AI Enterprise 軟件套件配合使用,該套件現(xiàn)已包含在所有 DGX 系統(tǒng)中。借助此 NVIDIA AI 軟件,客戶可以使用其所支持的 AI 和數(shù)據(jù)科學工具、優(yōu)化的框架和預訓練模型,進行端到端 AI 開發(fā)和部署。
另外,此軟件還能與以下公司的企業(yè)工作流管理和 MLOps 工具進行集成:DGX-Ready 軟件提供商 Domino Data Lab、Run.ai、Weights & Biases,以及NVIDIA初創(chuàng)加速計劃成員 Rescale。此軟件還包含多個庫,不僅能優(yōu)化和加速計算、存儲和網(wǎng)絡基礎設施,還能確保盡可能地延長系統(tǒng)的正常運行時間、安全性和可靠性。
全新 DGX BasePOD 參考架構
DGX BasePOD 為 DGX 系統(tǒng)提供參考架構,該架構融合了集成計算、網(wǎng)絡、存儲和軟件方面的最佳設計實踐。
客戶已經(jīng)使用 NVIDIA DGX POD 來推動各種企業(yè)應用的開發(fā)。DGX BasePOD 基于DGX POD 的成功,其新型行業(yè)解決方案瞄準了 AI 領域的巨大機遇,包括自然語言處理、醫(yī)療健康和生命科學以及欺詐檢測。
DGX BasePOD 解決方案通過 NVIDIA 合作伙伴網(wǎng)絡,作為完全集成、可隨時部署的產(chǎn)品提供給客戶,其規(guī)模介于兩個到數(shù)百個 DGX 系統(tǒng)之間,并采用由以下 NVIDIA DGX 存儲技術合作伙伴開發(fā)的認證高性能存儲技術:DDN、戴爾、NetApp、Pure Storage、VAST Data 和 WEKA 等。
領軍企業(yè)借助 DGX 系統(tǒng)推動 AI 開發(fā)實現(xiàn)突破
世界各地的許多企業(yè)都選擇 NVIDIA DGX 系統(tǒng)來有效運行其高級 AI 工作負載。以下是在 DGX A100 系統(tǒng)上開發(fā)任務關鍵型 AI 功能的部分 AI 創(chuàng)新者:
機器學習研究和產(chǎn)品實驗室 Adept 正在打造基于大型語言模型的 AI 團隊成員,其原型基于 NVIDIA DGX Foundry 開發(fā),然后利用 Oracle Cloud Infrastructure上的 NVIDIA A100 GPU 和 NVIDIA Megatron 進行擴展。
現(xiàn)代汽車集團正使用 40 個節(jié)點的 DGX SuperPOD,探索研究超大規(guī)模 AI 工作負載。
電信公司 KT 正在使用 NVIDIA NeMo Megatron 框架、NVIDIA DGX SuperPOD 和 NVIDIA Base Command 軟件,為各種韓語應用(包括 GiGA Genie 智能揚聲器)開發(fā)一個包含大約 400 億參數(shù)的 LLM。
威斯康星大學麥迪遜分校正在將 NVIDIA DGX 系統(tǒng)與 Flywheel 研究平臺以及 NVIDIA Clara 醫(yī)療健康應用框架一起使用,致力于快速將 AI 引入到醫(yī)學成像設備中。該大學與其他醫(yī)院合作,使用 NVIDIA 聯(lián)邦學習應用運行時環(huán)境 (NVIDIA FLARE) 在 DGX 系統(tǒng)上安全地訓練用于醫(yī)學成像、標注數(shù)據(jù)和分類的 AI 模型。
審核編輯:湯梓紅
-
NVIDIA
+關注
關注
14文章
5213瀏覽量
105646 -
AI
+關注
關注
87文章
33921瀏覽量
274830
原文標題:GTC22 | 全新 NVIDIA DGX 系統(tǒng)軟件和基礎設施解決方案強效賦能企業(yè) AI
文章出處:【微信號:NVIDIA_China,微信公眾號:NVIDIA英偉達】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
基于RK3576的BASE64編解碼

NVIDIA推出全新硅光網(wǎng)絡交換機
ads1174中的DIN腳的功能說是Daisy-chain,它的作用是什么?
NVIDIA NeMo Guardrails引入三項全新NIM微服務
NVIDIA推出全新生成式AI模型Fugatto
全新NVIDIA NIM微服務實現(xiàn)突破性進展
NVIDIA發(fā)布全新AI和仿真工具以及工作流
使用全新NVIDIA AI Blueprint開發(fā)視覺AI智能體
Simplelink? Wi-Fi? AT Command用戶指南

Modbus協(xié)議診斷功能說明
NVIDIA Parabricks v4.3.1版本的新功能

NVIDIA JetPack 6.0版本的關鍵功能

評論