AI 正在深入各行各業(yè)的轉(zhuǎn)型，助力流程實(shí)現(xiàn)自動(dòng)化，也為技術(shù)的快速發(fā)展帶來新的創(chuàng)新機(jī)遇。也有越來越多的企業(yè)意識(shí)到了將 AI 整合到企業(yè)運(yùn)營中的價(jià)值，但也隨之面臨各式挑戰(zhàn)，包含如何以高效、有效且可靠的方式實(shí)現(xiàn)這些技術(shù)的落地。

NVIDIA AI Enterprise 是一款全面的軟件套件，專門用于幫助企業(yè)大規(guī)模實(shí)現(xiàn)企業(yè)就緒的 AI、機(jī)器學(xué)習(xí)（ML）和數(shù)據(jù)分析，并提供安全性、可靠性、API 穩(wěn)定性和企業(yè)級(jí)支持。

什么是 NVIDIA AI Enterprise？

部署 AI 解決方案可能十分復(fù)雜，不僅需要專業(yè)的軟硬件，也需要開發(fā)和維護(hù)這些系統(tǒng)的專業(yè)知識(shí)。NVIDIA AI Enterprise 通過提供了針對(duì)企業(yè)環(huán)境定制的工具、庫、框架和支持服務(wù)的完整生態(tài)系統(tǒng)來應(yīng)對(duì)這些挑戰(zhàn)。

借助 GPU 加速計(jì)算能力，NVIDIA AI Enterprise 使企業(yè)能夠更加高效、更加節(jié)省成本并且大規(guī)模地運(yùn)行 AI 工作負(fù)載。NVIDIA AI Enterprise 基于 NVIDIA CUDA-X AI 軟件堆棧建立，可提供高性能的 GPU 加速計(jì)算能力。

該套件包含：

1. VMI：預(yù)配置的虛擬機(jī)鏡像，包含必需的驅(qū)動(dòng)程序和軟件，以支持各主要云中的 GPU 加速 AI 工作負(fù)載。

2. AI 框架：可在 VMI 中運(yùn)行的軟件（如 PyTorch、TensorFlow、RAPIDS、支持 TensorRT 和 ONNX 的 NVIDIA Triton 等），作為 AI 開發(fā)和部署的基礎(chǔ)。

3. 預(yù)訓(xùn)練模型：可按原樣使用，或在企業(yè)相關(guān)數(shù)據(jù)上進(jìn)行微調(diào)的模型。

4. AI 工作流：預(yù)安裝的參考示例，用于說明如何使用 AI 框架和預(yù)訓(xùn)練模型，以解決常見業(yè)務(wù)問題。這些工作流圍繞預(yù)訓(xùn)練模型微調(diào)和 AI 模型創(chuàng)建提供指導(dǎo)，以便在 NVIDIA 框架的基礎(chǔ)上進(jìn)行構(gòu)建；重點(diǎn)介紹了創(chuàng)建應(yīng)用的管道，并提供了有關(guān)如何部署自定義應(yīng)用并將其與企業(yè)環(huán)境中常見的各種組件（如編排和管理軟件、存儲(chǔ)、安全以及網(wǎng)絡(luò)）集成的意見。

可用的 AI 工作流包括：

• 智能虛擬助理：提供全天候聯(lián)絡(luò)中心協(xié)助，可降低運(yùn)營成本。

• 音頻轉(zhuǎn)錄：通過 GPU 優(yōu)化模型實(shí)現(xiàn)全球領(lǐng)先的精準(zhǔn)轉(zhuǎn)錄。

• 數(shù)字指紋威脅檢測(cè)：對(duì)網(wǎng)絡(luò)安全威脅檢測(cè)和警報(bào)進(jìn)行優(yōu)先級(jí)別排序，更快地識(shí)別和行動(dòng)。

• 商品預(yù)測(cè)： 通過個(gè)性化的產(chǎn)品推薦，提升客戶互動(dòng)和留存。

• 路線優(yōu)化：通過車輛和機(jī)器人路線優(yōu)化，減少移動(dòng)時(shí)間、降低燃料成本。

支持的軟件和版本分支

使用 NVIDIA AI Enterprise 軟件的主要優(yōu)勢(shì)之一是，能夠獲得 NVIDIA 以安全性和穩(wěn)定性為原則的支持。NVIDIA AI Enterprise 包含三個(gè)版本分支，可滿足各個(gè)行業(yè)及用例的不同需求：

1. 最新版本：該分支面向需要頂級(jí)軟件優(yōu)化的用戶，按每月發(fā)布一次，確保用戶能夠獲得最新的功能和優(yōu)化。CVE 補(bǔ)丁程序和錯(cuò)誤修復(fù)也包含在滾動(dòng)式版本中。

2. 生產(chǎn)版本：該分支專門用于優(yōu)先考慮 API 穩(wěn)定性的環(huán)境，將每月接收 CVE 補(bǔ)丁和漏洞修復(fù)，每年發(fā)布兩個(gè)新分支且每個(gè)分支的生命周期為 9 個(gè)月。為確保無縫過渡和持續(xù)提供支持，兩個(gè)連續(xù)的生產(chǎn)分支之間將有 3 個(gè)月的重疊期。生產(chǎn)版本分支將于 2023 年下半年推出。

3. 長期版本：該分支專為需要長期支持的高度監(jiān)管行業(yè)所量身定制，將每季度接收 CVE 補(bǔ)丁和錯(cuò)誤修復(fù)，并為特定版本提供長達(dá) 3 年的支持。除了這一長期穩(wěn)定性之外，還有 6 個(gè)月的重疊期以確保版本之間的平穩(wěn)過渡，從而為受到高度監(jiān)管的行業(yè)提供其所需使用壽命和一致性。

圖 1. NVIDIA AI Enterprise 的三個(gè)版本分支可滿足各個(gè)行業(yè)和用例的不同需求

如何結(jié)合使用 NVIDIA AI Enterprise

與 Microsoft Azure 機(jī)器學(xué)習(xí)

Microsoft Azure 機(jī)器學(xué)習(xí)是一個(gè)用于在云端和本地進(jìn)行 AI 開發(fā)的平臺(tái)，包含了用于訓(xùn)練、實(shí)驗(yàn)、部署和監(jiān)控模型的服務(wù)，并且能夠?yàn)榇笳Z言模型設(shè)計(jì)和構(gòu)建提供提示流。作為一個(gè)開放平臺(tái)，Azure 機(jī)器學(xué)習(xí)支持所有流行的機(jī)器學(xué)習(xí)框架和套件，包括 NVIDIA AI Enterprise 提供的框架和套件。

將 NVIDIA AI 軟件與 Azure 機(jī)器學(xué)習(xí)訓(xùn)練和推理平臺(tái)集成，優(yōu)化了前者的運(yùn)行體驗(yàn)。用戶無需再花時(shí)間設(shè)置訓(xùn)練環(huán)境、安裝軟件包、編寫訓(xùn)練代碼、記錄訓(xùn)練指標(biāo)和部署模型，即可充分利用 NVIDIA 企業(yè)就緒軟件的強(qiáng)大功能，并在 Azure 機(jī)器學(xué)習(xí)高性能、安全基礎(chǔ)設(shè)施的加成下，構(gòu)建生產(chǎn)就緒 AI 工作流。

如開始使用，請(qǐng)按照以下步驟操作：

1. 登錄 Microsoft Azure 并啟動(dòng) Azure 機(jī)器學(xué)習(xí)工作室。

2. NVIDIA AI Enterprise 預(yù)覽版注冊(cè)表中查看并訪問所有預(yù)構(gòu)建的 NVIDIA AI Enterprise 組件、環(huán)境和模型（圖 2）。

圖 2. Azure 機(jī)器學(xué)習(xí)上的 NVIDIA AI Enterprise 預(yù)覽版注冊(cè)表

3. 在工作區(qū)中使用這些資產(chǎn)，通過簡單的拖曳操作在設(shè)計(jì)器中創(chuàng)建 ML 管道（圖 3）。

圖 3. Azure 機(jī)器學(xué)習(xí)中使用 NVIDIA AI Enterprise 組件的管道

用例：人體姿態(tài)估計(jì)

NVIDIA AI Enterprise 預(yù)覽版注冊(cè)表中的各種元素使用起來非常簡單。本示例展示了一項(xiàng)使用 NVIDIA DeepStream 進(jìn)行人體姿態(tài)估計(jì)的計(jì)算機(jī)視覺任務(wù)。NVIDIA TAO 工具套件提供了人體姿態(tài)模型的基礎(chǔ)，并能夠使用新數(shù)據(jù)對(duì)其進(jìn)行完善。

圖 4 展示了一個(gè)運(yùn)行 NVIDIA DeepStream 示例應(yīng)用程序進(jìn)行人體姿態(tài)估計(jì)的視頻分析管道。該應(yīng)用在 GPU 集群上運(yùn)行并且能夠輕松調(diào)整，以便使用更新的模型和視頻，從而解鎖 Azure 機(jī)器學(xué)習(xí)平臺(tái)的強(qiáng)大功能。

圖 4. NVIDIA TAO 工具套件和 NVIDIA DeepStream 使用 Azure 機(jī)器學(xué)習(xí)進(jìn)行人體姿態(tài)估計(jì)

該示例包含兩個(gè)基于 URI 的數(shù)據(jù)資產(chǎn)，用于存儲(chǔ) DeepStream 示例應(yīng)用命令組件的輸入。這些數(shù)據(jù)資產(chǎn)使用的預(yù)訓(xùn)練模型，在 NVIDIA AI Enterprise 注冊(cè)表中隨時(shí)可用，還包含額外的校準(zhǔn)和標(biāo)簽信息。

DeepStream 人體姿態(tài)命令組件被設(shè)置為使用 Microsoft Azure Blob 存儲(chǔ)。該組件會(huì)監(jiān)控輸入目錄中是否有需要推理的新視頻文件。當(dāng)出現(xiàn)視頻文件時(shí)，該組件會(huì)拾取并執(zhí)行人體姿態(tài)推理。輸出的視頻加入了邊界框和跟蹤線，并存儲(chǔ)在輸出目錄中。

該注冊(cè)表中的其他示例包括：

• bodyposenet

• citysemsegformer

• dashcamnet

• emotionnet

• fpenet

• gazenet

• gesturenet

• lprnet

• peoplenet

• peoplenet_transformer

• peoplesemsegnet

• reidentificationnet

• retail_object_detection

• retail_object_recognition

• trafficcamnet

每一個(gè)示例都可以通過基于TAO 工具套件的訓(xùn)練管道執(zhí)行遷移學(xué)習(xí)并加以改進(jìn)。模型的輸出結(jié)果會(huì)根據(jù)具體的用例發(fā)生變化。您可以在 NGC 上找到 TAO 工具套件的計(jì)算機(jī)視覺示例工作流程。

開始在 Azure 機(jī)器學(xué)習(xí)上

使用 NVIDIA AI Enterprise

NVIDIA AI Enterprise 和 Azure 機(jī)器學(xué)習(xí)共同打造了一個(gè)強(qiáng)大的組合，將 GPU 加速計(jì)算與基于云的全面機(jī)器學(xué)習(xí)平臺(tái)進(jìn)行融合，使企業(yè)能夠更加高效地開發(fā)和部署 AI 模型。這協(xié)同增效使企業(yè)能夠在利用云資源靈活性的同時(shí)，也充分發(fā)揮 NVIDIA GPU 和軟件的性能優(yōu)勢(shì)。

如您想要開始使用 Azure 機(jī)器學(xué)習(xí)上的 NVIDIA AI Enterprise，請(qǐng)注冊(cè)技術(shù)預(yù)覽版(https://www.nvidia.com/en-us/data-center/solutions/mlops/?nvmid=reg-btn)，以訪問 Azure 機(jī)器學(xué)習(xí)上的 NVIDIA AI Enterprise 預(yù)覽版注冊(cè)表中的所有預(yù)構(gòu)建組件、環(huán)境和模型。

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會(huì)議中心舉行，線上大會(huì)也將同期開放。掃描下方海報(bào)二維碼，立即注冊(cè) GTC 大會(huì)。