搭載 Tensor Core 的 NVIDIA RTX GPU 正在加速生成式 AI 模型的開發與部署；即將推出的 Max-Q 低功耗 AI 推理將提高能效比。

生成式 AI 正在迅速開創一個計算的新時代，為生產力、內容創作、游戲等多領域帶來了變革。NVIDIA NeMo 和 DLSS 3 幀生成技術、Meta LLaMa、ChatGPT、Adobe Firefly、Stable Diffusion 等生成式 AI 模型和應用能夠使用神經網絡來識別現有數據中的模式和結構，以此生成新的原創內容。

專為 GeForce RTX 和 NVIDIA RTX GPU 優化的生成式 AI 模型具有高達 1,400 Tensor TFLOP 的 AI 推理性能，運行速度比同類其他設備快 5 倍。這要得益于 RTX GPU 中用于加速 AI 計算的專用硬件 Tensor Cores，以及常規的軟件改進。上周在 Microsoft Build 大會上發布的增強功能等軟件方面的改進使得像 Stable Diffusion 這樣充分利用新的 DirectML 優化功能的生成式 AI 模型性能翻倍。

隨著越來越多的 AI 推理在本地設備上運行，PC 將需要強大而高效的硬件以支持這些復雜的任務。為了滿足這一需求，RTX GPU 將添加用于 AI 工作負載的 Max-Q 低功耗推理。在執行輕量級的推理任務時，GPU 將以極低的功耗運行，而在運行繁重負載如生成式 AI 工作時，則可升至極高的性能水平。

為了創建新的 AI 應用，在 Windows 11 上運行的整個 RTX 加速 AI 開發堆棧現已向開發者開放，使 AI 模型的開發、訓練和部署變得更容易。開發者首先會通過Windows Subsystem for Linux（WSL）上經過優化的深度學習框架開發和微調模型。

然后開發者可以無縫上云并在各個主要云服務商（CSP）提供的相同 NVIDIA AI 堆棧上進行訓練。接下來，開發者使用全新 Microsoft Olive 等工具優化訓練好的模型以實現快速推理，最后面向專為 AI 優化的系統的 1 億多 RTX PC 和工作站部署 AI 應用和功能。

微軟 Windows 芯片和系統集成副總裁 Pavan Davuluri 表示：“未來幾年，AI 將成為推動 Windows 客戶創新的最大驅動力。我們正在與 NVIDIA 開展軟硬件優化方面的合作，以此為開發者提供變革性的、高性能的、易于部署的體驗。”

迄今為止，超過 400 款已發布的應用和游戲由 RTX AI 提供加速，該陣容還在持續壯大中。

在拉開了 Computex 2023 序幕的主題演講中，NVIDIA 創始人兼首席執行官黃仁勛介紹了用于游戲開發的新生成式 AI——NVIDIA ACE 游戲開發版（NVIDIA Avatar Cloud Engine (ACE) for Games）。

通過 AI 驅動的自然語言互動，這項自定義 AI 模型代工服務使游戲中的非玩家角色（NPC）更加智能，從而徹底改變游戲體驗。中間件、工具和游戲開發者可以使用 “ACE 游戲開發版（ACE for Games）” 在他們的軟件和游戲中建立并部署定制化的語音、對話和動畫 AI 模型。

在 RTX 上運行的生成式 AI 無處不在

從服務器到云，再到設備，在 RTX GPU 上運行的生成式 AI 無處不在。NVIDIA 的加速 AI 計算具有低時延、全棧式的特點。多年來，我們一直在優化 AI 軟硬件架構的各個部分，包括 RTX GPU 上的專用 AI 硬件——第四代 Tensor Core。

通過對驅動的定期優化，能夠確保峰值性能。最新 NVIDIA 驅動在與經 Olive 優化的模型和 DirectML 更新結合后，能夠在 Windows 11 上大幅提升開發者的速度。例如在 Stable Diffusion 中，使用 DirectML 優化路徑的開發者將干擾時間縮短了兩倍。

借助基于 NVIDIA Ada Lovelace 架構打造的最新一代 RTX 筆記本電腦和移動工作站，用戶可以在任何地方運行生成式 AI。新一代移動平臺的外形尺寸只有 14 英寸，重量僅為 3 磅左右，將性能和便攜性提升至新高。戴爾、惠普、聯想、華碩等制造商正在 RTX GPU 和 Tensor Cores 的支持下，推動生成式 AI 時代的發展。

• “隨著各個行業繼續部署 AI，預計到 2030 年，AI 需求的年增長率將超過 37%，企業和消費者將越來越需要合適的技術以實現 AI 的開發和落地，比如生成式 AI 等。多年來，聯想一直致力于開發適用于 AI 工作負載的產品和解決方案，進而助力擴展生成式 AI 的應用范圍——從設備到服務器、再到云。聯想 ThinkPad、ThinkStation、ThinkBook、Yoga、Legion 和 LOQ 等搭載 NVIDIA RTX GPU 的 PC 正在推動生成式 AI 的變革浪潮，在節省時間、創作內容、完成工作和游戲等方面提供更好的用戶體驗。”

  ——聯想副總裁兼 PC 業務和智能設備首席技術官 Daryl Cromer

• “生成式 AI 是一項革命性的技術，同時也是促進各個行業未來創新的催化劑。惠普與 NVIDIA 共同為開發者提供卓越的性能、移動性以及運行當前加速 AI 模型所需的可靠性，推動全新生成式 AI 時代的發展。”

  ——惠普高級副總裁兼 Z 系列總經理 Jim Nottingham
  

• “我們近期與 NVIDIA 圍繞 Project Helix 的合作重點是助力企業更輕松地在本地構建和部署值得信賴的生成式 AI。在這個歷史性時刻，我們進一步將生成式 AI 引入 PC 。想象一下，應用開發者能夠在完善神經網絡算法的同時，在本地控制訓練數據和 IP。正是為了實現這個目標，我們設計了搭載 NVIDIA RTX GPU 的強大、可擴展 Precision 工作站。作為工作站領域的全球領導者，戴爾在幫助用戶安全加速從邊緣到數據中心的 AI 應用方面具有獨特的優勢。”

  ——戴爾科技客戶產品部總裁 Ed Ward

• “生成式 AI 的時代正在到來，因此需要強大的處理能力和經過全面優化的軟硬件。借助 NVIDIA AI 平臺，包括現在已經預裝到我們許多產品上的 NVIDIA Omniverse，我們十分高興能看到 AI 的變革在華碩和 ROG 筆記本電腦上持續不斷地推動著。”

  ——華碩全球消費業務市場總監 Galip Fu

很快，搭載 RTX GPU 的筆記本電腦和移動工作站就將做到“兩全其美”。純 AI 推理工作負載將根據 Tensor Core 的性能進行優化，同時盡可能降低 GPU 的功耗，延長電池續航時間，并保持系統擁有出色的散熱和降噪表現。GPU 還可根據工作負載的需要，動態提升至最高 AI 性能。

開發者可以訪問面向加速應用開發者的 NVIDIA AI 網頁（訪問地址：https://developer.nvidia.cn/ai-for-creative-applications），了解如何對應用進行端到端優化，以充分利用 GPU 加速。