10 月 31 日 – 11 月 2 日，2023 云棲大會在杭州云棲小鎮圓滿舉辦，本屆大會以 “計算，為了無法計算的價值” 為主題，為開發者們呈現了一場精彩紛呈的云計算和 AI 技術盛會。

NVIDIA 在本屆大會也帶來了海量干貨與技術內容：多維度解讀 AI 及大語言模型（LLM）開發和應用的精彩演講、阿里云、螞蟻集團的 LLM 應用案例、NVIDIA 全棧 AI 和加速計算展區、開發者社區招募和 AI 體驗、初創加速計劃和 NVIDIA 深度學習培訓中心（DLI）福利…… 現在，就讓我們帶您一同回顧本次大會的高光時刻！

NVIDIA 精彩演講

高光時刻

01

AI 女性 “進化論”：

追光而行、全力奔跑！

大會首日，NVIDIA 全球副總裁劉念寧在“無畏 · 無限” 新女性新機遇的聚合話題演講中，通過科技女性數據、AI 女性典范以及溫暖有愛的個人故事，將科技女性身上展現的她力量高度凝練為 “毅力” 、“彈力” 和“聚力” ，激勵科技女性們勇敢擁抱加速計算和生成式 AI 的全新時代。她的演講金句 “AI 的星辰大海，除了追光與奔跑，還有愛與生命”，收獲了現場觀眾的熱烈反響。

高光時刻

02

Networking for AI

NVIDIA 網絡與高性能計算高級副總裁 Gilad Shainer 也為大家帶來了精彩的演講分享。Gilad 從云（Cloud）、生成式 AI 云（Generative AI Cloud）以及 AI 工廠（AI Factories）三個角度展開，與在場觀眾一起探討了人工智能網絡的復雜性，闡述了正在發揮作用的各種技術及其對現代數據中心的影響，并針對網絡技術如何塑造人工智能格局的重要議題進行了深入淺出地拆解剖析。

高光時刻

03

NVIDIA 聚合話題演講，群英云集！

11 月 1 日，來自 NVIDIA 和阿里云的資深技術專家，齊聚“NVIDIA 加速計算 創造生成式 AI 新時代”聚合話題演講，分享 LLM 的全棧 AI 開發方案及開發者工具和服務。

NVIDIA 解決方案架構與工程總監王淼、NVIDIA 解決方案架構師翟健、NVIDIA 產品研發總監周國峰、阿里云資深算法專家黃俊、阿里云高級技術專家張杰、NVIDIA 解決方案架構師高慧怡、NVIDIA GPU 計算專家薛博陽、NVIDIA GPU 計算專家顏子杰、NVIDIA GPU 性能架構師樊士慶，依次發表精彩的專題演講。

<<<左右滑動查看更多照片>>>

（以上照片按照演講順序排列）

NVIDIA 技術專家圍繞大語言模型（LLM）主題，分享了 NVIDIA 端到端的數據中心級全棧 AI 和加速計算解決方案和軟件全棧與行業解決方案更新概覽，介紹了 NVIDIA 最新發布的開源大型語言模型推理加速庫 TensorRT-LLM 的產品定位、基本功能和使用方法，全新 GPU 架構下的重要特性 FP8 訓練與推理和相應軟件解決方案 Transformer Engine，以及 NVIDIA Megatron Core 對下一代大規模 LLM / MoE 訓練的支持。同時，阿里云的技術專家也分享了阿里云人工智能平臺 PAI (Platform of AI) 團隊研發的 Pai-Megatron-Patch，以 NVIDIA Megatron-LM 為核心開發的靈駿集群訓練 LLM 的一站式工具箱，以及其自主研發的大規模模型 RLHF 高效訓練框架 PAI-ChatLearn 的架構、性能，和如何基于 Megatron 進行高效 RLHF 訓練。

高光時刻

04

NVIDIA 技術演講

精彩內容令人應接不暇！另有 3 場干貨十足的演講為 2023 云棲大會注入了 NVIDIA 特色的技術靈感。

11 月 1 日，NVIDIA 教科研應用技術總監李順在云棲 SHOW 場，圍繞 “NVIDIA 科學智能（AI4S）賦能科學發現” 做專題演講，并邀請觀眾參與阿里云與 NVIDIA 主辦的 2023 AI for Science GPU 黑客松。

（了解更多信息，請查閱：https://tianchi.aliyun.com/competition/entrance/532163?spm=a2c22.12281949.0.0.52753b74tEfONb）

NVIDIA 解決方案架構師金國強受邀分享 “NVIDIA 生成式 AI 加速優化方案概覽”，帶領觀眾們從多個角度感受 NVIDIA 數據中心 GPU 在大語言模型及圖像生成領域的強大性能。

11 月 2 日，NVIDIA GPU、CUDA 應用市場總監侯宇濤應阿里云天池邀請，在云棲 SHOW 場-云上開發者大賽專場，以 “引領技術，推動應用” 為主題做專題分享，引導和鼓勵開發者學習 NVIDIA GPU 加速和優化技術，并和阿里云開發者關系總監孟晉宇共同發布了 3 個聯合舉辦的 AI 算法開發大賽。

<<<左右滑動查看更多照片>>>

（以上照片按照演講順序排列）

NVIDIA 技術交流互動展區

NVIDIA 全棧 AI 和加速計算展區人流如織，既然來到現場，當然不能錯過在這里探討影響未來數字世界發展的重要技術！

高光時刻

01

沉浸式互動觀展

NVIDIA 在展區空間內帶來了眾多采用 NVIDIA AI 技術的客戶案例，包括 NVIDIA TensorRT-LLM 如何幫助螞蟻團隊優化開源代碼大模型 CodeFuse 的推理加速、NVIDIA GPU 及 NVIDIA Clara Parabricks 如何為阿里云金融與醫療行業提供最佳的解決方案，包含開箱即用的魔搭開源模型和靈積模型服務高效 GPU 優化、Megatron 加速通義大模型訓練，確保訓練性能在大集群上的可擴展性、基于 NVIDIA Megatron 開發的深度學習大語言模型工具等豐富內容。

此外，NVIDIA 還展示了加速基礎設施、AI 軟件、模型和服務的加速計算解決方案，包括 NVIDIA 加速的基礎設施、InfiniBand 網絡計算端到端解決方案、NVIDIA AI Enterprise、AI Models and Foundries 等生成式 AI 技術底座、AI Playground 生成式 AI 互動體驗等。

<<<左右滑動查看更多照片>>>

高光時刻

02

AI 小課堂報道

AI 互動展示區域內，NVIDIA 精心打造的 AI 小課堂如期而至， NVIDIA 的技術專家們分享了關于 NVIDIA AI Enterprise、NeMo、TensorRT、Omniverse、Spectrum-X 平臺的開發技術，為各位開發者的 NVIDIA AI 入門和進階學習拓寬了靈感思路。

精彩課程內容包括：

• NVIDIA AI Enterprise 全面助力生成式 AI 全棧開發

• 基于 LLM 大模型構建中文對話引擎：NeMo + ChatGLM

• 生成式 AI 應用實踐：一個文字生成圖像的代碼實現流程

• 合成數據應用初探——圖像分類數據集的制作案例

• 利用 NVIDIA BlueField-3 DPU 構建云

• NVIDIA Spectrum-X 平臺助力生成式 AI 云服務

現場觀眾跟隨精彩講解做筆記劃重點，講解結束更積極與技術大咖們交流探討，仿佛每個人都在 NVIDIA 的 AI 小課堂上完成了一次“版本升級”。

<<<左右滑動查看更多照片>>>

高光時刻

03

動手體驗玩轉開發

展位現場的動手體驗環節更是圈粉無數！

利用人工智能技術實現 Jetbot 自動駕駛小車避障功能的動手體驗活動，在展位現場人氣爆棚。開發者踴躍嘗試、積極動手，體驗了 NVIDIA 計算機視覺 AI 技術在避障和路徑優化場景的應用。

Full-Stack 語音 AI 開發全流程動手編程體驗同樣人氣滿滿，開發者經過學習當場實現了借助 NVIDIA NeMo 工具庫結合中文語音數據訓練，基于 Jetson 嵌入式平臺來完成中文 ASR 功能的開發。

總結

隨著生成式 AI 與大語言模型的快步向前，加速計算與各行各業的交互、融合的新時代已經到來。本屆云棲大會雖然已落下帷幕，但 NVIDIA 仍將發揮在加速計算領域的優勢，持續創新、不斷深耕，進而源源不斷地為各行業和生態提供穩定且高效的全棧 AI 解決方案支持。

最后，感謝所有線上線下觀眾朋友的熱情關注與踴躍參與。NVIDIA 期待與大家再次相聚，共同見證 AI 新時代的發展！

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行，線上大會也將同期開放。點擊“閱讀原文”或掃描下方海報二維碼，關注更多會議及活動信息。