在 2023 亞馬遜云科技 re:Invent 大會(huì)上，亞馬遜云科技首席執(zhí)行官 Adam Selipsky 和 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛強(qiáng)調(diào)了生成式 AI 在云轉(zhuǎn)型過程中起到的關(guān)鍵作用，并著重介紹了兩家公司如何深化合作以賦能客戶取得成功。

亞馬遜云科技（AWS）和 NVIDIA 將為全球企業(yè)帶來新一代生成式 AI 技術(shù)。

當(dāng)?shù)貢r(shí)間本周二，NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛與亞馬遜云科技首席執(zhí)行官 Adam Selipsky 同臺(tái)出現(xiàn)在拉斯維加斯威尼斯人會(huì)展中心舉行的 2023 亞馬遜云科技 re:Invent 上，該大會(huì)以 AI 和云為主題。

Selipsky 表示他非常高興宣布亞馬遜云科技和 NVIDIA 合作關(guān)系的擴(kuò)展，兩家公司將提供更多的服務(wù)，為先進(jìn)的圖形、機(jī)器學(xué)習(xí)和生成式 AI 基礎(chǔ)設(shè)施提供支持。

雙方宣布：

• 亞馬遜云科技將成為率先采用最新 NVIDIA GH200 NVL32 Grace Hopper 超級(jí)芯片的云提供商，該芯片帶有全新多節(jié)點(diǎn) NVLink 技術(shù)；

• NVIDIA DGX 云將在 AWS 平臺(tái)上可使用；

• 亞馬遜云科技已經(jīng)集成了 NVIDIA 最受歡迎的一些軟件庫。

黃仁勛首先強(qiáng)調(diào)了包括 NVIDIA AI Enterprise 、 cuQuantum 和 BioNeMo 在內(nèi)的一系列關(guān)鍵 NVIDIA 軟件庫與亞馬遜云科技的集成，以滿足數(shù)據(jù)處理、量子計(jì)算、數(shù)字生物學(xué)等領(lǐng)域的需求。

黃仁勛表示，此次合作將推動(dòng)數(shù)百萬開發(fā)者和近 4 萬家企業(yè)能夠在亞馬遜云科技平臺(tái)使用這些軟件庫。他還表示很高興看到亞馬遜云科技擴(kuò)展其云實(shí)例服務(wù)，將 NVIDIA 最新的 L4、L40S 以及即將推出的 H200 GPU 納入其中。

Selipsky 隨后介紹了首次亮相亞馬遜云科技的 NVIDIA GH200 Grace Hopper 超級(jí)芯片，表示這是云計(jì)算領(lǐng)域的一項(xiàng)重大進(jìn)步，并請(qǐng)黃仁勛進(jìn)行更加詳細(xì)的介紹。

黃仁勛表示：“Grace Hopper，也就是 GH200，以一種非常獨(dú)特的方式連接了兩款顛覆性的處理器。”他解釋說，“GH200 使用名為 NVLink 的芯片到芯片互連技術(shù)，將 NVIDIA 的 Grace Arm CPU 與 H200 GPU 連接在一起，其速度驚人，可達(dá)每秒 1TB。”

每個(gè)處理器都可以直接訪問高性能的 HBM 和高效率的 LPDDR5X 內(nèi)存。該配置使每個(gè)超級(jí)芯片的處理能力達(dá)到 4 PFLOPS，內(nèi)存容量達(dá)到 600GB。

亞馬遜云科技和 NVIDIA 用新型 NVLink 交換機(jī)來連接單個(gè)機(jī)架中的 32 個(gè) Grace Hopper 超級(jí)芯片。每 32 個(gè) GH200 NVLink 連接的節(jié)點(diǎn)都可稱為是一個(gè) Amazon EC2 實(shí)例。在與 AWS Nitro 和 EFA 網(wǎng)絡(luò)集成后，客戶就可以連接 GH200 NVL32 實(shí)例，擴(kuò)展到數(shù)千顆 GH200 超級(jí)芯片。

黃仁勛表示：“通過 AWS Nitro 可以將其變成一個(gè)巨大的虛擬 GPU 實(shí)例。”

他還表示，亞馬遜云科技在高度可擴(kuò)展云計(jì)算領(lǐng)域的專業(yè)知識(shí)與 NVIDIA Grace Hopper 創(chuàng)新的結(jié)合，將使得這一平臺(tái)為復(fù)雜的生成式 AI 工作負(fù)載帶來極致性能。

在介紹亞馬遜云科技上的 NVIDIA DGX 云時(shí)，Selipsky 表示：“這個(gè)基礎(chǔ)設(shè)施真是太棒了，它還延伸到了軟件、服務(wù)和所有其他內(nèi)含的工作流。”

此次合作將使得首臺(tái)基于 GH200 超級(jí)芯片的 DGX 云 AI 超級(jí)計(jì)算機(jī)成為可能，它將展現(xiàn)亞馬遜云科技云基礎(chǔ)設(shè)施和 NVIDIA AI 專業(yè)技術(shù)的強(qiáng)大威力。

隨后，黃仁勛宣布亞馬遜云科技中的這臺(tái)全新 DGX 云超級(jí)計(jì)算機(jī)（代號(hào)為 Project Ceiba）也將作為 NVIDIA 最新的 AI 超級(jí)計(jì)算機(jī)，用于 NVIDIA 自己的 AI 研發(fā)工作。

黃仁勛表示，以雄偉的亞馬遜木棉樹（Ceiba）命名的 Project Ceiba DGX 云集群將集成 16,384 個(gè) GH200 超級(jí)芯片，可實(shí)現(xiàn) 65 EFLOPS 的 AI 處理性能。

他表示，Ceiba 將是全球首臺(tái) GH200 NVL32 AI 超級(jí)計(jì)算機(jī)，也是 NVIDIA DGX 云中最新的 AI 超級(jí)計(jì)算機(jī)。

他用“難以置信”來形容 Project Ceiba AI 超級(jí)計(jì)算機(jī)，稱它能夠?qū)⒆顝?fù)雜的大語言模型的訓(xùn)練時(shí)間縮短一半。

黃仁勛表示，NVIDIA 的 AI 工程師團(tuán)隊(duì)將在 DGX 云中使用這臺(tái)全新超級(jí)計(jì)算機(jī)，以推動(dòng) AI 在圖形、大語言模型、圖像 / 視頻 / 3D 生成、數(shù)字生物學(xué)、機(jī)器人、自動(dòng)駕駛汽車、Earth-2 氣候預(yù)測(cè)等領(lǐng)域的應(yīng)用。

“DGX 是 NVIDIA 的云 AI 工廠。無論是計(jì)算機(jī)圖形學(xué)、數(shù)字生物學(xué)模型的創(chuàng)建，還是機(jī)器人技術(shù)及氣候仿真和建模，AI 如今已成為 NVIDIA 扎實(shí)自身工作的關(guān)鍵。”

黃仁勛還表示：“DGX 云也是我們與企業(yè)客戶合作的 AI 工廠，以幫助他們一同構(gòu)建自定義 AI 模型。他們負(fù)責(zé)提供數(shù)據(jù)和領(lǐng)域?qū)I(yè)知識(shí)，而我們負(fù)責(zé)提供 AI 技術(shù)和基礎(chǔ)設(shè)施。”

此外，黃仁勛還宣布，亞馬遜云科技將在明年初推出四個(gè)基于 NVIDIA GH200 NVL、H200、L40S、L4 GPU 的亞馬遜 EC2 實(shí)例。

在談話的最后，Selipsky 宣布，基于 GH200 的實(shí)例和 DGX 云將于明年在亞馬遜云科技上提供。

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會(huì)議中心舉行，線上大會(huì)也將同期開放。點(diǎn)擊“閱讀原文”或掃描下方海報(bào)二維碼，立即注冊(cè) GTC 大會(huì)。