NVIDIA官方宣布了新一代GH200 Grace Hopper超級芯片平臺(tái)，全球首發(fā)采用HBM3e高帶寬內(nèi)存，可滿足世界上最復(fù)雜的生成式AI負(fù)載需求。

NVIDIA 2022年3月推出了Grace Hopper超級芯片，首次將CPU、GPU融合在一塊主板上，不過直到今年5月份才量產(chǎn)。

其中，Grace CPU擁有72個(gè)Armv9 CPU核心、198MB緩存，支持1TB/s高帶寬的LPDDR5X ECC內(nèi)存，還支持PCIe 5.0。

Hopper GPU則采用臺(tái)積電4nm定制工藝，800億晶體管，集成18432個(gè)CUDA核心、576個(gè)Tenor核心、60MB二級緩存，支持6144-bit HBM高帶寬內(nèi)存，此前版本配備的是96GB HBM3。

雙路配置的系統(tǒng)中，兩顆新一代GH200超級芯片可帶來144個(gè)CPU核心、8PFlops(8千萬億次浮點(diǎn)計(jì)算每秒) AI性能、282GB HBM3e內(nèi)存，容量是現(xiàn)在的3.5倍，而高達(dá)10TB/s的帶寬也是現(xiàn)在的3倍。

基于NVLink高速總線，GH200超級芯片還可以繼續(xù)拓展互連，GPU可以訪問全部的CPU內(nèi)存，雙路配置下總?cè)萘靠蛇_(dá)1.2TB。

NVIDIA沒有透露采用的HBM3e來自哪家供應(yīng)商，很可能是SK海力士。

首批基于GH200超級芯片的系統(tǒng)將在2024年第二季度出貨。

順帶一提，AMD Instinct MI300A、MI300X AI加速器分別配備128GB、192GB HBM3，后者帶寬超過5TB/s。

NVIDIA Ada Lovelace架構(gòu)在桌面、筆記本游戲卡上已經(jīng)布局完畢，如今在工作站上也圓滿了。

今天，NVIDIA正式發(fā)布了RTX 5000 ADA、RTX 4500 ADA、RTX 4000 ADA三款新專業(yè)卡，加上此前的旗艦級RTX 6000 ADA、半高式RTX 4000 SFF ADA，高中低端都齊了。

RTX 6000 ADA旗艦卡為雙插槽、單渦輪風(fēng)扇設(shè)計(jì)，滿血的AD102 GPU核心，配備18176個(gè)CUDA核心、568個(gè)Tensor核心，核心加速頻率可達(dá)2.5GHz。

顯存搭檔384-bit 48GB GDDR6 ECC，等效頻率20GHz，帶寬為960GB/s，整卡功耗300W，四個(gè)DP 1.4a接口。

FP32浮點(diǎn)性能91.1TFlops(每秒91.1萬億次)，價(jià)格高達(dá)6800美元，約合人民幣4.90萬元。

RTX 5000 ADA延續(xù)了老大哥的造型、AD102核心，精簡到12800個(gè)CUDA核心、400個(gè)Tensor核心。

顯存也砍到256-bit 32GB，頻率18GHz，帶寬降至578GB/s，功耗也來到250W。

浮點(diǎn)性能65.3TFlops，相當(dāng)于旗艦卡的約72％，價(jià)格4000美元，約合人民幣2.88元。

RTX 4500 ADA外觀依然不變，但內(nèi)部改成了AD104核心(跳過AD103)，7680個(gè)CUDA核心、240個(gè)Tensor核心的規(guī)模與RTX 4070 Ti完全一致。

核心頻率是全系列最高的2.6GHz，顯存是192-bit 24GB GDDR6 ECC，頻率18GHz，帶寬432GB/s。

浮點(diǎn)性能39.6TFlops，價(jià)格2250美元，約合人民幣1.62萬元。

RTX 4000 ADA改成了單插槽設(shè)計(jì)，還是單個(gè)渦輪風(fēng)扇，AD104核心，6144個(gè)CUDA核心、192個(gè)Tensor核心、160-bit 20GB GDDR6顯存，接口四個(gè)mini DP 1.4a，這些都和SFF半完全一致。

不過核心頻率從1.56GHz大幅提高到2.2GHz，顯存頻率也從16GHz提高到18GHz，浮點(diǎn)性能來到了26.7TFlops，功耗也從70W大幅增至130W。

價(jià)格倒是沒變，還是1250美元，約合人民幣9000元。

Boxx、戴爾、Lamdda、聯(lián)想、惠普等將從今年秋天開始陸續(xù)推出搭載新卡的工作站，甚至有的會(huì)配備四塊RTX 6000 ADA，總顯存多達(dá)192GB。

審核編輯：劉清