1月22日報道,日前,AMD正式啟動第三代人工智能及高性能計算(HPC)加速器Instinct MI300X的批量生產(chǎn),并首先向核心合作伙伴LaminaAI提供。借助MI300X的強(qiáng)大運(yùn)算能力,LaminaAI將以滿足企業(yè)用戶的高端需求為目標(biāo),實(shí)現(xiàn)大語言模型(LLM)的高效運(yùn)轉(zhuǎn)。
LaminaAI作為AMD的長期合作伙伴,能夠搶先體驗(yàn)到全新MI300X加速器的強(qiáng)大優(yōu)勢,實(shí)屬正常。該公司首席執(zhí)行官Sharon Zhou在社交媒體進(jìn)行了公告,同時透露,已經(jīng)接收到配置8個Instinct MI300X加速器的設(shè)備,其中包括首批正在生產(chǎn)的AMD MI300X,以及即將推出的LaminaAI下一代LLM集群。
據(jù)悉,MI300X是AMD Instinct MI300系列中的旗艦型號,專為AI和HPC設(shè)計,相比前代產(chǎn)品,它采用了更少的x86 CPU內(nèi)核,轉(zhuǎn)而搭載數(shù)量超過MI300A的304個CDNA 3計算單元,內(nèi)存容量方面亦有顯著提升, 達(dá)到了驚人的192GB HBM3。在峰值帶寬方面,更可達(dá)到頂級的5.3 TB/s,性能遠(yuǎn)超同行。
據(jù)AMD官方測試數(shù)據(jù)顯示,MI300X綜合表現(xiàn)出眾,超越 NVIDIA H100 80GB,且有望對H200 141GB構(gòu)成競爭壓力。包括Meta和Microsoft在內(nèi)的領(lǐng)先企業(yè)均大規(guī)模采購了AMD Instinct MI300系列新品,而LaminaAI則成為公開使用 MI300X的首家公司。
-
amd
+關(guān)注
關(guān)注
25文章
5586瀏覽量
136332 -
加速器
+關(guān)注
關(guān)注
2文章
827瀏覽量
39112 -
語言模型
+關(guān)注
關(guān)注
0文章
561瀏覽量
10787
發(fā)布評論請先 登錄
AMD最強(qiáng)AI芯片,性能強(qiáng)過英偉達(dá)H200,但市場仍不買賬,生態(tài)是最大短板?

重磅!AMD將恢復(fù)向中國出口MI308芯片!
低電壓大電流時代:AI服務(wù)器XPU電源國產(chǎn)方案來了

AMD將DeepSeek-V3模型集成至Instinct MI300X GPU
消息稱AMD Instinct MI400 AI加速器將配備8個計算芯片
AMD集成DeepSeek-V3模型至Instinct MI300X GPU
AMD MI300X AI芯片面臨挑戰(zhàn)
IBM與AMD攜手部署MI300X加速器,強(qiáng)化AI與HPC能力
IBM將在云平臺部署AMD加速器

評論