Meta萬(wàn)卡GPU集群穩(wěn)定性剖析與最佳實(shí)踐
一、背景 本文中我們將具體介紹 Meta 對(duì)其萬(wàn)卡 AI 集群穩(wěn)定性的剖析和刻畫，以及在其中遇到的各....
深度學(xué)習(xí)工作負(fù)載中GPU與LPU的主要差異
當(dāng)前，生成式AI模型的參數(shù)規(guī)模已躍升至數(shù)十億乃至數(shù)萬(wàn)億之巨，遠(yuǎn)遠(yuǎn)超出了傳統(tǒng)CPU的處理范疇。在此背景....
為什么MPLS仍是以太網(wǎng)傳輸技術(shù)的首選
什么是運(yùn)營(yíng)商以太網(wǎng)傳輸技術(shù)？ 運(yùn)營(yíng)商以太網(wǎng)是指在局域網(wǎng) (LAN) 之外使用以太網(wǎng)技術(shù)，特別是用于長(zhǎng)....
算力調(diào)度的基礎(chǔ)知識(shí)
編者按 “算力調(diào)度”的概念，這幾年越來(lái)越多的被提及。剛聽到這個(gè)概念的時(shí)候，我腦海里一直拐不過彎。作為....
智算中心網(wǎng)絡(luò)交換機(jī)需要什么樣的緩存架構(gòu)
?在交換機(jī)上，緩存就是數(shù)據(jù)交換的緩沖區(qū)，被交換機(jī)用來(lái)協(xié)調(diào)不同網(wǎng)絡(luò)設(shè)備之間的速度匹配問題，突發(fā)數(shù)據(jù)可以....
未來(lái)智算中心:從單數(shù)據(jù)中心到多數(shù)據(jù)中心AI訓(xùn)練集群的演變趨勢(shì)
? 去年以來(lái)，以ChatGPT為代表的大模型迅速紅遍全球，展現(xiàn)出變革經(jīng)濟(jì)社會(huì)的巨大潛能。全球主流科技....
一文看透高性能網(wǎng)絡(luò)
隨著大模型的廣泛流行，GPU集群計(jì)算的規(guī)模越來(lái)越大（單芯片算力提升有限，只能通過擴(kuò)規(guī)模的方式來(lái)提升整....
ETH-X超節(jié)點(diǎn):開辟AI算力約束突破的新路徑
面對(duì)人工智能大模型的迅速發(fā)展及其對(duì)算力資源的急劇增長(zhǎng)需求，單芯片性能提升遭遇瓶頸，同時(shí)通過Scale....
天翼云彈性負(fù)載均衡介紹
負(fù)載均衡（Load Balancing）是一種優(yōu)化資源分配的技術(shù)，主要用于在網(wǎng)絡(luò)環(huán)境中分散工作負(fù)載，....
異構(gòu)計(jì)算下緩存一致性的重要性
在眾多回復(fù)中，李博杰同學(xué)的回答被認(rèn)為質(zhì)量最高。他首先將緩存一致性分為兩個(gè)主要場(chǎng)景：一是主機(jī)內(nèi)CPU與....
揭秘智算中心的互聯(lián)技術(shù)決策
英偉達(dá)設(shè)計(jì)的DGX H100 NVL256超級(jí)計(jì)算集群，原本計(jì)劃集成256個(gè)NVIDIA H100 ....
什么是網(wǎng)絡(luò)大模型技術(shù)
當(dāng)前，生成式人工智能被認(rèn)為是21世紀(jì)最重要的技術(shù)突破之一，其為人類社會(huì)帶來(lái)了工作范式的轉(zhuǎn)變，極大地提....
如何利用CXL協(xié)議實(shí)現(xiàn)高效能的計(jì)算架構(gòu)
近日我有幸閱讀了英特爾公司互聯(lián)系統(tǒng)領(lǐng)域的權(quán)威人物Debendra Das Sharma撰寫的一篇開創(chuàng)....
英特爾、AMD等聯(lián)手推出UALink，希望用它取代Nvidia NVLink接口
周四，英特爾、AMD、博通、思科、谷歌、HPE、Meta和微軟宣布正在建立一個(gè)新的行業(yè)組織——Ult....
探討SONiC-DASH網(wǎng)絡(luò)可編程技術(shù)
DASH 在傳統(tǒng) SONiC 管理的底層基礎(chǔ)設(shè)施之上建立了overlay服務(wù)。這種overlay服務(wù)....
一文詳解基于以太網(wǎng)的GPU Scale-UP網(wǎng)絡(luò)
最近Intel Gaudi-3的發(fā)布，基于RoCE的Scale-UP互聯(lián)，再加上Jim Keller....
傳統(tǒng)的TCP/IP堆棧是否足以有效支持HPC網(wǎng)絡(luò)通信？
在快速增長(zhǎng)的人工智能 (AI) 和機(jī)器學(xué)習(xí) (ML) 領(lǐng)域，數(shù)據(jù)中心對(duì)高性能計(jì)算 (HPC) 系統(tǒng)的....
AWS HPC為什么不用Infiniband？有何原因？
HPC的低延遲需求來(lái)自于很多應(yīng)用都會(huì)通過網(wǎng)格刨分來(lái)進(jìn)行并行運(yùn)算，然后網(wǎng)格間有復(fù)雜而頻繁的通信數(shù)據(jù)交互....
星脈網(wǎng)絡(luò)深度解析：GOR全鏈路流量規(guī)劃與擁塞控制機(jī)制
AI網(wǎng)絡(luò)中的數(shù)據(jù)流就好像拉力賽道上飛馳的賽車，在賽道上高速前進(jìn)。但是由于賽道的寬度有限，如果一條賽道....
請(qǐng)問高端網(wǎng)絡(luò)芯片如何處理數(shù)據(jù)包呢？
隨著網(wǎng)絡(luò)芯片帶寬的持續(xù)提升，其內(nèi)部數(shù)據(jù)包處理單元的工作負(fù)載也隨之增加。然而，如果處理單元無(wú)法與網(wǎng)絡(luò)接....
盤點(diǎn)一下史上最全大語(yǔ)言模型訓(xùn)練中的網(wǎng)絡(luò)技術(shù)
人工智能的基礎(chǔ)設(shè)施在大語(yǔ)言模型訓(xùn)練和推理過程中發(fā)揮了關(guān)鍵的作用。隨著大語(yǔ)言模型規(guī)模不斷增大，其對(duì)計(jì)算....
Cerebras推出WSE-3 AI芯片，比NVIDIA H100大56倍
Cerebras 是一家位于美國(guó)加利福尼亞州的初創(chuàng)公司，2019 年進(jìn)入硬件市場(chǎng)，其首款超大人工智能....
2023年全球以太網(wǎng)交換機(jī)市場(chǎng)最新排名出爐！
據(jù)IDC報(bào)告顯示，2023 年全球以太網(wǎng)交換機(jī)收入同比增長(zhǎng) 20.1%，達(dá)到 442 億美元（約31....
華為與成都高投集團(tuán)等擬共同收購(gòu)鼎橋通信100%股權(quán)
1月19日上午，國(guó)家市場(chǎng)監(jiān)督管理總局公示了“華為技術(shù)有限公司與成都高新投資集團(tuán)有限公司（以下簡(jiǎn)稱“成....
工商網(wǎng)監(jiān)