女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

認(rèn)識(shí)一下AI算力應(yīng)用中的光模塊產(chǎn)品

易飛揚(yáng)通信 ? 來(lái)源:易飛揚(yáng)通信 ? 2023-12-29 16:14 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

以ChatGPT為代表的AI大模型應(yīng)用普及將推動(dòng)算力需求快速增長(zhǎng),服務(wù)器產(chǎn)業(yè)鏈?zhǔn)瞧渲兄匾氖芤姝h(huán)節(jié)之一,AI計(jì)算的普及將推動(dòng)服務(wù)器產(chǎn)業(yè)鏈光模塊向800G升級(jí)提速。

算力網(wǎng)絡(luò)驅(qū)動(dòng)下光模塊市場(chǎng)需求預(yù)測(cè)

光模塊是數(shù)據(jù)中心內(nèi)部互連和數(shù)據(jù)中心相互連接的核心部件。100G和400G是主流產(chǎn)品,800G過(guò)去主要用在超算等領(lǐng)域。據(jù)LightCounting預(yù)計(jì),2023年800G全球普及率僅0.62%。而以ChatGPT為代表的AI大模型,對(duì)數(shù)據(jù)中心內(nèi)外的數(shù)據(jù)流量都提出了新要求,有望推動(dòng)光模塊加速向800G升級(jí)。800G光模塊將從2025年底開(kāi)始主導(dǎo)光模塊市場(chǎng)。

2adbcdbe-a622-11ee-8b88-92fbcf53809c.png

根據(jù)LightCounting的數(shù)據(jù),2016年至2020年,全球光模塊市場(chǎng)規(guī)模從58.6億美元增長(zhǎng)到66.7億美元,預(yù)測(cè)2025年全球光模塊市場(chǎng)將達(dá)到113億美元,為2020年的1.7倍。從結(jié)構(gòu)上看數(shù)通市場(chǎng)占60%,電信市場(chǎng)占40%左右。

2ae89026-a622-11ee-8b88-92fbcf53809c.png

AI算力場(chǎng)景光模塊應(yīng)用情況

首先我們以英偉達(dá)的SuperPOD為例測(cè)算單顆GPU與光模塊的比例。測(cè)算僅考慮IB網(wǎng)絡(luò)對(duì)應(yīng)的光模塊需求。以140個(gè)節(jié)點(diǎn)的集群為例,每臺(tái)舉例服務(wù)器需要8顆GPU芯片,共需140×8=1120顆芯片;集群中每20臺(tái)服務(wù)器組成一個(gè)SU(scalable units,可擴(kuò)展單元),共7個(gè)SU。IB網(wǎng)絡(luò)架構(gòu)下實(shí)現(xiàn)了完整的胖樹(shù)(Fat-Tree)拓?fù)浣Y(jié)構(gòu),胖樹(shù)架構(gòu)在訓(xùn)練場(chǎng)景中最優(yōu)的配置是上下行端口數(shù)一樣,即無(wú)阻塞的網(wǎng)絡(luò),具體來(lái)看:

第一層:每個(gè)SU 中配置8臺(tái)葉交換機(jī),共有56臺(tái)葉交換機(jī);

第二層:每10臺(tái)脊交換機(jī)組成一個(gè)交換機(jī)組Spine Group( SG),每個(gè)SU 的第一個(gè)葉交換機(jī)連接到SG1中的每個(gè)交換機(jī),每個(gè)SU的第二個(gè)葉交換機(jī)連接到SG2中的每個(gè)交換機(jī),共有80個(gè)脊交換機(jī);

第三層:每14臺(tái)核心交換機(jī)組成一個(gè)交換機(jī)組Core Group(CG),對(duì)應(yīng)共28個(gè)核心交換機(jī)。

使用系統(tǒng)的對(duì)應(yīng)計(jì)算側(cè)和存儲(chǔ)側(cè)線纜全部采用AOC有源光纜,因此每個(gè)端口對(duì)應(yīng)一個(gè)光模塊,即每條光纜對(duì)應(yīng)2個(gè)光模塊,因此計(jì)算側(cè)和存儲(chǔ)側(cè)共需要(1120+1124+1120)×2+(280+92+288)×2=8048個(gè)光模塊,即單顆GPU對(duì)應(yīng)所需200G光模塊數(shù)量約為1:7.2

DGX GH200超級(jí)計(jì)算機(jī)搭載256個(gè)超級(jí)芯片,每個(gè)超級(jí)芯片可視為一個(gè)服務(wù)器,通過(guò)交換機(jī)進(jìn)行互聯(lián)。從結(jié)構(gòu)上來(lái)看,超級(jí)計(jì)算機(jī)采用兩層的胖樹(shù)拓?fù)浣Y(jié)構(gòu),第一、二層分別使用96個(gè)、36個(gè)交換機(jī),每臺(tái)交換機(jī)擁有32個(gè)速率為800G的端口;此外超級(jí)計(jì)算機(jī)還配備了24個(gè)IB交換機(jī)用于IB網(wǎng)絡(luò)。按照端口進(jìn)行估算,L1層距離較近因此假定使用銅纜進(jìn)行連接不涉及光模塊,L2層36個(gè)交換機(jī)在無(wú)收斂胖樹(shù)架構(gòu)下,第二層交換機(jī)端口向下與L1層交換機(jī)上行端口互聯(lián),因此共需要36×32×2=1152個(gè)800G光模塊;IB網(wǎng)絡(luò)架構(gòu)下,24臺(tái)交換機(jī)需要24×32=768個(gè)800G光模塊;則DGX GH200超級(jí)計(jì)算機(jī)共需要1152+768=1920個(gè)800G光模塊,對(duì)應(yīng)每顆芯片12個(gè)800G光模塊。則GPT-3單日完成訓(xùn)練需要8萬(wàn)顆以上200G光模塊,如果考慮到FLOPS的利用率約為20%-30%,則需要光模塊的數(shù)量將約為35萬(wàn)顆。

易飛揚(yáng)應(yīng)用于算力場(chǎng)景的光模塊

AI發(fā)展促進(jìn)了海量光模塊需求,易飛揚(yáng)則已于2023年完成800G/400G AI應(yīng)用光模塊產(chǎn)線建設(shè)任務(wù),新建成的生產(chǎn)線主要用于4×100G PAM4和8×100G PAM4光模塊和有源光纜的生產(chǎn)。

2b17d886-a622-11ee-8b88-92fbcf53809c.png

2b297ae6-a622-11ee-8b88-92fbcf53809c.png

得益于供應(yīng)鏈的支持,易飛揚(yáng)的系列AI光模塊量產(chǎn)順利,公司本身的產(chǎn)品多樣化設(shè)計(jì)能力、訂單能力和供應(yīng)鏈能力形成了較好的匹配關(guān)系。可以為中小客戶提供靈活有效的需求交付和樣品測(cè)試。







審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 交換機(jī)
    +關(guān)注

    關(guān)注

    22

    文章

    2742

    瀏覽量

    101892
  • 光模塊
    +關(guān)注

    關(guān)注

    80

    文章

    1421

    瀏覽量

    60310
  • GPU芯片
    +關(guān)注

    關(guān)注

    1

    文章

    305

    瀏覽量

    6194
  • ChatGPT
    +關(guān)注

    關(guān)注

    29

    文章

    1589

    瀏覽量

    9077

原文標(biāo)題:AI算力應(yīng)用中的光模塊產(chǎn)品

文章出處:【微信號(hào):gigalight_yifeiyang,微信公眾號(hào):易飛揚(yáng)通信】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    AI網(wǎng)絡(luò)模塊市場(chǎng)發(fā)展分析

    AI需求激增推動(dòng)模塊技術(shù)迭代加速,800G模塊
    的頭像 發(fā)表于 05-26 16:50 ?274次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>網(wǎng)絡(luò)<b class='flag-5'>光</b><b class='flag-5'>模塊</b>市場(chǎng)發(fā)展分析

    維諦技術(shù):AI普惠浪潮,如何打造新中樞?

    DeepSeek的橫空出世,為AI行業(yè)注入了新的變量。它憑借開(kāi)源可用、低成本調(diào)用的特性,大幅降低了大模型技術(shù)的使用門(mén)檻,加速了AI能力向各行各業(yè)的滲透。在這場(chǎng)“民主化”運(yùn)動(dòng)
    的頭像 發(fā)表于 05-12 14:42 ?388次閱讀
    維諦技術(shù):<b class='flag-5'>AI</b>普惠浪潮<b class='flag-5'>下</b>,如何打造新<b class='flag-5'>一</b>代<b class='flag-5'>算</b><b class='flag-5'>力</b>中樞?

    革命引爆器件產(chǎn)業(yè):解碼400G/800G模塊的黃金時(shí)代

    AI需求與云基礎(chǔ)設(shè)施升級(jí)正驅(qū)動(dòng)器件產(chǎn)業(yè)進(jìn)入超高速增長(zhǎng)周期。本文深度解析模塊市場(chǎng)爆發(fā)邏輯
    的頭像 發(fā)表于 05-06 14:12 ?264次閱讀

    魔方IO擴(kuò)展模塊介紹 網(wǎng)絡(luò)篇1

    魔方簡(jiǎn)介 魔方?AIPC是目前市面上唯模塊
    的頭像 發(fā)表于 04-09 14:33 ?318次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>魔方IO擴(kuò)展<b class='flag-5'>模塊</b>介紹 網(wǎng)絡(luò)篇1

    DeepSeek推動(dòng)AI需求:800G模塊的關(guān)鍵作用

    集群的部署過(guò)程,帶寬瓶頸成為制約發(fā)揮的關(guān)鍵因素,而光模塊的速率躍升成為突破這瓶頸的核心
    發(fā)表于 03-25 12:00

    AI 報(bào)告來(lái)了!2025國(guó)AI市場(chǎng)將達(dá) 259 億美元

    報(bào)告來(lái)源:IDC、浪潮信息2月13日,國(guó)際數(shù)據(jù)公司(IDC)攜手浪潮信息,重磅發(fā)布《2025年國(guó)人工智能計(jì)算發(fā)展評(píng)估報(bào)告》。當(dāng)下,大模型與生成式人工智能熱度飆升,需求水漲船高,
    的頭像 發(fā)表于 03-07 13:27 ?784次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>算</b><b class='flag-5'>力</b>報(bào)告來(lái)了!2025<b class='flag-5'>中</b>國(guó)<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>市場(chǎng)將達(dá) 259 億美元

    革命倒逼光通信技術(shù)迭代:800G模塊為何成為剛需?

    AI需求年均增長(zhǎng)1000倍的今天,全球數(shù)據(jù)中心正經(jīng)歷從400G模塊向800G
    的頭像 發(fā)表于 02-17 12:17 ?564次閱讀

    中心的如何衡量?

    作為當(dāng)下科技發(fā)展的重要基礎(chǔ)設(shè)施,其的衡量關(guān)乎其能否高效支撐人工智能、大數(shù)據(jù)分析等智能應(yīng)用的運(yùn)行。以下是對(duì)智中心算衡量的詳細(xì)闡述:
    的頭像 發(fā)表于 01-16 14:03 ?2411次閱讀
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    企業(yè)AI租賃模式的好處

    構(gòu)建和維護(hù)個(gè)高效、可擴(kuò)展的AI基礎(chǔ)設(shè)施,不僅需要巨額的初期投資,還涉及復(fù)雜的運(yùn)維管理和持續(xù)的技術(shù)升級(jí)。而AI
    的頭像 發(fā)表于 12-24 10:49 ?1205次閱讀

    杰和課堂|帶你認(rèn)識(shí)

    杰和課堂|帶你認(rèn)識(shí)力人工智能浪潮洶涌的今天,詞頻繁出現(xiàn)在各類科技新聞、產(chǎn)業(yè)發(fā)展報(bào)告。了
    的頭像 發(fā)表于 12-06 10:24 ?1041次閱讀
    杰和課堂|帶你<b class='flag-5'>認(rèn)識(shí)</b><b class='flag-5'>算</b><b class='flag-5'>力</b>

    企業(yè)AI租賃是什么

    企業(yè)AI租賃是指企業(yè)通過(guò)互聯(lián)網(wǎng)向?qū)I(yè)的提供商租用所需的計(jì)算資源,以滿足其AI應(yīng)用的需求。
    的頭像 發(fā)表于 11-14 09:30 ?2397次閱讀

    青云科技強(qiáng)化AI架構(gòu),升級(jí)產(chǎn)品與服務(wù)體系

    10月9日,青云科技正式揭曉了其升級(jí)版的產(chǎn)品與服務(wù)陣容、行業(yè)及場(chǎng)景定制化解決方案,以及全新的生態(tài)戰(zhàn)略。該公司旨在通過(guò)AI平臺(tái)、AI
    的頭像 發(fā)表于 10-10 16:42 ?860次閱讀

    九章云極DataCanvas公司「包」產(chǎn)品璀璨亮相2024國(guó)大會(huì)!

    九章云極DataCanvas公司技術(shù)專家向與會(huì)者詳細(xì)介紹包的產(chǎn)品能力和創(chuàng)新模式,收獲行業(yè)伙伴的高度認(rèn)可。力作為AI時(shí)代的數(shù)字能源,將在
    的頭像 發(fā)表于 09-29 14:44 ?1255次閱讀
    九章云極DataCanvas公司「<b class='flag-5'>算</b><b class='flag-5'>力</b>包」<b class='flag-5'>產(chǎn)品</b>璀璨亮相2024<b class='flag-5'>中</b>國(guó)<b class='flag-5'>算</b><b class='flag-5'>力</b>大會(huì)!

    大模型時(shí)代的需求

    現(xiàn)在AI已進(jìn)入大模型時(shí)代,各企業(yè)都爭(zhēng)相部署大模型,但如何保證大模型的,以及相關(guān)的穩(wěn)定性和性能,是個(gè)極為重要的問(wèn)題,帶著這個(gè)極為重要的問(wèn)題,我需要在此書(shū)中找到答案。
    發(fā)表于 08-20 09:04