女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI芯片、光模塊和光芯片的發(fā)展趨勢(shì)

智能計(jì)算芯世界 ? 來源:智能計(jì)算芯世界 ? 2023-12-29 10:07 ? 次閱讀

根據(jù) OpenAI 官網(wǎng),AI 模型訓(xùn)練計(jì)算量自 2012 年起每 3.4 個(gè)月就增長(zhǎng)一倍。以 GPT-3 模型為例,根據(jù) lambdalabs 數(shù)據(jù),該模型參數(shù)規(guī)模達(dá) 1750 億,完整訓(xùn)練運(yùn)算量達(dá)3640PFlop/s-days(以 3640PFlop/s 速度進(jìn)行運(yùn)算,需要 3640 天)。模型完成單次訓(xùn)練約需要 355 個(gè) CPU 年并耗費(fèi) 460 萬美元(假設(shè)采用 Nvidia Tesla V100 芯片)。

高算力需求迫切,推動(dòng)AI基礎(chǔ)設(shè)施建設(shè)。高訓(xùn)練算力需要與相應(yīng)基礎(chǔ)設(shè)施匹配,根據(jù)《2022—2023中國(guó)人工智能算力發(fā)展評(píng)估報(bào)告》預(yù)計(jì),2023 年全球 AI 支出增速有望達(dá) 27.9%,而中國(guó)智能算力規(guī)模將達(dá) 427EFlop/s,同比增長(zhǎng) 59%。

AI 芯片:算力核心構(gòu)成,自主可控推動(dòng)國(guó)產(chǎn)化

人工智能芯片是 AI 算力的核心構(gòu)成。目前主流的 AI 芯片中 GPU 占據(jù)絕對(duì)百分比,根據(jù)IDC 數(shù)據(jù),2022 年 GPU 在中國(guó)人工智能芯片市場(chǎng)中占有率為 89%。根據(jù)我們測(cè)算,假設(shè)國(guó)內(nèi)每日訪問單個(gè)語言大模型的人數(shù)達(dá)到 3 億的情況下,對(duì) GPU 需求臺(tái)數(shù)為 13889 塊。

Nvidia H100 是目前最先進(jìn)的人工智能芯片。2023 年 3 月 22 日 Nvidia 推出新款人工智能芯片 GPU H100,與公司上一代產(chǎn)品 A100 相比性能得到大幅提升,在主流 AI 和 HPC模型中,采用 InfiniBand 互連技術(shù)的 H100 性能最高可達(dá) A100 的 30 倍。

9ff4262a-a5df-11ee-8b88-92fbcf53809c.png

國(guó)產(chǎn)AI芯片短板明顯,下一代產(chǎn)品推進(jìn)順利。通過對(duì)國(guó)內(nèi)寒武紀(jì)、華為昇騰和沐曦等國(guó)產(chǎn)公司旗下的 AI 旗艦芯片與 Nvidia H100 SXM 的性能指標(biāo)對(duì)比,可以看到國(guó)產(chǎn) AI 芯片與 Nvidia H100 在性能上仍存在較大差距。同時(shí)國(guó)產(chǎn)芯片公司仍在加快研發(fā)推進(jìn)下一代 AI芯片產(chǎn)品,并有望在未來對(duì)標(biāo)Nvidia H100,如寒武紀(jì)在研的思元590、沐曦在研的MXC500等。

a0061196-a5df-11ee-8b88-92fbcf53809c.png

美國(guó)對(duì) AI 芯片出口管制,自主可控要求下國(guó)產(chǎn)芯片需求迫切。2022 年 10 月 7 日美國(guó)商務(wù)部工業(yè)安全局(BIS)發(fā)布《美國(guó)商務(wù)部對(duì)中華人民共和國(guó)(PRC)關(guān)于先進(jìn)計(jì)算和半導(dǎo)體實(shí)施新的出口管制制造》細(xì)則,其中管制物項(xiàng) 3A090、4A090 包含高性能 AI 芯片產(chǎn)品,而Nvidia A100 和 H100 均符合管制要求。在此背景下,Nvidia 推出性能閹割的中國(guó)特供版芯片 A800 和 H800。我們認(rèn)為在國(guó)內(nèi)自主可控大背景下,國(guó)內(nèi) AI 產(chǎn)業(yè)對(duì)國(guó)產(chǎn)芯片需求迫切,或加大對(duì)國(guó)產(chǎn)芯片公司支持力度,國(guó)產(chǎn) AI 芯片有望迎來技術(shù)進(jìn)步和市場(chǎng)機(jī)遇。

a0217454-a5df-11ee-8b88-92fbcf53809c.png

光模塊:新型網(wǎng)絡(luò)架構(gòu)對(duì)高端光模塊用量增加

高算力需要與高效傳輸架構(gòu)相匹配。AI 大模型通常由多個(gè)服務(wù)器作為節(jié)點(diǎn),并通過高速網(wǎng)絡(luò)架構(gòu)組成集群合作完成模型訓(xùn)練。因此在模型中東西向流量(數(shù)據(jù)中心服務(wù)器間的傳輸流量)大幅增加,而模型訓(xùn)練過程中南北向流量(客戶端與服務(wù)器間的傳輸流量)較少,由于葉脊網(wǎng)絡(luò)架構(gòu)相較傳統(tǒng)三層架構(gòu)更適用于東西向流量傳輸,成為現(xiàn)代數(shù)據(jù)中心主流網(wǎng)絡(luò)架構(gòu)。

a036ea32-a5df-11ee-8b88-92fbcf53809c.png

葉脊網(wǎng)絡(luò)架構(gòu)大幅增加對(duì)光模塊數(shù)量需求。由于葉脊網(wǎng)絡(luò)架構(gòu)中東西向流量大,因此服務(wù)器與交換機(jī)相連均需使用光模塊,從而大幅增加對(duì)光模塊數(shù)量需求。同時(shí) AI 大模型的高流量對(duì)帶寬提出更高要求,800G 光模塊相較 200G/400G 光模塊具有高帶寬、功耗低等優(yōu)點(diǎn),有望在 AI 大模型網(wǎng)絡(luò)架構(gòu)中滲透率提升。

a04acd72-a5df-11ee-8b88-92fbcf53809c.png

以 Nvidia DGX H100 網(wǎng)絡(luò)架構(gòu)為例。該架構(gòu)適配 Nvidia H100 GPU,采用葉脊網(wǎng)絡(luò)架構(gòu),分為 1-4 個(gè) SU 單元類型(8 個(gè) GPU 組成一個(gè) H100 服務(wù)器節(jié)點(diǎn),32 個(gè)服務(wù)器節(jié)點(diǎn)組成一個(gè) SU 單元)。其中 4-SU 單元架構(gòu)由 127 個(gè)服務(wù)器節(jié)點(diǎn)組成(其中一個(gè)節(jié)點(diǎn)用于安裝 UFM 網(wǎng)絡(luò)遙測(cè)裝置),具有 1016 個(gè) H100 GPU、32 個(gè)葉交換機(jī)、16 個(gè)脊交換機(jī)。

以 Nvidia DGX H100 架構(gòu)為例測(cè)算 GPU 與光模塊的對(duì)應(yīng)數(shù)量。在 4-SU 的 Nvidia DGX H100 架構(gòu)中,每 32 臺(tái)服務(wù)器節(jié)點(diǎn)組成一個(gè) SU 單元,并與 8 臺(tái)葉交換機(jī)相連,因此服務(wù)器節(jié)點(diǎn)與葉交換機(jī)之間共有 1024 個(gè)連接(32×8×4);32 臺(tái)葉交換機(jī)需分別與 16 臺(tái)脊交換機(jī)相連,因此葉交換機(jī)與脊交換機(jī)之間共有 512 個(gè)連接(32×16);

在 Nvidia DGX H100 的目前方案中,脊-葉連接采用 800G 光模塊,需要 1024 個(gè) 800G 光模塊;葉-服務(wù)器連接中,每個(gè)服務(wù)器節(jié)點(diǎn)通過一個(gè) 800G 光模塊與兩臺(tái)葉交換機(jī)向上連接,需要 512 個(gè) 800G 光模塊(128×4),同時(shí)每臺(tái)葉交換機(jī)通過一個(gè) 400G 光模塊與一個(gè)服務(wù)器節(jié)點(diǎn)連接,需要 1024 個(gè) 400G 光模塊(128×8)。

國(guó)產(chǎn)光模塊廠商在 2022 年全球光模塊企業(yè) TOP10 排名中占據(jù) 7 席。TOP10 中國(guó)內(nèi)企業(yè)為中際旭創(chuàng)(Innolight)、華為(Huawei)、光迅科技(Accelink)、海信(Hisense)、新易盛(Eoptolink)、華工正源(HGG)、索爾思光電(已被華西股份收購)。而在高端光模塊領(lǐng)域,中際旭創(chuàng)已在 2022 年實(shí)現(xiàn) 800G 光模塊批量出貨。光芯片:光模塊核心部件,國(guó)產(chǎn)化空間開闊

通信是指通過電光轉(zhuǎn)換以光信號(hào)為介質(zhì)的傳輸系統(tǒng)。光通信系統(tǒng)的傳輸過程中首先發(fā)射端(TOSA)通過激光器芯片將電信號(hào)轉(zhuǎn)換為光信號(hào),經(jīng)過光纖傳輸至接收端(ROSA),接收端通過探測(cè)器芯片將光信號(hào)轉(zhuǎn)換為電信號(hào),最終實(shí)現(xiàn)信號(hào)傳輸。

a05ab9da-a5df-11ee-8b88-92fbcf53809c.png

光芯片是決定光通信系統(tǒng)信號(hào)傳輸效率和網(wǎng)絡(luò)可靠性的關(guān)鍵。光芯片是實(shí)現(xiàn)光電信號(hào)轉(zhuǎn)換的基礎(chǔ)元件,按照功能可以分為激光器芯片(LD)和探測(cè)器芯片(PD)。按細(xì)分型號(hào)分:激光器芯片可分為 VCSEL、FP、DFB 和 EML;探測(cè)器芯片可分為 PIN 和 APD。

a079624a-a5df-11ee-8b88-92fbcf53809c.png

高端光芯片市場(chǎng)國(guó)產(chǎn)化率仍有待提高。目前在 10G 及以下光芯片市場(chǎng)中,源杰科技等國(guó)內(nèi)公司已占據(jù)較高市場(chǎng)份額(部分高技術(shù)難度領(lǐng)域如 10G VCSEL/EML 激光器芯片市場(chǎng)國(guó)產(chǎn)化率低于 40%),但在 25G 及以上光芯片市場(chǎng),市場(chǎng)份額仍大多由Ⅱ-Ⅳ、Lumentum 和Broadcom 等國(guó)外公司占據(jù)。伴隨國(guó)內(nèi)光模塊企業(yè)在全球市場(chǎng)中占據(jù)主導(dǎo)地位,出于保供的安全考慮,或?yàn)閲?guó)內(nèi)光芯片企業(yè)在高端領(lǐng)域發(fā)展迎來新機(jī)遇。

審核編輯:湯梓紅

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4909

    瀏覽量

    130649
  • 光模塊
    +關(guān)注

    關(guān)注

    80

    文章

    1380

    瀏覽量

    60028
  • 光芯片
    +關(guān)注

    關(guān)注

    3

    文章

    97

    瀏覽量

    11107
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    1968

    瀏覽量

    35689

原文標(biāo)題:算力競(jìng)賽,開啟AI芯片、光模塊和光芯片需求

文章出處:【微信號(hào):AI_Architect,微信公眾號(hào):智能計(jì)算芯世界】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    AI算力網(wǎng)絡(luò)模塊市場(chǎng)發(fā)展分析

    AI算力需求激增推動(dòng)模塊技術(shù)迭代加速,800G模塊2024年出貨突破900萬只,1.6T產(chǎn)品預(yù)計(jì)2025年商用。可插拔技術(shù)仍主導(dǎo)市場(chǎng),C
    的頭像 發(fā)表于 05-26 16:50 ?139次閱讀
    <b class='flag-5'>AI</b>算力網(wǎng)絡(luò)<b class='flag-5'>光</b><b class='flag-5'>模塊</b>市場(chǎng)<b class='flag-5'>發(fā)展</b>分析

    PECL多模雙纖國(guó)產(chǎn)芯片模塊!優(yōu)質(zhì)廠商特通信

    模塊
    光模塊廠家TTL電平
    發(fā)布于 :2025年04月29日 15:33:22

    DeepSeek推動(dòng)AI算力需求:800G模塊的關(guān)鍵作用

    的100G模塊已無法滿足高效能AI訓(xùn)練和推理所需的大規(guī)模數(shù)據(jù)傳輸。為了應(yīng)對(duì)這一挑戰(zhàn),400G、800G乃至1.6T模塊的出現(xiàn)成為行業(yè)必然
    發(fā)表于 03-25 12:00

    請(qǐng)問DMD芯片在on狀態(tài)時(shí),以何種角度入射DMD芯片,出射可以垂直于芯片

    請(qǐng)問DMD芯片在on狀態(tài)時(shí),以何種角度入射DMD芯片,出射可以垂直于芯片
    發(fā)表于 02-27 07:20

    模塊新紀(jì)元:大為錫膏助力AI數(shù)據(jù)中心飛躍

    隨著人工智能技術(shù)的飛速發(fā)展AI計(jì)算需求正以前所未有的速度激增。在這一背景下,模塊作為AI數(shù)據(jù)中心互聯(lián)的核心部件,其性能的提升變得尤為重要
    的頭像 發(fā)表于 02-20 11:22 ?473次閱讀
    <b class='flag-5'>光</b><b class='flag-5'>模塊</b>新紀(jì)元:大為錫膏助力<b class='flag-5'>AI</b>數(shù)據(jù)中心飛躍

    Arm預(yù)測(cè)2025年芯片設(shè)計(jì)發(fā)展趨勢(shì)

    Arm 對(duì)未來技術(shù)的發(fā)展方向及可能出現(xiàn)的趨勢(shì)有著廣泛而深刻的洞察。在《Arm 解析未來行業(yè)技術(shù)趨勢(shì)——AI 篇》中,我們預(yù)測(cè)了該領(lǐng)域的 11 個(gè)未來
    的頭像 發(fā)表于 01-20 09:52 ?812次閱讀

    數(shù)據(jù)中心與AI人工智能的基礎(chǔ)設(shè)施保障:800G模塊

    人工智能、物聯(lián)網(wǎng)、云計(jì)算等行業(yè)新興發(fā)展,寬需求持續(xù)飆升,100G、200G和400G模塊將保持重要的市場(chǎng)份額,800G模塊也將飛速
    的頭像 發(fā)表于 12-09 12:22 ?802次閱讀

    如何優(yōu)化模塊性能 模塊的未來發(fā)展方向

    如何優(yōu)化模塊性能 優(yōu)化模塊性能可以從多個(gè)方面入手,以下是一些關(guān)鍵方法: 提高傳輸速率 : 增加波特率 :這是提高
    的頭像 發(fā)表于 12-02 14:42 ?967次閱讀

    模塊技術(shù)發(fā)展趨勢(shì) 模塊常見故障及解決方法

    模塊技術(shù)發(fā)展趨勢(shì) 模塊技術(shù)是光纖通信系統(tǒng)中的關(guān)鍵組件,隨著網(wǎng)絡(luò)帶寬需求的不斷增長(zhǎng),
    的頭像 發(fā)表于 12-02 14:39 ?1143次閱讀

    未來AI大模型的發(fā)展趨勢(shì)

    未來AI大模型的發(fā)展趨勢(shì)將呈現(xiàn)多元化和深入化的特點(diǎn),以下是對(duì)其發(fā)展趨勢(shì)的分析: 一、技術(shù)驅(qū)動(dòng)與創(chuàng)新 算法與架構(gòu)優(yōu)化 : 隨著Transformer架構(gòu)的廣泛應(yīng)用,AI大模型在特征提取和
    的頭像 發(fā)表于 10-23 15:06 ?1726次閱讀

    圖像傳感器芯片發(fā)展趨勢(shì)是什么?

    圖像傳感器芯片是現(xiàn)代電子設(shè)備中不可或缺的組成部分,它們被廣泛應(yīng)用于智能手機(jī)、數(shù)碼相機(jī)、監(jiān)控?cái)z像頭、醫(yī)療成像設(shè)備、自動(dòng)駕駛汽車等多個(gè)領(lǐng)域。隨著技術(shù)的不斷進(jìn)步,圖像傳感器芯片發(fā)展趨勢(shì)呈現(xiàn)出多樣化
    的頭像 發(fā)表于 10-12 11:36 ?1045次閱讀

    “三高一降”伏儲(chǔ)能系統(tǒng)趨勢(shì)及其模擬芯片解決方案

    的應(yīng)用和解決方案對(duì)于提升系統(tǒng)效率、降低成本以及增強(qiáng)可靠性至關(guān)重要。本文將簡(jiǎn)要介紹儲(chǔ)系統(tǒng)的基本運(yùn)作原理,以及儲(chǔ)系統(tǒng)在高壓化發(fā)展趨勢(shì)下,模擬芯片的機(jī)會(huì)及納芯微解決方案。
    的頭像 發(fā)表于 08-13 13:09 ?3306次閱讀
    “三高一降”<b class='flag-5'>光</b>伏儲(chǔ)能系統(tǒng)<b class='flag-5'>趨勢(shì)</b>及其模擬<b class='flag-5'>芯片</b>解決方案

    儲(chǔ)系統(tǒng)的基本運(yùn)作原理和發(fā)展趨勢(shì)

    的應(yīng)用和解決方案對(duì)于提升系統(tǒng)效率、降低成本以及增強(qiáng)可靠性至關(guān)重要。本文將簡(jiǎn)要介紹儲(chǔ)系統(tǒng)的基本運(yùn)作原理,以及儲(chǔ)系統(tǒng)在高壓化發(fā)展趨勢(shì)下,模擬芯片的機(jī)會(huì)及納芯微解決方案。
    的頭像 發(fā)表于 07-18 14:31 ?1940次閱讀
    <b class='flag-5'>光</b>儲(chǔ)系統(tǒng)的基本運(yùn)作原理和<b class='flag-5'>發(fā)展趨勢(shì)</b>

    芯片與傳統(tǒng)芯片的區(qū)別

    材料差異: 硅芯片主要使用硅作為材料,而傳統(tǒng)芯片則使用硅晶體。硅芯片利用硅的光學(xué)特性,而傳統(tǒng)芯片
    的頭像 發(fā)表于 07-12 09:33 ?9596次閱讀

    dsp數(shù)字處理芯片的原理、特點(diǎn)、應(yīng)用和發(fā)展趨勢(shì)

    學(xué)習(xí)等領(lǐng)域。本文將介紹DSP芯片的原理、特點(diǎn)、應(yīng)用和發(fā)展趨勢(shì)。 一、DSP芯片的原理 數(shù)字信號(hào)處理的基本概念 數(shù)字信號(hào)處理是一種對(duì)模擬信號(hào)進(jìn)行數(shù)字化處理的技術(shù)。首先,模擬信號(hào)需要通過模數(shù)轉(zhuǎn)換器(Analog-to-Digital
    的頭像 發(fā)表于 07-08 11:27 ?6774次閱讀