AI 需要多元異構(gòu)算力提供支持，拉動(dòng) AI 芯片需求。人工智能算法需要從海量的圖像、語音、視頻等非結(jié)構(gòu)化數(shù)據(jù)中挖掘信息。從大模型的訓(xùn)練、場景化的微調(diào)以及推理應(yīng)用場景，都需要算力支撐。而以 CPU 為主的通用計(jì)算能力已經(jīng)無法滿足多場景的 AI 需求。以 CPU+AI 芯片（GPU、FPGA、ASIC）提供的異構(gòu)算力，并行計(jì)算能力優(yōu)越、具有高互聯(lián)帶寬，可以支持 AI 計(jì)算效力實(shí)現(xiàn)最大化，成為智能計(jì)算的主流解決方案。

服務(wù)器中的 CPU 和 AI 卡的數(shù)量并不固定，會(huì)根據(jù)客戶應(yīng)用需求調(diào)整，對于 AI 服務(wù)器來講，較為常見的是配備 2 個(gè) CPU，以及八個(gè) AI 卡。而相比于 AI 服務(wù)器，傳統(tǒng)的通用服務(wù)器則以 CPU 為主。因此，AI 的發(fā)展將極大拉動(dòng) GPGPU、TPU、NPU 等 AI 芯片的需求。

AI 計(jì)算需要多元異構(gòu)算力提供支持，將極大拉動(dòng)GPGPU、AISC 等 AI 芯片的需求。中國 AI 芯片市場規(guī)模有望快速增長，據(jù)艾瑞咨詢發(fā)布的《2022 年中國人工智能產(chǎn)業(yè)研究報(bào)告(Ⅴ)》，預(yù)計(jì) 2027 年達(dá)到 2164 億元。

中國 AI 芯片市場將保持高速增長，AI 推理芯片份額有望持續(xù)提升，國產(chǎn)化 AI 芯片占比有望提升。2022 年，中國的 AI 芯片市場規(guī)模約 385 億元。隨著 AI 發(fā)展以及智算中心建設(shè)浪潮，該市場預(yù)計(jì)將保持高增長趨勢。據(jù)艾瑞咨詢測算，到 2027 年，中國的 AI 芯片市場規(guī)模預(yù)計(jì)將達(dá)到 2164 億元。另外，在我國高性能及 AI 服務(wù)器中， GPGPU 憑借其優(yōu)秀的性能和通用能力占比 92%, 剩下份額由 AISC 和 FPGA 分享。隨著 AI 模型的優(yōu)化落地，AI 推理芯片的占比將日益提升。據(jù)艾瑞咨詢，2022 年，中國 AI 訓(xùn)練芯片以及 AI 推理芯片的占比分別為 47.2%和 52.8%。

AI 芯片領(lǐng)域的三類玩家。大模型的訓(xùn)練需要大規(guī)模的訓(xùn)練數(shù)據(jù)以及強(qiáng)大的計(jì)算資源，需要多卡多機(jī)協(xié)同完成。這對 AI 芯片本身的性能，以及多卡多機(jī)的互聯(lián)提出了很高的要求。目前，在 AI 芯片領(lǐng)域，有三類玩家。一種是以 Nvidia、AMD 為代表的實(shí)力強(qiáng)勁的老牌芯片巨頭，這些企業(yè)積累了豐富的經(jīng)驗(yàn)，產(chǎn)品性能突出。

另一種是以 Google、百度、華為為代表的云計(jì)算巨頭，這些企業(yè)紛紛布局通用大模型，并自己開發(fā)了 AI 芯片、深度學(xué)習(xí)平臺等支持大模型發(fā)展。如 google 的TensorFlow 以及 TPU，華為的鯤鵬昇騰、CANN 及 Mindspore。

最后是一些小而美的 AI 芯片獨(dú)角獸，如寒武紀(jì)、壁仞等。

英偉達(dá)占據(jù) 80%以上中國加速卡市場份額，國產(chǎn) AI 芯片亟待發(fā)展。根據(jù) IDC 的數(shù)據(jù)顯示，2021年中國加速卡的出貨數(shù)量已經(jīng)超過 80 萬片，其中 Nvidia 占據(jù)了超過 80%的市場份額。剩下的份額有 AMD、百度、寒武紀(jì)、燧原科技、新華三、華為、Intel 和賽靈思等品牌。

1、英偉達(dá)：全球 GPU 龍頭

英偉達(dá)占據(jù)芯片市場絕對優(yōu)勢。長期以來，英偉達(dá)在高端GPU市場占據(jù)絕對主導(dǎo)地位，現(xiàn)如今已量產(chǎn)的主流 A100 芯片相比前代產(chǎn)品 V100，性能得到顯著提高，代表當(dāng)今高端芯片水平。最新一代 H100 芯片也已經(jīng)亮相，即將量產(chǎn)。天數(shù)智芯數(shù)據(jù)顯示，2021 年英偉達(dá)在中國云端 AI 訓(xùn)練芯片市場的份額達(dá)到 90%。據(jù) IDC，在 2021 年中國出貨的 80 多萬張加速卡中，英偉達(dá)占據(jù)超過 80%份額。芯片的研發(fā)周期較長，英偉達(dá)具有絕對先行優(yōu)勢，雖然目前國內(nèi)企業(yè)突破英偉達(dá)壟斷仍然任重道遠(yuǎn)，但寒武紀(jì)、華為 AI 芯片快速發(fā)展，有望逐步進(jìn)行國產(chǎn)替代。

受制裁影響，英偉達(dá)對部分產(chǎn)品性能進(jìn)行 “閹割”，推出“中國版芯片”A800、H800。2022 年10 月，美國發(fā)布了針對中國的先進(jìn)計(jì)算與半導(dǎo)體產(chǎn)品的出口管制，限制美國企業(yè)向中國出口先進(jìn)高端芯片設(shè)備。在新管制的限制下，英偉達(dá)的 A100、H100 被禁止售賣給中國，而采用 12nm 工藝、性能較低的 V100 GPU 芯片不在管控之列。針對此次制裁，英偉達(dá)對 A100 的部分性能進(jìn)行“閹割”，推出 A800。

相比于 A100，A800 在單卡計(jì)算性能上沒有差別，但是互聯(lián)帶寬從600GB/s 下降到了 400GB/s，在一定程度上影響了如大模型訓(xùn)練等多卡互聯(lián)場景的性能。目前，A800 已實(shí)現(xiàn)量產(chǎn)，并在中國規(guī)模化落地應(yīng)用。英偉達(dá)還推出了旗艦芯片 H100 的替代版 H800，目前還未量產(chǎn)。

2、海光信息：國產(chǎn)高性能 CPU 和 GPGPU 領(lǐng)軍企業(yè)

海光信息專注于研發(fā)、設(shè)計(jì)和銷售高端處理器（CPU 以及 GPGPU），持續(xù)技術(shù)創(chuàng)新、產(chǎn)品迭代。海光信息的主要產(chǎn)品為應(yīng)用于服務(wù)器和工作站等設(shè)備中的通用處理器（CPU）和協(xié)處理器（DCU,即 GPGPU）。海光處理器性能出眾，同時(shí)軟硬件生態(tài)豐富、工具鏈完整、應(yīng)用遷移成本低。另外，海光 CPU 與 DCU 雖脫胎于 AMD，但經(jīng)過多年獨(dú)立自主研發(fā)迭代，已經(jīng)實(shí)現(xiàn)自主可控、安全可靠，是***之光。目前，蘇州昆山、成都等多地超算中心已經(jīng)搭載海光 CPU 與 DCU，為社會(huì)提供優(yōu)質(zhì)算力。

海光 CPU 一、二代均已商業(yè)化， 三代初亮相，四代有序研發(fā)中。海光 DCU 一代已商業(yè)化應(yīng)用，二代研發(fā)中。公司持續(xù)技術(shù)創(chuàng)新和演進(jìn)，堅(jiān)持走“銷售一代， 驗(yàn)證一代， 研發(fā)一代”的產(chǎn)品開發(fā)策略。公司建立了完善的高端處理器的研發(fā)環(huán)境和流程，持續(xù)開發(fā)多代產(chǎn)品，產(chǎn)品性能不斷提高，同時(shí)功能不斷完善豐富。海光 CPU 的四代產(chǎn)品中，海光一號和海光二號均實(shí)現(xiàn)了商業(yè)化應(yīng)用，海光三號已亮相發(fā)布會(huì)，海光四號處于研發(fā)階段。海光 DCU 于 2018 年啟動(dòng) DCU 第一代產(chǎn)品深算一號的產(chǎn)品研發(fā)，于 2020 年 1 月啟動(dòng)了深算二號的研發(fā)，截至 2022 年 6 月，深算一號已實(shí)現(xiàn)商業(yè)化應(yīng)用。

海光 DCU 某些硬件性能與英偉達(dá)的 A100、AMD 的 MI100 相近。海光 DCU 雙精度計(jì)算能力突出。據(jù)北京大學(xué)高性能計(jì)算系統(tǒng)中標(biāo)公告（HCZB-2021-ZB0364），海光信息的 DCU Z100 的通用計(jì)算核心達(dá)到 8192 個(gè)。其關(guān)鍵性能指標(biāo)實(shí)現(xiàn)：FP64 10.8TFlops，顯存 32GB HBM2，對比全球芯片巨頭的高端 AI 芯片不遑多讓。英偉達(dá) A100 的相關(guān)指標(biāo)為：FP64 9.7 TFlops、顯存40/80GB HBM2。AMD MI100 的相關(guān)指標(biāo)為：FP64 11.5 TFlops、顯存 32GB HBM2。

海光 DCU 生態(tài)豐富，工具鏈完整。海光的 DCU 脫胎于 AMD，兼容主流生態(tài)——開源 ROCmGPU 計(jì)算生態(tài)，支持 TensorFlow、Pytorch 和 PaddlePaddle 等主流深度學(xué)習(xí)框架、適配主流應(yīng)軟件。ROCm 又被稱為類 CUDA，現(xiàn)有 CUDA 上運(yùn)行的應(yīng)用可以低成本遷移到基于 ROCm 的海光平臺上運(yùn)行。

2022 年，海光發(fā)布國內(nèi)首個(gè)全精度（FP64）異構(gòu)計(jì)算平臺，該平臺搭載 CPU 海光三號和 DCU海光深算，涵蓋數(shù)值模擬、AI 訓(xùn)練、AI 推理所需的多樣算力，實(shí)現(xiàn)了智能計(jì)算與數(shù)值運(yùn)算的深度融合。同時(shí)，此平臺可全面支持 TensorFlow、PyTorch、Caffe2 等主流 AI 深度學(xué)習(xí)框架，目前已超過 1000 種應(yīng)用軟件部署在該平臺上。

3、寒武紀(jì)：國產(chǎn) AI 芯片先行者

寒武紀(jì)始終深耕芯片研發(fā)，不斷推陳出新、實(shí)現(xiàn)技術(shù)進(jìn)步。寒武紀(jì)成立于 2016 年，專注人工智能芯片產(chǎn)品的研發(fā)與創(chuàng)新。公司成立之初便開始了對 AI 芯片領(lǐng)域的探索創(chuàng)新。并在 2016 年年底成功研發(fā)出全球首款 AI 手機(jī)芯片——寒武紀(jì) 1A 。2017 年，這款芯片被搭載于華為的高端系統(tǒng)級芯片麒麟 970，應(yīng)用于 Mate10 手機(jī)，并獲得了廣泛好評。芯片可以在功耗極低的前提下，涵蓋人臉識別、語音識別、圖像增強(qiáng)等多種功能。此后，寒武紀(jì)又陸續(xù)推出了多款 AI 芯片產(chǎn)品，包括云端訓(xùn)練芯片 MLU100、邊緣推理芯片 MLU270、車載推理芯片 MLU290 等 。這些產(chǎn)品都具有高性能、低功耗、高集成度等特點(diǎn)，在圖像識別、語音識別、自然語言處理等領(lǐng)域都有著優(yōu)異的表現(xiàn)。

思元 370 是寒武紀(jì)的首款訓(xùn)練推理一體芯片，也是其云端產(chǎn)品的第三代。思元 370 采用了 7nm 制程工藝，并成為首款采用 Chiplet 技術(shù)的人工智能芯片。該芯片最大算力可達(dá) 256TOPS(INT8)，是上一代云端推理產(chǎn)品思元 270 算力的兩倍，同時(shí)該芯片還支持 LPDDR5 內(nèi)存，內(nèi)存帶寬是 270的三倍，因此可以在板卡有限的功耗范圍內(nèi)為人工智能芯片分配更多的能源，從而輸出更高的算力。思元 370 智能芯片還采用了先進(jìn)的 Chiplet 技術(shù)，支持靈活的芯粒組合，僅用單次流片便可以實(shí)現(xiàn)多款智能加速卡產(chǎn)品的商用。目前，該公司已推出三款加速卡：MLU370-S4、MLU370-X4和 MLU370-X8，包含應(yīng)用于計(jì)算密度高的數(shù)據(jù)中心、針對專注人工智能推理相關(guān)業(yè)務(wù)的互聯(lián)網(wǎng)廠商需求和應(yīng)用于對算力帶寬要求高的訓(xùn)練任務(wù)，滿足用戶的多樣化需求。

新一代訓(xùn)練芯片寒武紀(jì) 590 還未量產(chǎn)，據(jù)悉訓(xùn)練能力突出。寒武紀(jì)最新一代云端智能訓(xùn)練芯片思元 590 還未正式發(fā)布，據(jù)寒武紀(jì)董事長在 2022 WAIC 上介紹，思元 590 采用全新的 MLUarch05架構(gòu)，實(shí)測訓(xùn)練性能較在售產(chǎn)品有了顯著提升。思元 590 可提供更大的內(nèi)存容量和更高的內(nèi)存帶寬，其 PCIe 接口也較上代實(shí)現(xiàn)了升級。

審核編輯 ：李倩