第六屆數(shù)字中國建設(shè)峰會(huì)（簡稱“數(shù)字峰會(huì)”）在福州召開。本屆數(shù)字峰會(huì)由國家互聯(lián)網(wǎng)信息辦公室、國家發(fā)展和改革委員會(huì)、科技部、工業(yè)和信息化部、國務(wù)院國有資產(chǎn)監(jiān)督管理委員會(huì)、福建省人民政府共同主辦。

作為國家網(wǎng)信辦主辦的兩個(gè)國內(nèi)信息化領(lǐng)域盛會(huì)之一，本屆數(shù)字中國峰會(huì)以“加快數(shù)字中國建設(shè)，推進(jìn)中國式現(xiàn)代化”為主題，通過成果展示等方式，推動(dòng)交流互鑒，促進(jìn)開放合作，全方位展示數(shù)字中國建設(shè)最新成果。

在福建省數(shù)據(jù)要素與產(chǎn)業(yè)生態(tài)大會(huì)“算力賦能數(shù)字經(jīng)濟(jì)發(fā)展高峰論壇”中，芯啟源創(chuàng)始人、董事長兼CEO盧笙受福建省大數(shù)據(jù)集團(tuán)有限公司邀請，作了題為“DPU賦能AI算力網(wǎng)絡(luò)，助力云基礎(chǔ)設(shè)施生態(tài)共建”精彩演講。

同期，由上海市通信管理局、上海市浦東新區(qū)人民政府聯(lián)合主辦的“算力浦江（首屆）數(shù)字經(jīng)濟(jì)發(fā)展論壇”在上海浦東召開，旨在共筑算力底座，助力數(shù)字浦東。

芯啟源作為6家AI算力芯片代表企業(yè)之一，圍繞“打造AI算力芯片應(yīng)用試驗(yàn)田”進(jìn)行合作意向簽約，芯啟源高級副總裁姜欣代表芯啟源上臺(tái)簽約，芯啟源DPU事業(yè)部銷售總經(jīng)理侯東輝在現(xiàn)場探討了算力網(wǎng)絡(luò)的發(fā)展趨勢。

ChatGPT引領(lǐng)“后互聯(lián)網(wǎng)時(shí)代革命”

盧笙在高峰論壇中回顧了中國互聯(lián)網(wǎng)發(fā)展史，“從2018年-2022年的“5G萬物互聯(lián)時(shí)代”到如今的“AI智能時(shí)代”，今年被認(rèn)為是人工智能史詩級飛躍的一年。”

2022年11月30日，OpenAI發(fā)布人工智能對話聊天機(jī)器人ChatGPT，短短5天時(shí)間，注冊用戶數(shù)超100萬。截止2023年1月末，其月活用戶已突破1億，成為史上增長最快的消費(fèi)者應(yīng)用。

ChatGPT是一個(gè)由人工智能技術(shù)驅(qū)動(dòng)的自然語言處理工具。自ChatGPT發(fā)布以來，谷歌、微軟爭相發(fā)布了一系列以AIGC（AI generated content）為底座的生成式AI智能應(yīng)用，通過輸入人類語言生成視頻、生成圖片，AI開始嘗試創(chuàng)造一些深刻且令人賞心悅目的東西，這個(gè)新類別被稱為“生成式AI”。

這意味著AI正在創(chuàng)造新的生產(chǎn)內(nèi)容，而不是像過去一樣僅僅只是輔助分析已經(jīng)存在的東西。這些智能應(yīng)用與ChatGPT一起引領(lǐng)了后互聯(lián)網(wǎng)時(shí)代數(shù)字經(jīng)濟(jì)“革命”，全球開始步入AI智能時(shí)代。

后互聯(lián)網(wǎng)時(shí)代 算力發(fā)展見頂

進(jìn)入AI算力新時(shí)代后，機(jī)器學(xué)習(xí)給我們帶來了多重挑戰(zhàn)。ChatGPT可以通過人類語言輸入來預(yù)測下一個(gè)單詞并生成具有嚴(yán)密邏輯的文本進(jìn)行回復(fù)。而這樣的AI的能力是基于算法訓(xùn)練出來，訓(xùn)練的過程包括海量數(shù)據(jù)獲取和清洗、人工知識(shí)訓(xùn)練和場景，AI的能力在參數(shù)規(guī)模超過特定臨界值后才出現(xiàn)，需要CPU/GPU提供大量算力，這些算力用參數(shù)量/浮點(diǎn)運(yùn)算量來衡量。

以著名的AlexNet和GPT-3訓(xùn)練模型為例，AI模型訓(xùn)練沒有捷徑可走，因?yàn)锳I的表現(xiàn)并非隨著模型規(guī)模增加而線性增加，而是在參數(shù)規(guī)模超過特定臨界值后開始顯著提升（如下圖所示）。

AlexNet可處理262千萬億次的浮點(diǎn)運(yùn)算，利用CPU/GPU集群訓(xùn)練出大規(guī)模圖片識(shí)別和分類能力。GPT-3用可處理323*10e21次浮點(diǎn)運(yùn)算，用CPU/GPU集群訓(xùn)練出了根據(jù)人類語言輸入來預(yù)測下一個(gè)單詞的能力。

GPT-3的訓(xùn)練模型比AlexNet訓(xùn)練模型的運(yùn)算量提升了100萬倍。如果要達(dá)到多模態(tài)大模型訓(xùn)練的臨界值，則需要極大的算力消耗，這對算力提出了前所未有的要求。而從Nvidia對2022年算力和帶寬的評估結(jié)果來看，CPU性能增速放緩，網(wǎng)絡(luò)帶寬增速增大，2022年帶寬增速比RBP達(dá)到30。

AI模型訓(xùn)練帶來數(shù)據(jù)大爆發(fā)，帶寬升級到200G/400G，CPU/GPU的性能增長速度無法滿足網(wǎng)絡(luò)數(shù)據(jù)處理的需求，大量CPU/GPU被網(wǎng)絡(luò)數(shù)據(jù)包處理所搶占， AI運(yùn)算所需的巨量運(yùn)算量無法滿足。

DPU—AI算力網(wǎng)絡(luò)的核心組件

在這個(gè)大背景下，利用專用協(xié)處理器將“CPU/GPU處理效率低下”的負(fù)載卸載，幫助CPU/GPU釋放算力的DPU將承擔(dān)起網(wǎng)絡(luò)數(shù)據(jù)通道的數(shù)據(jù)包處理需求，將CPU/GPU的算力釋放出來用于支撐起怪獸級別的AI模型訓(xùn)練運(yùn)算。

DPU將“CPU/GPU處理效率低下”的負(fù)載，包括“通訊協(xié)議”、“加密協(xié)議”、“網(wǎng)絡(luò)協(xié)議”、“數(shù)據(jù)壓縮”等全盤接受，從而將CPU芯片的算力解放出來，解決了高帶寬、低延遲、數(shù)據(jù)密集的計(jì)算場景的算力困境。

01降本增效

DPU提升了整個(gè)計(jì)算系統(tǒng)的效率，降低整體系統(tǒng) 的總體擁有成本(TCO)。

02節(jié)能減排

DPU承擔(dān)基礎(chǔ)設(shè)施中網(wǎng)絡(luò)通訊和商密相關(guān)的服務(wù)后，算力資源得到充分釋放，服務(wù)器大量減少，耗電大幅降低，機(jī)房位極大壓縮，碳排放量亦大幅下降。

03安全可控

在安全、商密等領(lǐng)域，打造以DPU為核心的零信任機(jī)制，使整個(gè)網(wǎng)絡(luò)數(shù)據(jù)處理中心實(shí)現(xiàn)安全可控。

“后互聯(lián)網(wǎng)”時(shí)代，AI云基礎(chǔ)設(shè)施帶來了巨大的需求和商機(jī)，DPU能滿足對“面向AI的”、“高度優(yōu)化的”算力網(wǎng)絡(luò)的要求，被視為解決AI時(shí)代算力不足的不二之選。在協(xié)議加速、數(shù)據(jù)安全、存儲(chǔ)加速、虛擬化/容器加速、5G/6G邊緣計(jì)算加速等場景都有廣泛應(yīng)用。

芯啟源DPU+N賦能中國數(shù)字經(jīng)濟(jì)生態(tài)

盧笙在峰會(huì)中介紹，芯啟源從2019年開始研發(fā)第一代FGPA智能網(wǎng)卡，2020年開始推出第二代基于NP-SoC架構(gòu)的產(chǎn)品，芯啟源DPU芯片專為解決網(wǎng)絡(luò)基礎(chǔ)設(shè)施IO性能瓶頸、幫助CPU釋放大量的算力而生。

芯啟源提供基于Chiplet架構(gòu)、軟硬協(xié)同的DPU共建平臺(tái)及方案，生態(tài)共建平臺(tái)基礎(chǔ)是芯啟源NFP-7000系列DPU芯片，內(nèi)置Risc-v處理器、多種硬件加速引擎和加解密引擎、基于可編程rFPC開放可編程接口，提供靈活可編程架構(gòu)+豐富的加速硬件的芯片級軟硬協(xié)同一體化方案；

芯片基于Chiplet架構(gòu)搭建開源生態(tài)共建平臺(tái)，通過Chiplet多Die互聯(lián)，從資源上仍然保持互聯(lián)同構(gòu)，實(shí)現(xiàn)無縫、無感的橫向擴(kuò)展；標(biāo)準(zhǔn)化、開源的第三方Die互聯(lián)可讓生態(tài)共建更輕松。

芯啟源提供芯片Die級和芯片級的高度集成和可被集成，包括與AI、CPU、VPU、GPU、xPU等Die的互聯(lián)，與現(xiàn)有ASIC、FPGA(e-ASIC)、CPU等芯片級的互聯(lián)，從而通過多Die的chip let組合出豐富的產(chǎn)品形態(tài)，滿足2*25G-2*200G多樣化端口需求，滿足大數(shù)據(jù)中心、超算中心、5G/6G邊緣計(jì)算、網(wǎng)絡(luò)安全等多種場景需求。

目前芯啟源DPU已經(jīng)在福建省大數(shù)據(jù)集團(tuán)、中國移動(dòng)、天翼云、深信服、招商銀行、中國科學(xué)院、中興等客戶落地應(yīng)用和開展深度合作，涉及政府、運(yùn)營商、互聯(lián)網(wǎng)、金融、電力等領(lǐng)域。

同時(shí)，芯啟源深耕DPU行業(yè)，結(jié)合DPU產(chǎn)業(yè)生態(tài)為開發(fā)者打造了全面開放的『數(shù)據(jù)基礎(chǔ)設(shè)施虛擬化及加速開發(fā)平臺(tái)CODIVA』，擁抱中立標(biāo)準(zhǔn)開放互補(bǔ)的國產(chǎn)化技術(shù)生態(tài)、行業(yè)解決方案，為“數(shù)字中國”提供堅(jiān)實(shí)的核心技術(shù)基礎(chǔ)，賦能千行百業(yè)的數(shù)字技術(shù)能力創(chuàng)新。

基于成熟的生態(tài)圈和CODIVA全棧能力平臺(tái)，芯啟源DPU作為集成電路產(chǎn)業(yè)的基礎(chǔ)算力網(wǎng)絡(luò)核心芯片，必將形成DPU+N=“新生萬業(yè)”趨勢，賦能中國數(shù)字經(jīng)濟(jì)生態(tài)，助力數(shù)字中國建設(shè)。

審核編輯：湯梓紅