電子發(fā)燒友網(wǎng)報(bào)道（文/李寧遠(yuǎn)）近日，韓國政府?dāng)M與AI芯片、云計(jì)算企業(yè)聯(lián)合，組建團(tuán)隊(duì)研發(fā)高算力、低能耗的神經(jīng)網(wǎng)絡(luò)處理器NPU推理芯片。這一舉措的目的是與英偉達(dá)競爭并避開英偉達(dá)主導(dǎo)的圖形處理單元GPU市場。

自O(shè)penAI旗下的智能聊天機(jī)器人程序ChatGPT去年年末發(fā)布后，全球掀起了一波人工智能熱潮，熱度持續(xù)至今。ChatGPT超出人們預(yù)期的智能化表現(xiàn)掀起了人工智能領(lǐng)域的技術(shù)革命。這一場生成式人工智能熱潮催生了海量的數(shù)據(jù)，處理海量的數(shù)據(jù)離不開背后龐大的基礎(chǔ)算力作為支撐。

CPU、GPU和DPU作為人們熟知的人工智能場景中重要的算力芯片，能夠?yàn)楦邘挕⒌脱舆t、數(shù)據(jù)密集的計(jì)算場景提供計(jì)算引擎，是未來處理超算流量和安全網(wǎng)絡(luò)存儲(chǔ)的核心硬件。而神經(jīng)網(wǎng)絡(luò)處理器NPU作為一種專門用于進(jìn)行深度學(xué)習(xí)計(jì)算的芯片，在大算力應(yīng)用場景的應(yīng)用優(yōu)勢也正被業(yè)界廣泛看好。

NPU，為深度學(xué)習(xí)計(jì)算而生

早在2011年，Google就已經(jīng)提出了利用大規(guī)模神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像識別的技術(shù)，由于深度學(xué)習(xí)計(jì)算需要大量的計(jì)算資源和算力支持，此時(shí)傳統(tǒng)的CPU和GPU并不能完全滿足這種需求，因此NPU應(yīng)運(yùn)而生。

設(shè)計(jì)NPU的目的就是為了進(jìn)行深度學(xué)習(xí)計(jì)算，其特點(diǎn)是具有極高的計(jì)算效率和能耗效率，能夠運(yùn)行多個(gè)并行線程在短時(shí)間內(nèi)完成大規(guī)模的神經(jīng)網(wǎng)絡(luò)計(jì)算任務(wù)。NPU的計(jì)算單元通常采用矩陣計(jì)算、向量計(jì)算等方式以保證快速完成計(jì)算任務(wù)。

同時(shí)為了計(jì)算單元快速處理數(shù)據(jù)，其存儲(chǔ)通常采用高速緩存和顯存的結(jié)合方式，方便更快地存取和讀取數(shù)據(jù)。這種設(shè)計(jì)在降低計(jì)算延遲和提高復(fù)雜計(jì)算任務(wù)穩(wěn)定性有著很明顯的幫助。

NPU和TPU、BPU這些AI芯片一樣，同屬于ASIC專用集成電路，是為特定應(yīng)用場景（如NPU的神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)場景）而設(shè)計(jì)的定制芯片，其開發(fā)成本高且周期長，但在性能和功耗上優(yōu)于同時(shí)期的GPU和FPGA。

傳統(tǒng)的ASIC在開發(fā)完成后是不能更改的，這一點(diǎn)上NPU還是略有差異，NPU一般會(huì)具有一定的可編程性，可以通過更改配置適配不同的計(jì)算任務(wù)，所以其日后的應(yīng)用空間也遠(yuǎn)不止局限于深度學(xué)習(xí)模型。

NPU這種專用芯片在特定的人工智能需求下提供了一種提升算力和能效比的新思路。雖然GPU已經(jīng)針對AI算法加強(qiáng)了并行計(jì)算單元，但NPU更容易從高規(guī)律性的深度神經(jīng)網(wǎng)絡(luò)中獲益，短時(shí)間內(nèi)完成大規(guī)模的神經(jīng)網(wǎng)絡(luò)計(jì)算任務(wù)。

在ChatGPT拉高算力需求的背景推動(dòng)下，NPU開始進(jìn)入發(fā)展快車道。

大模型需求推動(dòng)NPU產(chǎn)業(yè)發(fā)展

目前，國內(nèi)人工智能芯片行業(yè)里GPU仍然是首選，根據(jù)IDC的數(shù)據(jù)，GPU占有90%以上的市場份額，而NPU、FPGA和其他ASIC等非GPU芯片占有的市場份額相對較少，整體市場份額接近10%，其中NPU的占比為6.3%。

在這條新賽道上，還沒有哪一家廠商成為巨頭主導(dǎo)市場，韓國政府與AI芯片、云計(jì)算企業(yè)聯(lián)合發(fā)展高算力、低能耗的NPU也正是為了避開了英偉達(dá)主導(dǎo)的GPU市場，開辟一條新的增強(qiáng)AI芯片實(shí)力的道路。

今年4月已有韓媒BusinessKorea報(bào)道，三星半導(dǎo)體已成功量產(chǎn)采用三星14nm制程工藝第一代WarBoy NPU芯片，速度可以達(dá)到普通GPU的十倍，預(yù)計(jì)不久后投入市場，同時(shí)第二代WarBoy NPU芯片預(yù)計(jì)采用5nm工藝，明年或可推出。

國內(nèi)NPU行業(yè)也是潛力十足，不同于CPU、GPU國內(nèi)起步較慢，國內(nèi)芯片設(shè)計(jì)公司在NPU這條賽道的起步時(shí)間不晚，已經(jīng)有不少相關(guān)產(chǎn)品量產(chǎn)并推出應(yīng)用。

華為海思自研的Da Vinci架構(gòu)昇騰NPU已經(jīng)在移動(dòng)端AI計(jì)算領(lǐng)域中嶄露頭角，張量化的立體運(yùn)算單元提供了業(yè)界領(lǐng)先的量化精度，在移動(dòng)端AI計(jì)算中用于圖像識別、語音識別、AR SLAM等應(yīng)用大幅提升了運(yùn)算速度。

紫光展銳的NPU也在旗下多顆SoC中搭載，采用新一代高能效NPU+VDSP架構(gòu)，垂直優(yōu)化計(jì)算能力，其中NPU算力達(dá)到8TOPS，相比上一代提升67%，支持圖像超分、視頻增強(qiáng)、語義分割、目標(biāo)檢測、文本識別等AI應(yīng)用。

阿里的含光NPU也是用了自研的硬件架構(gòu)，集成了達(dá)摩院先進(jìn)算法，針對CNN及視覺類算法深度優(yōu)化計(jì)算、存儲(chǔ)密度。國科微的NPU芯片同樣自主自研，目前相關(guān)產(chǎn)品正在落地，今年會(huì)擇機(jī)發(fā)布嵌入自研NPU、帶算力的相關(guān)產(chǎn)品。

寒武紀(jì)的NPU也是國內(nèi)很早進(jìn)入NPU賽道的玩家，目前NPU產(chǎn)品主要包括寒武紀(jì)1A、寒武紀(jì)1H、寒武紀(jì)1M等，其IP指令集已擴(kuò)大范圍授權(quán)集成到手機(jī)、安防、可穿戴設(shè)備等各類終端芯片中，整體性能上與國外廠商比肩。

芯原股份的Vivante NPU IP也已經(jīng)應(yīng)用于百款人工智能芯片中，不僅可滿足多種芯片尺寸和功耗預(yù)算還可以結(jié)合芯原自有的其他處理器IP。同時(shí)芯原還將自有的GPU和NPU原生耦合，利用芯原獨(dú)有的FLEXA低功耗低延遲同步接口通信技術(shù)，實(shí)現(xiàn)二者的高效協(xié)同計(jì)算和并行處理。

還有不少國內(nèi)廠商在NPU已有建樹，如中星微的VC0616 NPU、OPPO的自研NPU MariSilicon X、瑞芯微的自研NPU、愛芯元智的Neutron NPU等等。


?

未來NPU如何發(fā)展？

NPU作為一種專門針對深度神經(jīng)網(wǎng)絡(luò)計(jì)算的硬件器件，隨著深度學(xué)習(xí)技術(shù)的不斷發(fā)展，越來越多的算法模型加入，NPU 的多樣化肯定會(huì)越來越重要。目前NPU在圖像識別、自然語言處理以及傳感器數(shù)據(jù)處理上所展現(xiàn)出的強(qiáng)大計(jì)算性能，已經(jīng)從IoT、消費(fèi)電子領(lǐng)域開始向汽車自動(dòng)駕駛領(lǐng)域等更廣泛多樣的場景延伸應(yīng)用。

另一個(gè)發(fā)展趨勢則是獨(dú)立化，目前大多數(shù)NPU都需要與其他CPU/GPU等配合使用才能完成整個(gè)計(jì)算任務(wù)，對其他芯片的依賴度較高。未來NPU集成度進(jìn)一步提高，能獨(dú)立完成計(jì)算任務(wù)后其應(yīng)用空間將更為廣闊。

寫在最后

NPU的誕生就是為了應(yīng)對深度神經(jīng)計(jì)算，在ChatGPT將算力需求再推上一個(gè)新臺階后，NPU芯片顯著的能耗節(jié)約優(yōu)勢和高效的計(jì)算效率在算力需求愈發(fā)凸顯的當(dāng)下已經(jīng)顯露了不少發(fā)展機(jī)遇，在市場需求的推動(dòng)下相關(guān)產(chǎn)業(yè)發(fā)展也開始加速。

和其他AI芯片相比，NPU依賴定制化，國內(nèi)廠商在這一方面很有優(yōu)勢。在這個(gè)賽道上，可以預(yù)見競爭會(huì)越來越激烈，不過市場還沒有被巨頭壟斷，國內(nèi)廠商空間更大，可以爭奪的生態(tài)位更多，國內(nèi)廠商在這一細(xì)分AI芯片領(lǐng)域前景可期。