當(dāng)以5G、IoT、AI等作為主要驅(qū)動力的第五波浪潮（fifth wave）來襲時，計算領(lǐng)域的發(fā)展重新構(gòu)建了我們的生活。

一直以來，大量的數(shù)據(jù)從邊緣流向云端，但隨著數(shù)據(jù)和設(shè)備的數(shù)量呈指數(shù)型增長，把所有數(shù)據(jù)都放到云端處理變得越來越不現(xiàn)實，更不用說安全和成本效益。

機器學(xué)習(xí)（Machine Learning，ML）向“邊緣”轉(zhuǎn)移成為必然趨勢，它將助力AI在更大范圍的普及，推進更為多元化的應(yīng)用。從整體架構(gòu)來看，只有提升邊緣的智能性，才能解決帶寬、功耗、成本、延時、可靠性和安全性等多方面問題。

持續(xù)拓寬ML處理器IP覆蓋

在日前的Arm Tech Symposia 2019北京站上，Arm宣布進一步擴充其IP組合。這些IP組合沿襲了Arm一直倡導(dǎo)的大小核理念，既有比較高端的配置（如Ethos-N57和Mali-G57），也有入門級的產(chǎn)品（如Ethos-N37和Mali-D37），目的在于將軟硬件充分結(jié)合，并充分發(fā)揮生態(tài)系統(tǒng)的力量來提升主流設(shè)備的使用體驗。

由于消費級設(shè)備越來越智能化，通過專屬的ML處理器提供額外的AI性能與效率非常有必要。

自從推出Cortex-A73后，Arm便逐步且逐代地提升性能，大幅拓寬針對ML的CPU覆蓋。計算能力不斷被推升至全新水平，直到最新一代Matterhorn內(nèi)核，預(yù)計其計算性能將提升10倍。

當(dāng)CPU和GPU面對邊緣計算更密集計算、更復(fù)雜任務(wù)、更高效需求等顯現(xiàn)出一定的匱乏時，NPU將派上用場。

繼定位于高端設(shè)備的Ethos-N77發(fā)布后，此次，Ethos NPU家族又添Ethos-N57與Ethos-N37兩位新成員，將ML處理器延伸到主流市場。全新的Ethos對成本與電池壽命最為敏感的設(shè)計進行了優(yōu)化，可以為日常生活設(shè)備帶來優(yōu)質(zhì)的AI體驗。

Ethos-N57與Ethos-N37的設(shè)計理念包括：

針對Int8與Int16數(shù)據(jù)類型的支持性進行優(yōu)化；
先進的數(shù)據(jù)管理技術(shù)，以減少數(shù)據(jù)的移動與相關(guān)的耗電；
通過如創(chuàng)新的Winograd技術(shù)的落地，使性能比其他NPU提升超過200%。

Ethos-N57旨在提供平衡的ML性能與功耗效率，能夠針對每秒2兆次運算次數(shù)的性能范圍進行優(yōu)化；Ethos-N37則為了提供面積最小的ML推理處理器(小于1平方毫米)而設(shè)計，能夠針對每秒1兆次運算次數(shù)的性能范圍進行優(yōu)化。

Arm在ML內(nèi)核方面主要關(guān)注數(shù)據(jù)管理，在設(shè)計中更多地注入了智能數(shù)據(jù)管理的功能和理念，例如數(shù)據(jù)敏感型的壓縮技術(shù)、高密度剪枝和稀疏功能等。

Mali-G57：為主流市場帶來智能與沉浸式體驗的GPU

同時推出的還有將優(yōu)質(zhì)智能與沉浸式體驗帶到主流市場的Mali-G57，是第一個基于Valhall架構(gòu)的主流GPU。主要針對移動市場中最大的一部分應(yīng)用，包括高保真游戲、媲美電玩主機的移動設(shè)備圖型效果、DTV的4K/8K用戶接口，以及更為復(fù)雜的虛擬現(xiàn)實和增強現(xiàn)實的負(fù)荷等。

Mali-G57關(guān)鍵功能包括：

與Mali-G52相比，各種內(nèi)容都能達到1.3倍的性能密度；
能效比提升30%，電池壽命更長；
針對VR提供注視點渲染支持，且設(shè)備ML性能提升60%，以便進行更復(fù)雜的XR實境應(yīng)用。

Mali-D37：Arm單位面積效率最高的處理器

Mali-D37是一個在最小的可能面積上包含豐富顯示與性能的DPU。對于終端用戶而言，這意味著當(dāng)面積成為首要考慮，在例如入門級智能手機、平板電腦與分辨率在2K以內(nèi)的小顯示屏等成本較低的設(shè)備上，會有更佳的視覺效果與性能。

Mali-D37關(guān)鍵功能包括：
單位面積效率高，DPU在支持全高清（Full HD）與2K分辨率的組態(tài)下，16nm制程的面積將小于1 mm²；
通過減少GPU核心顯示工作以及包括MMU-600等內(nèi)存管理功能，系統(tǒng)電力最高可節(jié)省30%；
從高階的Mali-D71保留關(guān)鍵的顯示功能，包括與Assertive Display 5結(jié)合使用后，可混合顯示高動態(tài)對比(HDR)與標(biāo)準(zhǔn)動態(tài)對比(SDR)的合成內(nèi)容。

ML選擇通用還是專用處理器？

是否一定需要專用的ML處理器？能否通過跨IP組合設(shè)計，或是對加速器進行優(yōu)化，從而達到同樣的或類似的性能？

對此，Arm市場營銷副總裁Ian Smythe表示，這首先取決于是什么樣的機器學(xué)習(xí)負(fù)載，如果是關(guān)鍵字識別，確實不需要專門的ML處理器，只需要在Cortex-M上運行推理引擎就可以，因為它本身就具有數(shù)據(jù)管理的能力，基本適用于一般的傳感器系統(tǒng)。但如果是更加復(fù)雜的機器學(xué)習(xí)，就要考慮工作負(fù)載的卸載問題了，具體包括硬件方面的成本，以及編程工具的工作量等等。

Arm建議從系統(tǒng)級別出發(fā)進行選擇，以達到降低功耗、減小芯片面積、提高效率、優(yōu)化總體設(shè)計的目的。以圖形處理任務(wù)為例，如果用GPU，它在執(zhí)行任務(wù)時會多次訪問內(nèi)存，可能需要強制縮小像素，降低清晰度；但用DPU執(zhí)行同樣的任務(wù)，它會在完成任務(wù)后直接把數(shù)據(jù)發(fā)給GPU，這時GPU就無需再去訪問內(nèi)存，相當(dāng)于把GPU的一些工作負(fù)載分配給DPU，從而能夠節(jié)約能耗和帶寬。

Arm ML事業(yè)群商業(yè)與營銷副總裁Dennis Laudick強調(diào)，Arm的NPU屬于通用型。其實現(xiàn)在市場上大部分還是用Arm的CPU來處理ML工作負(fù)載，新發(fā)布的NPU是對其CPU ML性能的進一步提升，以便提供更多的IP選擇。

現(xiàn)在的市場時機之下，Dennis Laudick認(rèn)為，選擇通用型處理器非常合適。就ML處理能力來看，用戶對于CPU和GPU的需求還是非常高的，同時也有一些針對NPU的需求。由于AI本身還處于非常初期的階段，選擇通用處理器是比較安全的做法，即便算法迭代非常快，硬件還能夠有2到3年的生命周期。

開源Arm NN——標(biāo)準(zhǔn)化前提下的定制化

此次Arm的一個重要舉措還有開源類神經(jīng)網(wǎng)絡(luò)開發(fā)工具包 Arm NN，允許第三方合作伙伴進行定制化——Arm稱之為“允許標(biāo)準(zhǔn)化前提下的定制化”。

探究Arm這一舉動背后的含義。

首先，當(dāng)我們真正進入IoT時代時，不論傳感器還是其他IoT設(shè)備都是萬億級的，客戶規(guī)模及類型都將指數(shù)級增長，Arm需要授予客戶能力，讓他們能夠根據(jù)實際需求實現(xiàn)自己指令集的定制化。

其次，可以說市場上一些開源指令集的出現(xiàn)對Arm構(gòu)成了一定的競爭，Arm雖然能夠提供非常全面的指令集產(chǎn)品，但是定制化需求確實越來越強勁。

去年11月，F(xiàn)acebook就曾發(fā)表白皮書，要求其開發(fā)人員在移動設(shè)備上針對Cortex A53 SoC進行優(yōu)化。由于不同SoC對AI加速的實施方法不同，如果是原生的軟件，可以利用SoC的加速能力；但如果是第三方軟件（Facebook就屬于第三方應(yīng)用），就很難用到這些SoC的加速能力。

類似的案例，使Arm逐漸認(rèn)識到了有定制需求的市場規(guī)模。通過框架開源，能夠允許第三方開發(fā)人員接入，在標(biāo)準(zhǔn)的編譯訪問、工具訪問的情況下，只需一次開發(fā)就可以獲得Arm全系列的硬件產(chǎn)品性能。

此外，Arm也宣布延伸與Unity的合作伙伴關(guān)系。目前，有七成VR內(nèi)容的開發(fā)都在Unity工具鏈中發(fā)生，雙方將進一步優(yōu)化基于Arm的SoC、CPU和GPU的性能，使開發(fā)人員得以將更多的時間用于創(chuàng)造全新的、沉浸式的內(nèi)容。

Total Compute理念應(yīng)對未來復(fù)雜邊緣計算

應(yīng)對未來復(fù)雜邊緣計算的趨勢，不難發(fā)現(xiàn)，Arm的關(guān)注焦點正在從單一的產(chǎn)品演進轉(zhuǎn)化為以應(yīng)用場景與體驗為導(dǎo)向的系統(tǒng)解決方案。

全面計算（Total Compute）的理念被應(yīng)用到Arm的每一個計算要素，包括CPU、NPU、GPU、DPU，以及互連或系統(tǒng)IP等。初衷在于確保它們是由實際體驗所驅(qū)動，同時針對解決未來工作負(fù)荷的復(fù)雜運算挑戰(zhàn)進行了優(yōu)化。

硬件方面普及性不斷提升，軟件開始一定的開源嘗試——這是Arm對于未來計算架構(gòu)思考方式的重大轉(zhuǎn)變。

在介紹Total Compute理念的時候，Ian Smythe提到了三個因素：性能、可訪問、安全。前兩個因素主要來自于軟硬件的協(xié)同發(fā)展，而第三個因素——安全，是一切設(shè)想得以實現(xiàn)的基礎(chǔ)。

Total Compute的安全性基于三個層次：

第一個層級是最基本的平臺級安全，涉及標(biāo)準(zhǔn)以及規(guī)則，做到合規(guī)；
第二個是處理級的安全，指的是處理器運行的軟件線程，主要防止通過某一個處理通道發(fā)起的攻擊，屬于深度防御；
第三個是應(yīng)用級的安全，即虛擬機在云端的應(yīng)用安全。

在最基本層次的安全方面，Arm將會加強基本安全級別如身份驗證、鑒權(quán)等工作，同時還有防止分支攻擊的方式。此外還有一種安全架構(gòu)叫做內(nèi)存時間延展，Arm發(fā)現(xiàn)70%的操作系統(tǒng)崩潰或錯誤，都是因為內(nèi)存不當(dāng)?shù)脑L問造成的，于是和Google共同合作了Arm V8.5，來防止類似的情況發(fā)生。

針對應(yīng)用層安全，Arm與微軟、谷歌等公司聯(lián)合進行了安全架構(gòu)方面的研究，主要通過編程方式的改變來防范現(xiàn)在比較流行的攻擊方式。與劍橋大學(xué)共同開發(fā)的Prototype能力架構(gòu)，能夠?qū)⒚總€應(yīng)用獨立隔離，如果黑客攻破其中一個應(yīng)用，其他不受影響。

Arm正在將創(chuàng)新的安全功能整合到Total Compute內(nèi)，以迎合客戶的各種需求。

結(jié)語

未來，隨著數(shù)據(jù)類型愈發(fā)多樣，如大數(shù)據(jù)應(yīng)用、分布式存儲和部分邊緣計算等對多核、高能效計算提出明確需求，單個設(shè)備的計算能力固然很重要，但已不再是唯一的關(guān)注點，整個系統(tǒng)的計算能力更應(yīng)該被關(guān)注。

這種異構(gòu)計算需求能否為Arm及其生態(tài)發(fā)展帶來新一輪增長點？Arm生態(tài)中的合作伙伴能否從中獲得巨大的商業(yè)價值？市場還需要持續(xù)的發(fā)酵和驗證。不過，觀察他們是如何提升生態(tài)系統(tǒng)的高度，找到長久盛放的辦法，可以從中得到一些答案。