最近，技術神秘的異構智能終于出現在了人們的視線中，異構智能的CEO吳韌還為此，表達了公司愿景“異構智能有芯片、模型，有超級計算機，希望將模型脫離云端，帶到本地和終端，讓終端變得智能。”吳韌談異構智能芯片：能耗比谷歌低，比華為寒武紀計算力高。

大氣、穩重是吳韌給人留下的第一印象。自2015年百度離職創立異構智能以來，這位CEO很少出來發聲，異構智能也因此被打上了“神秘”的標簽。

與其說這場名為《異構智能擁抱人工智能大勢》的分享是場媒體交流會，倒不如說是場吳韌揭秘他與異構智能近況的懇談。

“異構智能有芯片、模型，有超級計算機，希望將模型脫離云端，帶到本地和終端，讓終端變得智能。”吳韌一開始就表達了公司愿景。

“（云端）物聯網是個偽命題，是難以實現的。”吳韌說。

目前的現狀是，看似魔術般連接起來的物聯網，實際需要通過很多海底和底下光纜從分支道路連接到主干道。接入的分支道路呈指數級增長，已經遠遠超出主干道增長的速度。

因為傳統的物聯網的云端架構難以處理未來的海量數據，異構智能開始考慮將人工智能的能力從云端拿到終端，讓邊緣設備學會“思考”。將邊緣設備思考的結果通過網絡與世界連接，就是實現了吳韌口中的智聯網（I2oT）。

“在本地做人工智能是未來的方向，異構智能將為這個方向的公司賦能。”吳韌說。

將AI放于終端對芯片提出了一高一低兩點挑戰。“高”在于，AI芯片主要有足夠強大的高性能支持復雜的人工智能計算，“低”是指芯片需足夠低功耗才能置于邊緣的小物體上。

“是挑戰，也是機會，”吳韌的聲音中帶著堅定，“異構智能的決定是take the challenge and seize the opportunity（接受挑戰，抓住機遇）。”

高性能-低能耗

在此情境下，異構智能選擇放棄芯片的通用性，為AI場景設計一款專用芯片，以追求最高的性能功耗比。

吳韌表示，目前的人工智能芯片真正起效需要10TOPS（萬億次運算/秒）的計算力，谷歌等公司的頂級芯片計算力高但能耗也高，不滿足本地落地的條件，而高通、寒武紀麒麟970等芯片雖然低能耗，但計算力卻達不到。

相比之下，NovuTensor V1僅用5W的用電量，就能實現15TOPS的性能。能耗低，且滿足計算需求。

△ NovuTensor優勢對比

5W是什么概念呢？吳韌現場形象化地表示，5W是USB可以提供的電量。

“這就是從云端突破到終端的能力。”吳韌說。

專利后的全棧解決方案

“人工智能的核心計算是三維張量的卷積計算，小立方體和大立方體重合的部分做點乘，”吳韌開始談到芯片背后的技術，“異構智能的芯片在三維層面做操作，并且有四項專利保護。”

△ NovuTensor核心技術

這四項專利包括三維張量卷積用硬件的直接實現，對數據的調度與分配、歸并和處理器間的協作。

只看到機會還不夠，異構智能最早找到辦法把芯片和算法設計出來并加以實現，輔之以專利保護。這樣看來，異構智能走得早，也走得穩。

“想為其他公司賦能。”吳韌不止一次提到這句話。

賦能，也就是幫助其他公司訓練出更聰明的模型、更復雜的網絡結構，讓數據集發揮更大的作用。

通過為人工智能定制的超級計算機進行訓練，異構智能的芯片能用最高的性能功耗比實現設計模型，為不同行業，提供全棧式的服務。甚至可以為非AI公司提供計算和智能的能力，幫助人工智能落地。

△ 異構智能的全棧解決方案

未來

異構智能的本地智慧模塊NovuBrain主要落地方向包括安防、制造、家居、醫療器械、智慧城市和智能駕駛，目前已經與HP、KUKA合作。

“通過把技術能力賦給頂級的大公司，這些公司把這些能力賦予給他們的用戶，異構智能就不需要在每一個行業、對每一個用戶、每一個應用來做這些事情。”吳韌說。

據量子位了解，目前28nm的ASIC芯片已經進入流片階段，16nm和7nm芯片同步推進，預計明年生產。

當被問及明年推出16nm芯片是否時間緊張時，吳韌表示公司團隊人才積累豐厚，對最新技術的把控很有信心。技術團隊的李淼（Mike Li）之前在Inphi負責過兩款16nm的芯片，對它的制程基本有100%的信心。

“未來的世界一定是智能物聯網領先。異構智能的定位是讓萬物互聯轉到萬物智能，為轉折提供所有的技術，隨著智聯網的長大，公司也將長大，成為偉大的公司。”吳韌說。