也由于須與Edge裝置整合,因此Edge TPU設計之初已盡可能減少功耗,雖然Google官方并未正式揭露,但已表態將與Google合作的***工控系統商也表示,其典型功耗(Thermal Design Power, TDP)僅在1.8瓦,很明顯只要現成芯片封裝即可散熱,幾乎可不加散熱片,更不需要馬達風扇,便可讓Edge TPU正常運作。
至于Edge TPU支援的運算格式則為int8、int16,即8位元整數、16位元整數的人工智能模型推算,但無法進行更高位元數的整數,或者是浮點數的運算,如16位元浮點數(FP16)。
Google一發表Edge TPU即有合作伙伴與應用的揭露,如南韓樂金(LG)將用于產線制造上;另外紐西蘭、澳洲、英國的Smart Parking公司(顧名思義是與智慧停車相關的方案商)也表態采用,Smart Parking不單采用Edge TPU,其后端系統也大量采用GCP服務;還有Xee公司將Edge TPU用于汽車駕駛輔助上,對影像與雷達資料進行研判,而后給予駕駛潛在危險警告,如路況變差、輪胎過度磨損等。目前所知Google將Edge TPU訴求于三個目標,即制造、零售、汽車。
Movidius與Edge TPU的瑜亮情結
在Google尚未推出Edge TPU芯片前,其實Google已有使用前端的人工智能加速芯片,2011年Google購并Motorola Mobility,而后于2014年將Motorola Mobility售給Lenovo,但Google仍保留下2個原屬于Motorola Mobility的研究專案,而未移轉給Lenovo,一是模組化手機專案Ara,另一是擴增實境技術專案Tango(此專案于2018年3月結束,改由ARCore技術接手)。
Google在2014年對外揭露Tango研究,此專案所發展的平板、手機等行動裝置,即配置了Movidius公司的VPU芯片,VPU即Vision Processing Unit之意,更具體而言是視訊類型的人工智能運算、推算加速芯片。
Movidius自身發展第一代VPU,而后在與Google合作Tango計畫時則為第二代VPU,稱為Myriad 2(芯片編號MA2150/MA2450,差別在于MA2150最高連接1Gbit記憶體,MA2450可至4Gbit)。不僅Google采用,包含多軸無人機大廠大疆亦用于無人機上。之后2016年英特爾(Intel)購并Movidius,接手后發展出第三代VPU,稱為Myriad X(芯片編號MA2085/MA2485,MA2085封裝內無記憶體,MA2485內含4Gbit記憶體)。
Movidius在被英特爾收購后,Google依然鐘愛Movidius技術。2017年底Google推出AIY Vision Kit的開發套件,該套件內仍可見MA2450芯片的蹤影。AIY Vision Kit是Google用來推行其影像人工智能技術的評估套件,以樹莓派電腦(Raspberry Pi, RPi)為基礎提供擴充延伸的硬件配件,即可摸索與評估Google的影像人工智能技術。
而所謂的AIY是Google自創的復合字,是以人工智能(AI)與DIY(Do-It-Yourself自己動手做)二字疊合而成。事實上Google在推出Vision Kit的同時也有推出Voice Kit,可供摸索評估Google的語音人工智能技術,但語音的人工智能運算其運算負荷并不吃重,不需要專屬加速芯片。
從2014年的Tango到2017年底的AIY Vision Kit,Google均以第二代Movidius芯片為主,因此理論上順其發展,Google即便在Edge環節有其技術主張,認為可配置人工智能硬件加速芯片,應也會屬意Movidius,而非自行研發Edge TPU。
不過,最終Google提出了Edge TPU,因此不得不推測,英特爾購并Movidius后,Google可能認為后續新發展并不完全合乎期待,過往Movidius為小型獨立企業時,可能提供Google高度支援,然英特爾可能對Movidius技術資產的后續延伸與新走向有不同的想法。
對此可若干比較第三代Movidius Myriad X與Edge TPU,前者支援FP16的16位元浮點數推測運算及8位元整數推算,而Edge TPU如前述僅支援8位元整數及16位元整數推算;Movidius Myriad系列仍可能顧及潛在市場機會最大化,雖未廣泛支援多種AI框架,但至少支援兩種現階段主流框架,即TensorFlow與Caffe
Google可能對TensorFlow Lite寄予厚望,因而有專屬設計的加速芯片Edge TPU,Edge TPU可能一直維持比Movidius Myriad系列更低規(無浮點數)、更專精(只支援TensorFlow Lite )的技術發展定位,更高階的需求仍會選用Movidius Myriad系列,兩者高低并用并行。
或者Google未來只屬意自家Edge TPU,只在云端外推行Edge TPU,并一直維持低階定位,不往更高階發展,或Edge TPU僅是首發,未來將持續發展更高階的Edge TPU,如此將與英特爾Movidius競爭,甚在效能規格大幅強化后而與NVIDIA Xavier競爭。
評論