據(jù)麥姆斯咨詢介紹，神經(jīng)形態(tài)視覺傳感是一種受生物啟發(fā)的相機，可以捕捉場景中的活動，降低數(shù)據(jù)冗余和延遲。這些基于事件的傳感器使機械的自主性更加接近現(xiàn)實，并在工業(yè)自動化、消費電子和自動駕駛車輛等領(lǐng)域基于視覺的高速應(yīng)用中找到用武之地。

“為什么說基于事件的視覺傳感器是神經(jīng)形態(tài)的？因為每個像素都是一個神經(jīng)元，把人工智能引入像素邊緣完全有意義。”Yole首席分析師Pierre Cambou稱。

最近幾個月，沉寂多年的神經(jīng)形態(tài)視覺傳感產(chǎn)業(yè)似乎又重新回到了人們的視野。去年11月，三星為其移動和平板電腦應(yīng)用的動態(tài)視覺傳感器（Dynamic Vision Sensor， DVS）技術(shù)提交了商標申請。Pierre Cambou說，“這算是一個驚喜！因為三星最初市場化的動態(tài)視覺傳感器主要用于汽車高級駕駛輔助系統(tǒng)（ADAS）?！?/p>

2019年12月，索尼悄悄收購了總部位于蘇黎世的Insightness公司，該公司的視覺傳感器即使在運動中也可以在幾毫秒內(nèi)實現(xiàn)運動檢測。2020年2月，總部位于巴黎的Prophesee公司在完成2800萬美元額外融資后不久，和索尼一起在美國舊金山舉行的國際固態(tài)電路會議（International Solid-State Circuits Conference）上聯(lián)合宣布，他們已經(jīng)開發(fā)出一種基于事件的堆疊式圖像傳感器。

Prophesee基于事件的圖像傳感器的成像圖片

神經(jīng)形態(tài)傳感起源于1991年蘇黎世聯(lián)邦理工學(xué)院（ETH Zurich）神經(jīng)信息學(xué)研究所Misha Mahowald開發(fā)的“硅視網(wǎng)膜”技術(shù)。Mahowald解釋稱，“模仿人類視網(wǎng)膜，這種‘硅視網(wǎng)膜’通過從圖像中減去平均強度水平，只報告空間和時間變化，從而減少了帶寬?！边@種靈感推動了動態(tài)視覺傳感器背后的概念，使蘇黎世聯(lián)邦理工學(xué)院成為該技術(shù)的創(chuàng)新中心，并孕育了像Prophesee、Insightness等無數(shù)初創(chuàng)企業(yè)。瑞士創(chuàng)新公司iniVation也是其中之一。

iniVation開發(fā)的DAVIS346

這家總部位于蘇黎世的初創(chuàng)公司由基于事件的視覺先驅(qū)們于2015年創(chuàng)建，他們開發(fā)了一種動態(tài)視覺平臺，結(jié)合硬件和軟件用于高性能機器視覺系統(tǒng)。iniVation的神經(jīng)形態(tài)動態(tài)視覺傳感器芯片DAVIS346模仿了人類視網(wǎng)膜的特性。只有在發(fā)生局部像素級的變化時才會進行傳輸，以微秒級的分辨率生成事件流，與傳統(tǒng)的視覺傳感器相當，但數(shù)據(jù)量卻少得多。該公司聲稱，由于采用本地化處理，其功耗（最多減少90%）、數(shù)據(jù)存儲和計算要求顯著降低，同時還提高了傳感器的動態(tài)范圍（高于120 dB）。

iniVation通過300個客戶的網(wǎng)絡(luò)，與賓夕法尼亞大學(xué)（University of Pennsylvania）、蘇黎世大學(xué)（University of Zurich）和美國國防高級研究計劃局（DARPA）的研究人員合作開發(fā)了IBM的TrueNorth仿人腦芯片。這項研究的重點是無人駕駛飛機的自主飛行。

暢想智能制造

現(xiàn)代制造業(yè)正在發(fā)生一場無聲的革命。機器自主和自動化相輔相成，大量制造自動化的發(fā)展背后是機器視覺。與簡單的傳感器不同，機器視覺傳感器會產(chǎn)生大量的數(shù)據(jù)以識別有缺陷的系統(tǒng)，了解它們的缺陷并進行快速干預(yù)。其結(jié)果是節(jié)約的成本和提高的生產(chǎn)率。

iniVation稱，其動態(tài)視覺平臺適用于工業(yè)視覺，可實現(xiàn)基礎(chǔ)設(shè)施的高速3D掃描，用于預(yù)測性維護、高速生產(chǎn)檢測、顆粒、熒光成像顯微鏡以及人體運動分析。換句話說，它能夠以高速度、高精度和高一致性執(zhí)行普通或復(fù)雜的重復(fù)任務(wù)。

“我們花了一段時間才找到一個好的策略?！眎niVation首席執(zhí)行官Kynan Eng說，“很多公司可以提供高速計數(shù)，由于傳統(tǒng)相機可以實現(xiàn)每秒1000幀甚至更高，所以高速計數(shù)并不是根本。如果應(yīng)用不需要即時響應(yīng)，那么，使用我們的傳感器就沒有什么意義?！?/p>

對于iniVation傳感器應(yīng)用，關(guān)鍵的是延遲而不是數(shù)據(jù)吞吐量，iniVation的傳感器具有快速響應(yīng)時間，例如一個不斷移動執(zhí)行任務(wù)的機器人，它需要實時調(diào)整它的路徑。如果調(diào)整得越快，它就能移動得越快，同時檢測自己錯誤的速度也越快。

“在我看來，工業(yè)視覺是一個相對低風險，但市場規(guī)模也低的市場。”Eng說。因此，風險投資基金很少有興趣。著眼于有機增長，iniVation正在考慮規(guī)模經(jīng)濟。通過2019年與三星（Samsung）的合作，iniVation從制造和芯片銷售轉(zhuǎn)向?qū)C器視覺行業(yè)銷售相機?！澳憧梢再u100美元的芯片，也可以把它裝在相機里，賣1000美元的相機。”Yole分析師Cambou指出。

通過轉(zhuǎn)向系統(tǒng)級產(chǎn)品，iniVation正在往高價值鏈上拓展。

“我們認識到，只成為一家芯片公司沒有意義?！盓ng說，“我們可以融資10億美元，但這仍不足以自己制造芯片。客戶一直問我們，為什么我們的相機價格昂貴，如何才能讓它們便宜。與三星合作，就是問題的答案?！?/p>

對產(chǎn)品質(zhì)量的高要求，推動了食品、包裝、消費電子、航空航天以及汽車行業(yè)的機器視覺。Eng說，iniVation的目標是進入更大的市場。

移動領(lǐng)域空間巨大

基于事件的相機只傳輸強度的變化。它們不會受到運動模糊的影響，延遲時間約為微秒級。加上很高的動態(tài)范圍和很低的功耗，使基于事件的相機非常適合虛擬現(xiàn)實和增強現(xiàn)實應(yīng)用（VR/AR）?！斑@是一個巨大的潛在市場，不過，現(xiàn)在還不知道什么時候會真正起量?，F(xiàn)在，它是一個利基市場?！盓ng說。

基于事件的相機也可以應(yīng)用于移動設(shè)備?！爸攸c在于說服手機制造商在手機背面再增加一顆傳感器?！盓ng說。最初，iniVation和其它基于事件相機的廠商只生產(chǎn)使用DVS像素的相機。Eng補充說：“這些特性有利于應(yīng)對高速變化，但在很多情況下，人們只是想自拍或者給美食拍照。幾年前，我們開始開發(fā)一種兼具基于事件像素和正常像素的傳感器。用戶可以拍攝普通照片，進行普通處理，但對于特定的用例，用戶會用到我們基于事件的像素?！?/p>

因此，手機制造商不必做出非此即彼的決定，并能維持同樣水平的價格。

Cambou說：“手機市場或?qū)⒃?021年~2022年前后開啟?，F(xiàn)在，我們已經(jīng)在華為手機的背面看到了5顆攝像頭。除了‘永久在線’的神經(jīng)形態(tài)相機，我想不出再下一顆攝像頭還有誰。有人會說‘多光譜相機’，但我認為更多的可能是讓智能手機始終保持‘意識’?；谑录南鄼C可以實現(xiàn)無接觸的交互，如鎖定和解鎖手機。”

與Prophesee和索尼的合作一樣，和三星的合作為iniVation在智能手機市場上提供了一條新的發(fā)展道路。Cambou說，一如既往，這是一個如何落地的問題?！坝谰迷诰€意識已經(jīng)提出好多年了，但現(xiàn)在的問題是如何實現(xiàn)它。這取決于應(yīng)用，以及在客戶體驗方面可以提供哪些改善?！?/p>

為汽車提供智慧雙眼

基于事件的相機很節(jié)能，因為像素活動微不足道；對于“靜默時”的像素幾乎不需要能量。這是一個賣點，因為自動駕駛汽車正從內(nèi)燃機向電動引擎過渡。對于汽車公司來說，功耗比最初認為的要重要得多。Eng說，“在目前的電動汽車設(shè)計中，如果一輛汽車以恒定速度使用4 kW的總功率預(yù)算，那么其中一半會用于推動汽車，另一半則要用于計算。計算環(huán)節(jié)省下來的每一瓦特電能，都可以延長汽車的續(xù)航里程，或者使用更小的電池?！?/p>

iniVation的動態(tài)視覺傳感器平臺能夠在惡劣的照明條件下實現(xiàn)車輛量距、高速即時定位和地圖繪制（SLAM）以及自動駕駛輔助?！半S著處理技術(shù)的發(fā)展，自動駕駛汽車的前景將會越來越明朗?！盓ng說，“我們將提供一種混合傳感器，它將同時具備幀速和基于事件的傳感能力，這樣汽車制造商就可以繼續(xù)使用它們已經(jīng)投入數(shù)十億美元開發(fā)的產(chǎn)品?！?/p>

傳感器是解鎖自動駕駛的關(guān)鍵。Cambou表示，這些傳感器會產(chǎn)生大量的數(shù)據(jù)，系統(tǒng)將嚴重受限于處理能力。更多的攝像頭和隨之而來的更多數(shù)據(jù)意味著“計算爆炸”。一個解決方案是提高數(shù)據(jù)質(zhì)量。Cambou 補充說，“真的要解決自動駕駛問題，就需要更多類型的傳感數(shù)據(jù)，例如激光雷達、熱像儀和高光譜相機等。我認為汽車廠商也應(yīng)該考慮基于事件的相機?！?/p>

神經(jīng)形態(tài)工程的潛力仍有待開發(fā)。Yole稱，到2029年，神經(jīng)形態(tài)半導(dǎo)體、傳感和計算將成長為71億美元規(guī)模的市場。如果在未來4~5年內(nèi)可以解決所有技術(shù)問題，神經(jīng)形態(tài)計算市場將從2024年的6900萬美元增長到2029年的50億美元，以及2034年的213億美元。神經(jīng)形態(tài)傳感市場將從2024年的3400萬美元增長到2029年的20億美元，以及2034年的47億美元。