人工智能,作為引領科技革命和產(chǎn)業(yè)變革的核心力量,正推動生成式AI技術如ChatGPT、Sora等不斷取得新的突破,大模型的應用范圍也日漸拓寬。然而,隨著智能算力的飛速提升,能耗問題逐漸凸顯,成為制約算力產(chǎn)品效能的關鍵瓶頸。傳統(tǒng)計算機在信號與數(shù)據(jù)轉換、高精度計算方面的能耗和時間成本不斷攀升,深度學習模型的訓練成本亦居高不下。
人腦能夠運行非常復雜且龐大的神經(jīng)網(wǎng)絡,總功耗卻僅為20W,遠小于現(xiàn)有的AI。類腦智能作為一種受腦科學和神經(jīng)科學啟發(fā)的創(chuàng)新科技,采用神經(jīng)形態(tài)計算,模擬人腦運作機制,旨在實現(xiàn)信息的高效處理,同時降低能耗、提升算力。與傳統(tǒng)人工智能相比,類腦智能展現(xiàn)了一種全新的計算范式,為科技發(fā)展和產(chǎn)業(yè)變革提供了全新視角和可能性。
人工智能的革新:時識科技與中科院自動化所聯(lián)合研究成果突破
近日,SynSense時識科技與北京中科院自動化所李國齊、徐波課題組合作,提出了一套以超低功耗邊緣端應用為導向,能夠實現(xiàn)動態(tài)計算算法,軟硬協(xié)同設計的類腦智能SoC系統(tǒng)Speck,整個系統(tǒng)在典型視覺場景中的實時功耗低至0.7mW。該成果以《Spike-based dynamic computing with asynchronous sensing-computing neuromorphic chip》為題,2024年5月25日成功刊登在國際頂級學術期刊《自然》(Nature)的子刊《自然-通訊》(Nature Communications)。
圖1.收錄圖
研究充分證明了將人腦中復雜的高級神經(jīng)機制融入到神經(jīng)形態(tài)計算中所帶來的無限可能。相關工作得到了國家杰出青年科學基金、國家自然科學基金委重點項目、區(qū)域創(chuàng)新聯(lián)合重點項目的支持。這一重大研究成果不僅展現(xiàn)了類腦智能的巨大潛力和廣闊前景,也為未來科技發(fā)展和產(chǎn)業(yè)變革注入了強大動力。
Speck:引領邊緣計算場景的極致創(chuàng)新
本篇文章首次詳細的介紹了時識科技感算一體SoC芯片Speck的設計細節(jié)(圖2), 硬件資源和異步運算的核心技術。Speck是一款異步感算一體的類腦智能SoC,采用全異步設計,在芯片上集成了動態(tài)視覺傳感器(DVS)和類腦智能芯片,具有極低的靜態(tài)功耗(0.42mW)。在視覺感知側,DVS相機以異步方式運行,僅在視覺場景中亮度發(fā)生變化時,產(chǎn)生稀疏的事件流,能夠以微秒級的時間分辨率感知視覺信息。在芯片側,異步神經(jīng)形態(tài)芯片同樣以全異步方式設計,拋棄了全局時鐘控制信號,避免了時鐘空翻帶來的能耗開銷,僅在有事件輸入時才會觸發(fā)稀疏加法運算。
Speck不僅實現(xiàn)了神經(jīng)形態(tài)計算理論上具有低功耗和低時延優(yōu)勢,同時天然與神經(jīng)形態(tài)動態(tài)計算契合。芯片的功耗主要分為靜息功耗和動態(tài)功耗兩部分。如圖2b/c所示,傳統(tǒng)AI芯片靜態(tài)功耗高,在算法層面進行的能效優(yōu)化對總功耗的降低作用不大。相比之下,Speck具有極低的靜息功耗,算法層面的能效優(yōu)化能切實帶來總功耗的降低。
圖2.Speck設計細節(jié)
Speck包含多個SNN核心,每個核心都能夠獨立處理事件流,執(zhí)行異步事件驅動的卷積操作。這種模塊化的設計使得芯片能夠靈活地處理各種規(guī)模的事件驅動任務。由于芯片的異步事件驅動特性,Speck能夠在接收到單個事件后立即更新系統(tǒng)狀態(tài),從而實現(xiàn)極低的輸出延遲,為邊緣計算場景提供了一個高能效、低延遲和低功耗的類腦智能解決方案。
以應用為導向,開啟產(chǎn)業(yè)減排增效新篇章
脈沖神經(jīng)網(wǎng)絡(SNNs)與傳統(tǒng)的人工神經(jīng)網(wǎng)絡(ANNs)最大的不同在于信息交換的方式。SNNs中的神經(jīng)元通過脈沖序列(即0代表無信號,1代表有脈沖信號)來進行通信,而ANNs中的神經(jīng)元則使用連續(xù)的數(shù)值來交換信息。這使得SNNs在運算時擁有一個動態(tài)的計算圖,這意味著在任何時刻,只有一小部分神經(jīng)元處于活躍狀態(tài),而其他神經(jīng)元則處于閑置狀態(tài)。相比之下,傳統(tǒng)的計算模式,比如在GPU上運行的ANNs,則是基于靜態(tài)計算圖的。即便ANNs的所有輸入或激活值都是零,網(wǎng)絡也必須執(zhí)行所有操作。通過將高層次的注意力機制整合到SNNs中,動態(tài)SNNs能夠在顯著降低能耗的同時,提升任務性能。這項技術創(chuàng)新點主要適用于希望提升計算效率和節(jié)能的智能設備和應用。
圖3. 類腦計算和傳統(tǒng)計算對比(從動態(tài)計算的角度)
文章中驗證了動態(tài)平衡注意力機制和異步類腦芯片的結合可以在手勢識別、明/暗光照下的步態(tài)識別等任務上取得準確率上、功耗和延時上巨大的提升。通過在類腦芯片Speck上部署SNN,實驗展示了一個實時功耗低至0.70mW的高精度類腦智能系統(tǒng),整個系統(tǒng)處理單個脈沖的超低延遲僅為 3.36 μs。
SynSense時識科技為Speck芯片提供了完整的軟件工具鏈,只需要使用編程框架Sinabs上完成SNN算法設計與訓練,即可在Speck上進行部署。如圖4所示,在屏蔽不重要時間窗口內事件流后,輸入為0時,Speck不會觸發(fā)任何計算。為驗證神經(jīng)形態(tài)動態(tài)計算的有效性,該研究在三個公開數(shù)據(jù)集進行了測試。在DVS128 Gesture上,融合了注意力動態(tài)計算的Speck在任務精度提升9%的同時,平均功耗由9.5mW降低至3.8mW。
圖4. 融合了注意力動態(tài)計算的Speck
這項研究揭示了Speck類腦計算感知平臺和人腦的高級抽象功能間的工程映射關系,通過這種機制能夠實現(xiàn)類腦智能在能耗、性能、延遲上的優(yōu)越表現(xiàn)。充分證明了類腦智能在實際應用場景中,從高能效、低延遲和高性能等維度,其異步事件驅動、稀疏性和動態(tài)性等方面的巨大潛力。
類腦智能,人工智能發(fā)展新引擎
AI技術的飛速發(fā)展讓大型模型在復雜任務處理上展現(xiàn)出巨大潛力,但也對計算資源和數(shù)據(jù)傳輸速度的要求也日益增加。類腦智能技術為這一挑戰(zhàn)提供了有效的解決方案,能夠顯著減少系統(tǒng)延遲及對中心化云服務的依賴,同時提升能源效率,降低運營成本。
科研成果高效轉化是推動基礎研究不斷前進的源動力,如今類腦智能作為創(chuàng)新“密碼”正在為發(fā)展新質生產(chǎn)力注入澎湃動能。面對當前算力瓶頸和能耗問題,為人工智能的發(fā)展提供了新的方法和視角。隨著技術的持續(xù)進步,類腦智能將為AI的未來打開更廣闊的應用空間,推動智能科技向更深層次、更廣泛領域的發(fā)展。可以期待在不久的將來,類腦智能以科技撬動萬億規(guī)模的產(chǎn)業(yè)“新藍海”。
-
人工智能
+關注
關注
1804文章
48599瀏覽量
245955 -
深度學習
+關注
關注
73文章
5554瀏覽量
122430 -
大模型
+關注
關注
2文章
3002瀏覽量
3772
原文標題:SynSense時識科技與中科院自動化所聯(lián)合研究成果榮登國際權威期刊Nature子刊,引領類腦智能技術新紀元
文章出處:【微信號:SynSense時識科技,微信公眾號:SynSense時識科技】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
中科曙光助力中科院高能物理研究所打造溪悟大模型
佛山智能裝備院與華數(shù)機器人在具身智能工業(yè)機器人領域的研究成果

中科昊芯DSP產(chǎn)品及公司信息
羅克韋爾榮登2025中國自動化及數(shù)字化品牌50強榜單
SynSense時識科技亮相CES,展現(xiàn)類腦智能“芯”實力
芯海科技攜手復旦微電子學院研發(fā)成果亮相國際權威期刊IEEE JSSC

愛芯元智受邀參加2024清華自動化論壇
SynSense時識科技與海南大學聯(lián)合研究成果發(fā)布

SynSense時識科技攜手蘇黎世聯(lián)邦理工發(fā)布Speck超低功耗眼動追蹤應用新突破

羅克韋爾自動化亮相第二十屆工業(yè)自動化與標準化研討會
SynSense時識科技宣布完成數(shù)億元戰(zhàn)略投資
SynSense時識科技收購瑞士類腦視覺傳感器公司iniVation 100%股權
SynSense時識科技成功收購瑞士類腦視覺傳感器公司iniVation,類腦智能航母蓄勢待發(fā)

羅克韋爾自動化受邀出席聯(lián)合國訓練研究所繁榮聯(lián)盟上海氣候周研究院項目啟動儀式

中科院重慶研究院在勢壘可光調諧新型肖特基紅外探測器研究獲進展

評論