斯坦福大學研究人員已經證明,在光學芯片上直接訓練人工神經網絡是可能的。這一重大突破表明,光學電路可以執行基于電子技術的人工神經網絡的關鍵功能,并且可以更便宜、更快和更節能的方式來執行諸如語音或圖像識別等復雜任務。
研究人員已經證明,神經網絡可以使用光學電路(圖中的藍色矩形)進行訓練。在整個網絡中,會有幾個連接在一起。激光輸入(綠色)信息,通過光學(黑色)芯片。該芯片使用非均勻波束執行對人工神經網絡至關重要的操作,它是由曲線段表示的。這些部分將兩個相鄰的部分連接在一起,并通過調整光學相位(紅色和藍色物體)的設置來調諧,它們的作用就像可以在訓練期間調整以執行給定任務的“轉軌”。這一研究結果由斯坦福大學研究組的Tyler W. Hughes所證明。
“使用光學芯片比數字計算機更有效地執行神經網絡,可以解決更復雜的問題。”斯坦福大學研究小組的Shanhui Fan說。“例如,這將增強人工神經網絡執行自動駕駛汽車所需任務的能力,或者對口頭問題作出適當的反應。它還能以我們現在無法想象的方式改善我們的生活。”
盡管光學人工神經網絡最近被實驗證明,但訓練步驟是在傳統的數字計算機上使用一個模型進行的,然后將最后的設置輸入到光學電路中。在光學學會的擁有很高影響力的研究雜志上,斯坦福大學報告了一種直接在設備中訓練這些網絡的方法,這種方法是通過實現“光學模擬”算法來實現的,這是訓練常規神經網絡的標準方法。
“使用物理設備而不是計算機模型進行訓練可以使訓練過程更加精確。”Hughes說。“此外,由于訓練步驟是神經網絡實現過程中非常昂貴的部分,因此執行這一步驟對于提高人工網絡的計算效率、速度和功耗至關重要。”
基于光的網絡
雖然神經網絡處理通常使用傳統計算機執行,但仍有大量工作要設計專門為神經網絡計算而優化的硬件。基于光學的設備有很大的興趣,因為它們可以并行執行,同時使用比電子設備更少的能量。
在這項新的工作中,研究人員通過設計一種傳統計算機訓練神經網絡的方法設計了一種光學芯片,這對實現全光神經網絡提出了重大挑戰。
一個人工神經網絡可以被認為是一個黑匣子,有大量的人工神經網絡。在訓練過程中,每個訓練單元都會有一些變化,然后對系統進行測試,看看算法的性能是否有所提高。
“我們的方法不僅可以幫助你預測轉向哪個方向,而且還可以幫助你預測你應該把每一種方法都轉化成更接近預期的性能。”Hughes說。“我們的方法大大加快了訓練的速度,特別是對于大型網絡,因為我們并行地獲得了關于每種方法的信息。”
片上訓練
新的訓練協議工作在光路上,通過改變光學相位的設置來調整光路。將待處理的激光束編碼信息發射到光路中,通過光束進行光路傳輸,并對其進行調整,以訓練神經網絡算法。
在新的訓練協議中,激光器首先通過光路輸入。在設備上,計算與預期結果的差異。然后,該信息被用來產生一個新的光信號,該光信號通過光網絡以相反的方向發送回來。在這個過程中,研究人員通過測量每個光束周圍的光強度,展示了如何并行地檢測神經網絡性能將如何隨著光束的設置而變化。根據這些信息可以改變相位設置,并且過程可以重復,直到神經網絡產生期望的結果。
研究人員通過教授一種執行復雜功能的算法,例如在一組點內提取復雜的特征,用光學模擬測試了他們的訓練技術。他們發現,光學實現功能與傳統計算機相似。
“我們的工作證明,你可以利用物理定律來實現計算機科學算法,”Fan說。“通過在光領域對這些網絡進行訓練,它表明光神經網絡系統可以單獨使用光學來實現某些更高的性能。”
目前,研究人員正計劃進一步優化該系統,并希望利用它實現神經網絡任務的實際應用。他們設計的一般方法可用于各種神經網絡體系結構和其他應用,如光學。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
人工神經網絡
+關注
關注
1文章
120瀏覽量
14909 -
光學芯片
+關注
關注
0文章
17瀏覽量
4640
發布評論請先 登錄
相關推薦
熱點推薦
【「芯片通識課:一本書讀懂芯片技術」閱讀體驗】從deepseek看今天芯片發展
的:
神經網絡處理器(NPU)是一種模仿人腦神經網絡的電路系統,是實現人工智能中神經網絡計算的專用處理器,主要用于人工智能深度學習模型的加速
發表于 04-02 17:25
BP神經網絡與卷積神經網絡的比較
BP神經網絡與卷積神經網絡在多個方面存在顯著差異,以下是對兩者的比較: 一、結構特點 BP神經網絡 : BP神經網絡是一種多層的前饋
BP神經網絡的優缺點分析
自學習能力 : BP神經網絡能夠通過訓練數據自動調整網絡參數,實現對輸入數據的分類、回歸等任務,無需人工進行復雜的特征工程。 泛化能力強 : BP
什么是BP神經網絡的反向傳播算法
神經網絡(即反向傳播神經網絡)的核心,它建立在梯度下降法的基礎上,是一種適合于多層神經元網絡的學習算法。該算法通過計算每層
BP神經網絡與深度學習的關系
),是一種多層前饋神經網絡,它通過反向傳播算法進行訓練。BP神經網絡由輸入層、一個或多個隱藏層和輸出層組成,通過逐層遞減的方式調整網絡權重,目的是最小化
BP神經網絡在圖像識別中的應用
BP神經網絡在圖像識別中發揮著重要作用,其多層結構使得網絡能夠學習到復雜的特征表達,適用于處理非線性問題。以下是對BP神經網絡在圖像識別中應
如何訓練BP神經網絡模型
BP(Back Propagation)神經網絡是一種經典的人工神經網絡模型,其訓練過程主要分為兩個階段:前向傳播和反向傳播。以下是訓練BP
基于光學衍射神經網絡的軌道角動量復用全息技術的設計與實驗研究
隨著神經網絡的發展,光學神經網絡(ONN)的研究受到廣泛關注。研究人員從衍射光學、散射光、光干涉以及光學傅里葉變換等基礎理論出發,利用各種

LSTM神經網絡的訓練數據準備方法
LSTM(Long Short-Term Memory,長短期記憶)神經網絡的訓練數據準備方法是一個關鍵步驟,它直接影響到模型的性能和效果。以下是一些關于LSTM神經網絡
Moku人工神經網絡101
Moku3.3版更新在Moku:Pro平臺新增了全新的儀器功能【神經網絡】,使用戶能夠在Moku設備上部署實時機器學習算法,進行快速、靈活的信號分析、去噪、傳感器調節校準、閉環反饋等應用。如果您

關于卷積神經網絡,這些概念你厘清了么~
可以不局限于已知的訓練圖像開展識別。該神經網絡需要映射到MCU中。
5、AI的模式識別內部到底是什么?
AI的神經元網絡類似于人腦的生物神經元網絡。一個
發表于 10-24 13:56
FPGA在深度神經網絡中的應用
隨著人工智能技術的飛速發展,深度神經網絡(Deep Neural Network, DNN)作為其核心算法之一,在圖像識別、語音識別、自然語言處理等領域取得了顯著成果。然而,傳統的深度神經網絡
如何構建多層神經網絡
構建多層神經網絡(MLP, Multi-Layer Perceptron)模型是一個在機器學習和深度學習領域廣泛使用的技術,尤其在處理分類和回歸問題時。在本文中,我們將深入探討如何從頭
Python自動訓練人工神經網絡
人工神經網絡(ANN)是機器學習中一種重要的模型,它模仿了人腦神經元的工作方式,通過多層節點(神經元)之間的連接和權重調整來學習和解決問題。Python由于其強大的庫支持(如Tenso
評論