女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

通過平衡傳播獲得更好的AI芯片

倩倩 ? 來源:文財網 ? 2020-09-25 10:48 ? 次閱讀

AI專業人員一直在追求一種AI,它肯定會降低做普通AI事情所需的能量,例如感知單詞和圖片。這種機器學習模擬類型利用電路的物理原理而不是數字原理來完成神經網絡的一項重要數學任務。但是,限制該方法的主要因素之一是深度學習的訓練算法(反向傳播)必須由GPU或其他單獨的數字框架來完成。

神經形態芯片初創公司Rain Neuromorphics與加拿大研究院Mila之間的研究合作表明,可以想象使用完全模擬的硬件來訓練神經網絡,這為端到端的模擬神經網絡提供了機會。這對神經形態處理和AI硬件整體具有重大影響-它保證了完全可用于訓練和推理的模擬AI芯片,從而顯著節省了計算,功耗,等待時間和大小。這項進步將工程學和深度學習的紐帶聯系在一起,為AI動力機器人打開了入口之門,這種機器人可以在現場獨自學習,就像人類一樣。

在由“人工智能的教父”之一,獲獎者Yoshua Bengio共同創建的題為“具有均衡傳播的端到端模擬神經網絡訓練”的論文中,分析家們表明,可以訓練神經網絡來利用交叉開關憶阻器的展示,就像在當今使用內存中處理器方法的商業AI加速器芯片中使用的安排一樣,卻沒有在網絡的每一層之間使用相關的ADCDAC。結果為潛力更大的高能效AI硬件提供了潛力

Rain Neuromorphics首席執行官戈登·威爾遜(Gordon Wilson)表示:“如今,能源利用和成本是最大的制約因素,使我們無法交付新型人工智能。我們確實需要找到一種無可否認地更有效的計算基礎,一種本質上可以提高能源效率的基礎,一種允許我們不將培訓局限于大型數據中心的基礎,但除此之外,我們還可以進入一個可以設想免費,自主的世界,能源無限的設備,獨自學習。同樣,這是我們認為這一新進展正在打開通向的大門。”

分析人員已經對MNIST分類(改良的美國國家標準與技術研究院手寫數字數據庫)的端到端模擬神經網絡進行了模擬訓練,其性能與相同大小的基于軟件的神經網絡相似或更好。

模擬電路可以在某種程度上節省神經網絡的功率,因為??它們可以熟練地進行稱為乘法和累加的關鍵計算。該估計值會根據不同的負載乘以貢獻值,然后匯總這些值中的每一個。電氣工程的兩個基本定律也可以從根本上做到這一點。歐姆定律將電壓和電導相乘以提供電流,基爾霍夫的“電流定律”將輸入點的電流相加。通過將神經網絡的權重存儲在電阻式存儲小部件(例如憶阻器)中,乘法和累加可以完全以模擬方式發生,可以將功耗降低幾個數量級。

如今,模擬AI系統無法訓練自己的原因與零件的可變性息息相關。與真實神經元非常相似,模擬神經網絡中的神經元并非完全無法區分。要對模擬段進行反向傳播,您應該制造兩條單獨的電路路徑。一個人繼續思考一個答案(稱為推理),另一個人反過來進行學習,因此適當的回答變得更加準確。但是由于模擬成分的可變性,這些途徑無法協調。

平衡傳播(EqProp),由Bengio和Scellier在2017年設計的一種方法。這種訓練算法只有一條數據路徑,因此可以避免模擬硬件中的反向傳播問題。但是有一個警告。EqProp僅適用于基于能源的網絡。

結果是,盡管EqProp自2017年以來就已經存在,但這項新工作已將抽象思想轉變為可以通過電路物理識別的事物。這將使端到端的模擬計算成為可能,而無需在每個步驟都切換到數字域或從數字域切換。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    459

    文章

    52243

    瀏覽量

    436746
  • 機器學習
    +關注

    關注

    66

    文章

    8493

    瀏覽量

    134153
  • 深度學習
    +關注

    關注

    73

    文章

    5555

    瀏覽量

    122515
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    AI玩具芯片如何尋找性能、功耗與成本之間的平衡

    之間找到適合的方案?本文結合實際案例,總結芯片選型的核心原則與開發經驗。 ? AI 玩具芯片選擇的三大核心原則 ? 對于AI玩具而言,芯片
    的頭像 發表于 04-29 08:24 ?1189次閱讀

    自制一個支持AI 控制的無刷平衡車機器人:開源項目D-BOT全攻略

    今天給大家介紹一款創意桌面機器人——D-BOT!它不僅是一個功能強大的平衡車機器人,也是一個融合了AI控制、3D建模與PCB設計的開源項目。 D-BOT 被作者稱為“小探險家”(Discovery
    發表于 04-28 11:45

    海思SD3403邊緣計算AI數據訓練概述

    AI數據訓練:基于用戶特定應用場景,用戶采集照片或視頻,通過AI數據訓練工程師**(用戶公司****員工)** ,進行特征標定后,將標定好的訓練樣本,通過
    發表于 04-28 11:11

    智芯公司安全藍牙芯片獲得BQB權威認證

    近日,智芯公司自主研發的安全藍牙芯片成功通過藍牙技術聯盟(SIG)的BQB(Bluetooth Qualification Body)全面認證,成為國內藍牙芯片領域獲得BQB權威認證的
    的頭像 發表于 03-18 14:13 ?545次閱讀

    FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預測......

    的強化學習架構正在改寫芯片設計規則——通過自主進化算法,FPGA布局布線效率提升300%,這或許預示著芯片設計將進入"AI自編程"時代。在這場智能
    發表于 03-03 11:21

    什么是BP神經網絡的反向傳播算法

    神經網絡(即反向傳播神經網絡)的核心,它建立在梯度下降法的基礎上,是一種適合于多層神經元網絡的學習算法。該算法通過計算每層網絡的誤差,并將這些誤差反向傳播到前一層,從而調整權重,使得網絡的預測更接近真實值。 二、算法原理 反向
    的頭像 發表于 02-12 15:18 ?656次閱讀

    歐冶半導體獲得Ceva SensPro? Vision AI DSP授權

    Semiconductor)已成功獲得Ceva的SensPro? Vision AI DSP授權許可。 此次授權許可針對的是歐冶半導體公司的龍泉560系列高級駕駛輔助系統(ADAS)芯片組。該
    的頭像 發表于 01-14 14:30 ?559次閱讀

    通過微透鏡陣列的傳播

    使用最新發布的版本中引入的一個新的MLA組件來設置和模擬這樣的系統,允許對微透鏡組件后面的近場以及遠場和焦點區域的傳輸場進行徹底的研究。 微透鏡陣列后光傳播的研究 本用例研究微透鏡陣列后傳播的光。給出并
    發表于 01-08 08:49

    通過微透鏡陣列的傳播

    使用最新發布的版本中引入的一個新的MLA組件來設置和模擬這樣的系統,允許對微透鏡組件后面的近場以及遠場和焦點區域的傳輸場進行徹底的研究。 微透鏡陣列后光傳播的研究 本用例研究微透鏡陣列后傳播的光。給出并
    發表于 12-11 11:32

    蘋果利用AWS定制AI芯片提升服務

    。 據了解,蘋果目前正積極利用AWS的定制AI芯片來提升其搜索等核心服務的性能和效率。通過借助AWS的專業技術和資源,蘋果能夠更好地滿足全球客戶的需求,提供更加智能化、高效化的服務體驗
    的頭像 發表于 12-05 14:14 ?510次閱讀

    【每天學點AI】前向傳播、損失函數、反向傳播

    在深度學習的領域中,前向傳播、反向傳播和損失函數是構建和訓練神經網絡模型的三個核心概念。今天,小編將通過一個簡單的實例,解釋這三個概念,并展示它們的作用。前向傳播:神經網絡的“思考”過
    的頭像 發表于 11-15 10:32 ?1146次閱讀
    【每天學點<b class='flag-5'>AI</b>】前向<b class='flag-5'>傳播</b>、損失函數、反向<b class='flag-5'>傳播</b>

    平衡創新與倫理:AI時代的隱私保護和算法公平

    的發展不應背離人類的倫理道德。在推動技術創新的同時,我們必須確保每一步都走得穩健和負責。通過提高透明度、保障算法公平性、保護個人隱私權以及加強國際合作,我們可以確保AI技術的健康發展,使其成為促進社會進步和增進人類福祉的力量。
    發表于 07-16 15:07

    ai大模型和傳統ai的區別在哪?

    AI大模型和傳統AI的區別主要體現在以下幾個方面: 數據量和訓練規模 AI大模型通常需要大量的數據進行訓練,以獲得更好的性能。相比之下,傳統
    的頭像 發表于 07-16 10:06 ?2491次閱讀

    神經網絡前向傳播和反向傳播區別

    神經網絡訓練中的作用。 前向傳播(Forward Propagation) 前向傳播是神經網絡中最基本的過程,它將輸入數據通過網絡層進行逐層計算,最終得到輸出結果。前向傳播的過程可以分
    的頭像 發表于 07-02 14:18 ?1393次閱讀

    AI芯片會導元件中間商消失嗎?

    元件AI芯片
    芯廣場
    發布于 :2024年06月19日 18:10:01