女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

存算一體技術路線如何選

Carol Li ? 來源:電子發燒友網 ? 作者:李彎彎 ? 2022-06-21 09:27 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發燒友網報道(文/李彎彎)過去幾年,越來越多企業加入到存算一體技術的研究中,如今,存算一體芯片已經逐漸走向商用。

從目前入局的企業來看,路線各異,包括采用不同類型的存儲器,從中小算力入手,或是直接進行大算力存算一體芯片的研究,有的是采用模擬的存算技術,有的采用數字的存算技術。

那么如何選擇合適的存儲器類型,如何做大算力的存算一體芯片設計,采用模擬技術還是數字的方式?千芯科技董事長陳巍在接受電子發燒友采訪的時候做了詳細介紹。

如何選擇存儲器類型

千芯科技致力于大算力存算一體芯片技術的研究,在SRAM、MRAM、RRAM方面都有探索,目前基于SRAM存算一體產品樣卡正在測試,公司也在與中科院、清華大學等機構一起優化基于RRAM、MRAM存算一體電路的設計。

該公司技術團隊早期接觸過各類存儲器,陳巍博士10多年前就作為國家專項課題的技術負責人主持過當時國內最先進的NOR Flash芯片及MemoryCompiler(存儲器編譯器)的設計研發,作為負責人創建國內首個3D NAND 閃存設計團隊,SRAM、RRAM、MRAM等都接觸了10年以上,有不少這些存儲器的專利。

千芯科技也給這些存儲器做了自己的分類,陳巍強調,在進行存算一體存儲器選擇的時候,重點還是要看客戶和應用需求,根據實際應用場景來選擇存儲器比較合適。

圖:存儲器類型,優勢、不足和適用場景(來自千芯科技)


因為雖然都是存算一體,但是從應用來看,有些存算一體需要更偏向于存(ComputingMemory),有些更偏向于算(MemoryComputing),比如端側一些語音識別、人像識別的場景,對功耗和成本要求比較高,把AI計算的部分和存的部分合成一個器件,能夠有效降低成本。

比如在云計算領域,這個領域需要計算的模型非常大,同時訓練場景下,需要不斷更新數據,因此在這樣的應用場景下,一些非易失存儲器的讀寫速度,就不如SRAM、DRAM、RRAM好,這些場景更偏向于算,它目前會傾向于偏向計算能力的存儲器。

也就是說,如果是偏向于低成本,同時希望待機功耗更好,可以選擇非易失存儲器,包括Flash、RRAM、MRAM等;如果偏向于大規模計算,多數情況下可以選擇RRAM、SRAM和DRAM。另外具體來說選擇哪種存儲器,還和各家的專利布局綁定有關。

大算力存算一體芯片設計

自動駕駛、數據中心等領域,對大算力的需求比較明顯,因此各家企業也在大算力存算一體芯片的研發和推廣上投入精力。在陳巍看來,目前除了NOR閃存有些受容量限制,上述提到的各類存儲器基本可以用來做大算力存算一體。

閃存存算方面,目前主要路線是基于NOR flash(不是目前優盤所用的閃存類型),多數情況下存儲容量較小,這使得NOR flash單片算力達到1TOPS以上器件代價較大,通常業內說大算力一般是20-100TOPS以上,因此不太好直接做大算力的存算一體。而其他的存儲器,包括SRAM、RRAM等,現在已經看到,有實際產品證明可以是可以用來做到大算力的存算一體。

在設計上,大算力存算一體結構和小算力會有所不同,據陳巍介紹,這跟存算一體架構里面的計算架構有關,大算力計算架構和小算力計算架構不一樣,一是大算力的計算核會有特別的外圍電路設計,來使它的吞吐能力比小算力更強;二是在整體結構上,大算力有更多核心并聯,相當于多個小算力整合成一個大算力,有點類似于GPU的整合方式,因為GPU也相當于是不同的小算力的核心,整合起來的架構。


雖然說都可以做大算力,而基于非易失存儲器,目前做大算力存算一體,也會遇到一些工藝挑戰,基本上循環讀寫次數在十的六到八次方之后,就可能出錯,所以到目前為止,國際上直接用NVM做200Tops以上算力的還較少。

因為在大算力場景下,它有非常高頻度的讀寫,這樣會較早的面臨失效的可能,而這個失效可能會導致計算錯誤,對于產品來說,這是必須要做優化的,特別是在自動駕駛領域,如果遇到這種失效將會導致車輛失控。

這個問題如何解決呢,陳巍表示,經過與業內專家合作分析,他們認為需要從兩方面去做,一是器件的工藝水平需要優化,二是做冗余器件設計去解決這個問題,目前對于計算為主的場景,做冗余器件設計,它的性能可能就沒有先進工藝下的SRAM強,做了冗余設計之后,它的面積也會進一步提升,這樣成本的優勢可能就會有一定的降低。

因此總結來看,選擇何種存儲器去做大算力存算一體,還是要看場景,看客戶的需求,以及還和器件本身的工藝水平有很大關系。

模擬和數字存算一體技術的差別

可以看到,采用模擬還是數字的技術,也是企業常提到的一點,陳巍介紹,一般跟傳感器連接密切的部分,推薦用模擬存算一體的方式,如果計算結構復雜,建議用數字的,因為用模擬結構去做復雜計算,代價比較大,而跟傳感器進行結合的時候,模擬計算有它的天然優勢。

所以其實更多的還是看場景,比如小算力需求,就是做一個聲音識別,或者做一個小規模的圖像識別,這時候用模擬比較合適,如果說要做云計算的大算力,計算結構又復雜,目前看采用數字方式的多些。


上圖是一個存算一體的陣列,比如憶阻器,里面存入矩陣系數,或者叫權重,然后輸入數據,也就是輸入不同的電壓,根據歐姆定律,就會產生不同的電流,每個電流匯聚在一起,即相當于是電流加和(基爾霍夫定理),就完成了一個乘積累加運算,這是模擬電路完成深度學習等各種計算的基本思路。

簡單的理解,數字的方式就是把不同的模擬單元分離開,原來模擬電路,相當于是一個單元存一個模擬數值,可能是幾位的,比如8位、或4位位寬,如果變成數字的方式,相當于一個單元存入一個數值,是一個位寬的。這樣就很明顯,模擬的好處是存儲密度更高,但沒法直接做復雜計算,數字電路離散性會更好,更靈活,可以直接做復雜運算。

存算一體技術的挑戰和未來

目前而言,存算一體的發展還存在一些挑戰,陳巍談到兩點:一是生態建設,盡管存算一體這個概念并不是特別新,但是真正進入實用階段的時間還比較短,特別是通用的編譯生態環境還沒有完全成熟,這樣它在落地上就會存在一些適配要求,因為客戶對生態都是有要求的,因此急需建立存算一體的生態。

二是如何更好的滿足客戶的需求,這也是整個AI芯片落地需要解決的一個問題,企業需要更多從客戶的需求角度去設計產品,對于客戶來說,可能有很多計算場景,它其實不單是需要一個AI技術,還需要其他一些復合的計算類型,比如語音識別場景,它除了AI計算需求之后,還需要語音降噪的算法,這時候就需要根據客戶的需求進行特定場景的優化。

存算一體就技術的未來會怎樣?從兩個階段來看,陳巍認為,目前基本都處于一個市場開拓期,很多客戶還沒有完全意識到存算一體的優勢和價值,不過如果市場能夠出現一個很有影響力的廠商,來證明存算一體芯片,比傳統馮諾伊曼架構AI芯片能力更強,那么很快就會有很大的突破,預計這樣的突破在近期就會發生。

從遠期來看,存算一體會和GPU、CPU技術有很好的結合,成為CPU、GPU、DPU,或者是其他各種AI芯片的計算核心,相當于現有的存算一體技術會給GPU或者CPU賦能,成為現有技術的計算核心。

從商用角度來看,目前國內存算一體芯片至少有兩家量產,估計今年會有很多都可以開始商用,目前已落地的商用還主要是在端側可穿戴設備等領域,一些語音識別,小的視覺模型場景集中。

在自動駕駛和云計算領域,云計算領域的商用預計快一點,估計明后年開始就有產品可以逐步進入中國互聯網大廠,自動駕駛領域的商用時間會比較長,因為自動駕駛從架構設計到最后大批量裝車,一般需要五年時間,如果前面兩年已經完成了設計、流片,大約還要三年的適配和量產測試時間才能實現大批量落地應用。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • sram
    +關注

    關注

    6

    文章

    785

    瀏覽量

    115936
  • 存算一體
    +關注

    關注

    0

    文章

    108

    瀏覽量

    4658
  • 千芯科技
    +關注

    關注

    0

    文章

    1

    瀏覽量

    1350
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    緩解高性能一體芯片IR-drop問題的軟硬件協同設計

    在高性能計算與AI芯片領域,基于SRAM的一體(Processing-In-Memory, PIM)架構因兼具計算密度、能效和精度優勢成為主流方案。隨著
    的頭像 發表于 07-11 15:11 ?118次閱讀
    緩解高性能<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>芯片IR-drop問題的軟硬件協同設計

    國際首創新突破!中國團隊以一體排序架構攻克智能硬件加速難題

    2025 年 6 月 25 日,北京大學團隊在智能計算硬件方面取得領先突破,國際上首次實現了基于一體技術的高效排序硬件架構 (A fast and reconfigurable
    的頭像 發表于 07-02 16:50 ?197次閱讀
    國際首創新突破!中國團隊以<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>排序架構攻克智能硬件加速難題

    蘋芯科技 N300 一體 NPU,開啟端側 AI 新征程

    隨著端側人工智能技術的爆發式增長,智能設備對本地力與能效的需求日益提高。而傳統馮·諾依曼架構在數據處理效率上存在瓶頸,“內存墻”問題成為制約端側AI性能突破的關鍵掣肘。在這背景下,
    的頭像 發表于 05-06 17:01 ?449次閱讀
    蘋芯科技 N300 <b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b> NPU,開啟端側 AI 新征程

    濟南市中區一體化智中心上線DeepSeek

    濟南市中未來產業發展有限公司(簡稱“市中產發”)聯合華為、北京昇騰和清昴智能基于市中區一體化智中心(國家大學科技園節點)昇騰力部署D
    的頭像 發表于 02-19 10:38 ?701次閱讀

    梯度科技推出DeepSeek智一體

    近日,梯度科技搭載DeepSeek大模型的智一體機正式發布。該產品基于“國產服務器+國產GPU+自主算法”核心架構,搭載梯度科技人工智能應用開發平臺,形成了軟硬一體解決方案。
    的頭像 發表于 02-17 09:53 ?806次閱讀

    澎峰科技發布DeepSeek智一體

    人工智能普惠化迎來里程碑式突破!澎峰科技發布業內“首款”萬元級別DeepSeek智一體機,本地運行671B滿血模型。
    的頭像 發表于 02-15 16:29 ?1502次閱讀

    一體行業2024年回顧與2025年展望

    2024年,大模型技術的迅猛發展成為人工智能領域的核心驅動力,其對硬件力和存儲效率的極致需求,促使一體
    的頭像 發表于 01-23 11:24 ?1062次閱讀

    于芯 · 智啟未來 — 2024蘋芯科技產品發布會盛大召開

    8月8日,國際領先的一體芯片開拓者——蘋芯科技在北京召開“于芯智啟未來——2024蘋芯科技產品發布會”,集中推出兩款革命性產品:PI
    的頭像 發表于 12-18 15:31 ?1596次閱讀
    <b class='flag-5'>存</b><b class='flag-5'>算</b>于芯 · 智啟未來 — 2024蘋芯科技產品發布會盛大召開

    開源芯片系列講座第24期:基于SRAM的高效計算架構

    種先進的計算架構技術,以克服傳統馮諾依曼架構中計算單元與存儲單元分離導致的“內存墻”問題。基于SRAM的一體技術在智能計算中具有高能效、
    的頭像 發表于 11-27 01:05 ?846次閱讀
    開源芯片系列講座第24期:基于SRAM<b class='flag-5'>存</b><b class='flag-5'>算</b>的高效計算架構

    直播預約 |開源芯片系列講座第24期:SRAM一體:賦能高能效RISC-V計算

    RISC-V計算報告簡介一體種先進的計算架構技術,以克服傳統馮諾依曼架構中計算單元與存儲單元分離導致的“內存墻”問題。北京大學集成電
    的頭像 發表于 11-16 01:10 ?705次閱讀
    直播預約 |開源芯片系列講座第24期:SRAM<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>:賦能高能效RISC-V計算

    一體化與邊緣計算:重新定義智能計算的未來

    隨著數據量爆炸式增長和智能化應用的普及,計算與存儲的高效整合逐漸成為科技行業關注的重點。數據存儲和處理需求的快速增長推動了對計算架構的重新設計,“一體化”技術應運而生。同時,隨著物
    的頭像 發表于 11-12 01:05 ?819次閱讀
    <b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>化與邊緣計算:重新定義智能計算的未來

    一體架構創新助力國產大力AI芯片騰飛

    在灣芯展SEMiBAY2024《AI芯片與高性能計算(HPC)應用論壇》上,億鑄科技高級副總裁徐芳發表了題為《一體架構創新助力國產大力AI芯片騰飛》的演講。
    的頭像 發表于 10-23 14:48 ?858次閱讀

    科技新突破:首款支持多模態一體AI芯片成功問世

    一體介質,通過存儲單元和計算單元的深度融合,采用22nm成熟工藝制程,有效把控制造成本。與傳統架構下的AI芯片相比,該款芯片在力、能效比,功耗等方面都具有明顯的優勢。芯片采用AI
    發表于 09-26 13:51 ?665次閱讀
    科技新突破:首款支持多模態<b class='flag-5'>存</b><b class='flag-5'>算</b><b class='flag-5'>一體</b>AI芯片成功問世

    后摩智能首款一體智駕芯片獲評突出創新產品獎

    近日,2024年6月29日,由深圳市汽車電子行業協會主辦的「第十三屆國際汽車電子產業峰會暨2023年度汽車電子科學技術獎頒獎典禮」在深圳寶安隆重舉行。后摩智能首款一體智駕芯片——后
    的頭像 發表于 09-24 16:51 ?893次閱讀

    蘋芯科技引領存一體技術革新 PIMCHIP系列芯片重塑AI計算新格局

    智能芯片國產化再傳利好,8月8日,國際領先的一體芯片開拓者——蘋芯科技在北京召開 “于芯 智啟未來——2024 蘋芯科技產品發布會”
    發表于 08-08 17:21 ?399次閱讀
    蘋芯科技引領存<b class='flag-5'>算</b><b class='flag-5'>一體</b><b class='flag-5'>技術</b>革新   PIMCHIP系列芯片重塑AI計算新格局