女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀(guān)看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

清華光芯片取得新突破,邁向AI光訓(xùn)練

Felix分析 ? 來(lái)源:電子發(fā)燒友 ? 作者:吳子鵬 ? 2024-08-13 01:23 ? 次閱讀

電子發(fā)燒友網(wǎng)報(bào)道(文/吳子鵬)近日,清華大學(xué)發(fā)布官方消息稱(chēng),清華大學(xué)電子工程系方璐教授課題組、自動(dòng)化系戴瓊海院士課題組另辟蹊徑,首創(chuàng)了全前向智能光計(jì)算訓(xùn)練架構(gòu),研制了“太極-II”光訓(xùn)練芯片,實(shí)現(xiàn)了光計(jì)算系統(tǒng)大規(guī)模神經(jīng)網(wǎng)絡(luò)的高效精準(zhǔn)訓(xùn)練。

目前,這一研究成果已經(jīng)于北京時(shí)間8月7日正式刊登在《自然》期刊上,主題為“光神經(jīng)網(wǎng)絡(luò)全前向訓(xùn)練”。

“太極”光訓(xùn)練芯片快速進(jìn)化

去年10月,清華大學(xué)就發(fā)布消息稱(chēng),方璐教授課題組、戴瓊海院士課題組聯(lián)合攻關(guān),提出了一種“掙脫”摩爾定律的全新計(jì)算架構(gòu):光電模擬芯片,算力達(dá)到目前高性能商用芯片的三千余倍。

2023年10月26日,清華大學(xué)光電模擬芯片的研究成果發(fā)布在《自然》期刊上,這篇論文幫助大家科普了光電模擬芯片的理念和實(shí)現(xiàn)方式。根據(jù)論文,這是一種光電深度融合的計(jì)算框架,結(jié)合了基于電磁波空間傳播的光計(jì)算,與基于基爾霍夫定律的純模擬電子計(jì)算。在芯片制程上,該芯片不再受限于摩爾定律;在數(shù)據(jù)傳輸上,該芯片用光傳輸取代了電信號(hào)傳輸,打破了傳統(tǒng)芯片架構(gòu)中數(shù)據(jù)轉(zhuǎn)換速度、精度與功耗相互制約的物理瓶頸。

今年4月份,這項(xiàng)研究正式推出了“太極”芯片,可實(shí)現(xiàn)160TOPS/W的系統(tǒng)級(jí)能效。論文第一作者、清華大學(xué)電子系博士生徐智昊表示,“太極”芯片采用的是干涉—衍射分布式廣度光計(jì)算架構(gòu),自頂向下的編碼拆分-解碼重構(gòu)機(jī)制,將復(fù)雜智能任務(wù)化繁為簡(jiǎn),拆分為多通道高并行的子任務(wù),構(gòu)建的分布式‘大感受野’淺層光網(wǎng)絡(luò)對(duì)子任務(wù)分而治之,突破物理模擬器件多層深度級(jí)聯(lián)的固有計(jì)算誤差。

從“太極”芯片到“太極-II”芯片,只有不到半年的時(shí)間,但是其中的進(jìn)步是非常明顯的。根據(jù)論文信息,“太極”芯片依然依賴(lài)傳統(tǒng)的光通信架構(gòu),需要GPU進(jìn)行離線(xiàn)建模,要求高度匹配的前向-反向傳播模型,也就需要物理系統(tǒng)精準(zhǔn)對(duì)齊,“太極-II”芯片不再依賴(lài)電計(jì)算進(jìn)行離線(xiàn)的建模與訓(xùn)練,大規(guī)模神經(jīng)網(wǎng)絡(luò)的精準(zhǔn)高效光訓(xùn)練終于得以實(shí)現(xiàn)。

據(jù)介紹,“太極-Ⅱ”芯片的面世,填補(bǔ)了智能光計(jì)算在大規(guī)模神經(jīng)網(wǎng)絡(luò)訓(xùn)練這一核心領(lǐng)域的空白。除了加速AI模型訓(xùn)練外,其還在高性能智能成像、高效解析拓?fù)涔庾酉到y(tǒng)等方面表現(xiàn)出卓越性能,為人工智能大模型、通用人工智能、復(fù)雜智能系統(tǒng)的高效精準(zhǔn)訓(xùn)練開(kāi)辟了新路徑。

更進(jìn)一步說(shuō),“太極-Ⅱ”芯片的發(fā)布對(duì)“光子傳播對(duì)稱(chēng)性”研究有重要意義,將神經(jīng)網(wǎng)絡(luò)訓(xùn)練中的前向與反向傳播都等效為光的前向傳播。據(jù)論文第一作者、電子系博士生薛智威介紹,在太極-II架構(gòu)下,梯度下降中的反向傳播化為了光學(xué)系統(tǒng)的前向傳播,光學(xué)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練利用數(shù)據(jù)-誤差兩次前向傳播即可實(shí)現(xiàn)。兩次前向傳播具備天然的對(duì)齊特性,保障了物理梯度的精確計(jì)算。如此實(shí)現(xiàn)的訓(xùn)練精度高,便能夠支撐大規(guī)模的網(wǎng)絡(luò)訓(xùn)練。

芯片制造上,“太極”芯片光學(xué)部分的加工最小線(xiàn)寬僅采用百納米級(jí),電路部分僅采用180nm CMOS工藝,已取得比7nm制程的高性能芯片多個(gè)數(shù)量級(jí)的性能提升。芯片成本僅為目前先進(jìn)計(jì)算芯片的幾十分之一,這是一種真正的芯片換道超車(chē)。

光芯片是計(jì)算芯片的未來(lái)?

曾幾何時(shí),摩爾定律被譽(yù)為“硅谷的節(jié)拍器”,但近年來(lái)業(yè)界關(guān)于“摩爾定律是否失效”的討論越來(lái)越多。尤其是在AI時(shí)代,算力需求的爆發(fā)式增長(zhǎng)讓摩爾定律正在失效的影響被進(jìn)一步放大。在過(guò)去的幾十年中,摩爾定律一直被認(rèn)為是計(jì)算機(jī)行業(yè)的基石之一,當(dāng)其失效之后,會(huì)有更多的創(chuàng)新技術(shù)來(lái)引領(lǐng)高性能計(jì)算的發(fā)展,比如芯片制造層面的先進(jìn)封裝,再比如量子計(jì)算、光計(jì)算等。

在AI時(shí)代的未來(lái)里,光芯片被寄予厚望。微電子芯片采用電流信號(hào)來(lái)作為信息的載體,而光芯片則采用頻率更高的光波來(lái)作為信息載體,具有更低的傳輸損耗 、更寬的傳輸帶寬、更小的時(shí)間延遲,以及更強(qiáng)的抗電磁干擾能力。

光芯片的核心是用波導(dǎo)來(lái)代替電芯片的銅導(dǎo)線(xiàn),來(lái)做芯片和板卡上的信號(hào)傳輸,因此光芯片主要由發(fā)光器件(產(chǎn)生光)和光波導(dǎo)(引導(dǎo)光傳播的裝置)組成。當(dāng)光在波導(dǎo)里面?zhèn)鬏數(shù)臅r(shí)候,波導(dǎo)和波導(dǎo)之間出現(xiàn)光信號(hào)干涉,用這個(gè)物理過(guò)程來(lái)模擬線(xiàn)性計(jì)算這一類(lèi)的計(jì)算過(guò)程,即通過(guò)光在傳播和相互作用之中的信息變化來(lái)進(jìn)行計(jì)算。

光芯片的發(fā)展并不是完全革新微電子芯片的技術(shù)路徑,而是一種融合,因此光電轉(zhuǎn)化也很關(guān)鍵。在電轉(zhuǎn)光部分,激光器芯片主要用于發(fā)射信號(hào),原理是以電激勵(lì)源方式,以半導(dǎo)體材料為增益介質(zhì),將注入電流的電能激發(fā),通過(guò)光學(xué)諧振放大選模,從而輸出激光,實(shí)現(xiàn)電光轉(zhuǎn)換。激光器芯片用到的增益介質(zhì)包括GaAs(砷化鎵)、InP(磷化銦)、Si(硅基)等。在光轉(zhuǎn)電部分,探測(cè)器通過(guò)光電效應(yīng)識(shí)別光信號(hào),轉(zhuǎn)化為電信號(hào)。

光芯片的生產(chǎn)流程基本可以分為芯片設(shè)計(jì)、基板制造、磊晶成長(zhǎng)和晶粒制造四個(gè)流程,主要技術(shù)壁壘在后兩點(diǎn),其中磊晶成長(zhǎng)也稱(chēng)外延生長(zhǎng),是技術(shù)壁壘最高的環(huán)節(jié)。因此,與微電子芯片側(cè)重于光刻工藝追求先進(jìn)制程不同,光芯片性能的提升不完全依靠尺寸的減小,更注重外延結(jié)構(gòu)設(shè)計(jì)與生長(zhǎng)。

在光芯片的研發(fā)上,國(guó)內(nèi)除了清華大學(xué),中科院的進(jìn)展也是非常快的。比如,去年6月中國(guó)科學(xué)院半導(dǎo)體研究所集成光電子學(xué)國(guó)家重點(diǎn)實(shí)驗(yàn)室微波光電子課題組李明研究員-祝寧華院士團(tuán)隊(duì)研制出一款超高集成度光學(xué)卷積處理器,實(shí)現(xiàn)了“傳輸即計(jì)算,結(jié)構(gòu)即功能”的計(jì)算架構(gòu),具有大帶寬、低延時(shí)、低功耗等優(yōu)點(diǎn)。

目前,國(guó)內(nèi)的光芯片和光模塊廠(chǎng)商包括芯思杰、瑞識(shí)科技、新亮智能、度亙激光、長(zhǎng)瑞光電、立芯光電、源杰半導(dǎo)體、銳晶激光、索爾思光電、長(zhǎng)光華芯、華工科技、光迅科技、新易盛、云嶺光電、敏芯半導(dǎo)體、博創(chuàng)科技、中際旭創(chuàng)、縱慧芯光、曦智科技、劍橋科技、凌越光電、盛為芯等。這些企業(yè)主要關(guān)注數(shù)通市場(chǎng),應(yīng)用領(lǐng)域包括5G和數(shù)據(jù)中心光通信等。

不過(guò),在數(shù)通市場(chǎng)的企業(yè)端,目前國(guó)內(nèi)也還處于落后的位置,高端光器件的國(guó)產(chǎn)化率還比較低,比如25G及以上的光芯片,?國(guó)產(chǎn)化率就比較低,其中25G光芯片的國(guó)產(chǎn)化率為20%,更高速率的國(guó)產(chǎn)化率僅為5%。在25G及以上的光模塊里,光芯片的成本占比超過(guò)了60%,且速率越高占比越高,可見(jiàn)光芯片的重要性。

在光計(jì)算芯片方面,國(guó)內(nèi)光計(jì)算芯片公司光本位科技已完成首顆算力密度和算力精度均達(dá)到商用標(biāo)準(zhǔn)的光計(jì)算芯片流片,峰值算力為1700TOPS,對(duì)標(biāo)的是英偉達(dá)的A100,產(chǎn)業(yè)落地也在破曉之際。

結(jié)語(yǔ)

根據(jù)LightCounting的數(shù)據(jù)測(cè)算,全球光芯片市場(chǎng)規(guī)模將從2022年的27億美元增長(zhǎng)至2027年的56億美元,CAGR為16%。其中絕大部分的光芯片仍然主要用于數(shù)據(jù)傳輸,在計(jì)算層面光芯片還在起步階段,但概念探索和成果落地的速度非常快,國(guó)內(nèi)清華大學(xué)和中科院更是捷報(bào)頻傳,有望實(shí)現(xiàn)國(guó)產(chǎn)高性能計(jì)算芯片的換道超車(chē)。?

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀(guān)點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 光芯片
    +關(guān)注

    關(guān)注

    3

    文章

    97

    瀏覽量

    11105
收藏 人收藏

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    海思SD3403邊緣計(jì)算AI數(shù)據(jù)訓(xùn)練概述

    AI數(shù)據(jù)訓(xùn)練:基于用戶(hù)特定應(yīng)用場(chǎng)景,用戶(hù)采集照片或視頻,通過(guò)AI數(shù)據(jù)訓(xùn)練工程師**(用戶(hù)公司****員工)** ,進(jìn)行特征標(biāo)定后,將標(biāo)定好的訓(xùn)練
    發(fā)表于 04-28 11:11

    RAKsmart智能算力架構(gòu):異構(gòu)計(jì)算+低時(shí)延網(wǎng)絡(luò)驅(qū)動(dòng)企業(yè)AI訓(xùn)練范式升級(jí)

    AI大模型參數(shù)量突破萬(wàn)億、多模態(tài)應(yīng)用爆發(fā)的今天,企業(yè)AI訓(xùn)練正面臨算力效率與成本的雙重挑戰(zhàn)。RAKsmart推出的智能算力架構(gòu),以異構(gòu)計(jì)算資源池化與超低時(shí)延網(wǎng)絡(luò)為核心,重構(gòu)
    的頭像 發(fā)表于 04-17 09:29 ?235次閱讀

    DeepSeek推動(dòng)AI算力需求:800G模塊的關(guān)鍵作用

    力集群的部署過(guò)程中,帶寬瓶頸成為制約算力發(fā)揮的關(guān)鍵因素,而光模塊的速率躍升成為突破這一瓶頸的核心驅(qū)動(dòng)力。 模塊速率躍升 隨著算力集群的規(guī)模不斷擴(kuò)展,AI應(yīng)用所需的帶寬要求也在急劇上升。傳統(tǒng)
    發(fā)表于 03-25 12:00

    訓(xùn)練好的ai模型導(dǎo)入cubemx不成功怎么處理?

    訓(xùn)練好的ai模型導(dǎo)入cubemx不成功咋辦,試了好幾個(gè)模型壓縮了也不行,ram占用過(guò)大,有無(wú)解決方案?
    發(fā)表于 03-11 07:18

    國(guó)內(nèi)AI行業(yè)近期取得顯著進(jìn)展

    近期,國(guó)內(nèi)AI行業(yè)在視覺(jué)訓(xùn)練和應(yīng)用層面取得了多項(xiàng)令人矚目的進(jìn)展。其中,VideoWorld的純視覺(jué)訓(xùn)練方式在LDM(可能是指某種特定技術(shù)或模型,原文未明確)的加持下,展現(xiàn)出了卓越的
    的頭像 發(fā)表于 02-13 11:25 ?463次閱讀

    Figure AI宣布終止與OpenAI合作,稱(chēng)已在AI方面取得重大突破

    人工智能領(lǐng)域取得了“重大突破”。該公司聲稱(chēng),這一突破完全是在其內(nèi)部獨(dú)立開(kāi)發(fā)的,無(wú)需依賴(lài)外部合作伙伴。這一成就不僅展示了Figure AI在技術(shù)研發(fā)方面的強(qiáng)大實(shí)力,也為其未來(lái)的發(fā)展奠定了
    的頭像 發(fā)表于 02-06 14:08 ?414次閱讀

    激光芯片企業(yè)華光光電《追者》獲評(píng)2024年度山東省黨員教育電視片“優(yōu)秀作品”

    日前,由山東省委組織部組織開(kāi)展的2024年度全省黨員教育電視片(黨課)觀(guān)摩交流活動(dòng)結(jié)果公布,由華光光電拍攝制作、浪潮集團(tuán)報(bào)送的“我和我的支部”主題作品《追者》入選獲獎(jiǎng)名單,被評(píng)為“我和我的支部
    的頭像 發(fā)表于 12-26 18:29 ?503次閱讀

    GPU是如何訓(xùn)練AI大模型的

    AI模型的訓(xùn)練過(guò)程中,大量的計(jì)算工作集中在矩陣乘法、向量加法和激活函數(shù)等運(yùn)算上。這些運(yùn)算正是GPU所擅長(zhǎng)的。接下來(lái),AI部落小編帶您了解GPU是如何訓(xùn)練
    的頭像 發(fā)表于 12-19 17:54 ?610次閱讀

    亞馬遜轉(zhuǎn)向Trainium芯片,全力投入AI模型訓(xùn)練

    ,亞馬遜AWS推出了兩款芯片:Inferentia和Trainium。其中,Inferentia主要用于AI推理,而Trainium則專(zhuān)注于AI模型的訓(xùn)練。 然而,隨著生成式
    的頭像 發(fā)表于 12-13 14:14 ?560次閱讀

    如何訓(xùn)練自己的AI大模型

    訓(xùn)練自己的AI大模型是一個(gè)復(fù)雜且耗時(shí)的過(guò)程,涉及多個(gè)關(guān)鍵步驟。以下是一個(gè)詳細(xì)的訓(xùn)練流程: 一、明確需求和目標(biāo) 首先,需要明確自己的需求和目標(biāo)。不同的任務(wù)和應(yīng)用領(lǐng)域需要不同類(lèi)型的AI模型
    的頭像 發(fā)表于 10-23 15:07 ?4655次閱讀

    AI訓(xùn)練:清華光芯片研究取得突破

    行業(yè)芯事行業(yè)資訊
    電子發(fā)燒友網(wǎng)官方
    發(fā)布于 :2024年08月12日 10:58:43

    蘋(píng)果承認(rèn)使用谷歌芯片來(lái)訓(xùn)練AI

    蘋(píng)果公司最近在一篇技術(shù)論文中披露,其先進(jìn)的人工智能系統(tǒng)Apple Intelligence背后的兩個(gè)關(guān)鍵AI模型,是在谷歌設(shè)計(jì)的云端芯片上完成預(yù)訓(xùn)練的。這一消息標(biāo)志著在尖端AI
    的頭像 發(fā)表于 07-30 17:03 ?869次閱讀

    AI訓(xùn)練的基本步驟

    AI(人工智能)訓(xùn)練是一個(gè)復(fù)雜且系統(tǒng)的過(guò)程,它涵蓋了從數(shù)據(jù)收集到模型部署的多個(gè)關(guān)鍵步驟。以下是對(duì)AI訓(xùn)練過(guò)程的詳細(xì)闡述,包括每個(gè)步驟的具體內(nèi)容,并附有相關(guān)代碼示例(以Python和sc
    的頭像 發(fā)表于 07-17 16:57 ?4689次閱讀

    世界首款!又是清華:類(lèi)腦互補(bǔ)視覺(jué)芯片“天眸芯”

    近日,清華大學(xué)在類(lèi)腦視覺(jué)感知芯片領(lǐng)域取得重要突破清華大學(xué)依托精密儀器系的類(lèi)腦計(jì)算研究中心施路平教授團(tuán)隊(duì),提出一種基于視覺(jué)原語(yǔ)的互補(bǔ)雙通路類(lèi)
    的頭像 發(fā)表于 06-04 08:36 ?664次閱讀
    世界首款!又是<b class='flag-5'>清華</b>:類(lèi)腦互補(bǔ)視覺(jué)<b class='flag-5'>芯片</b>“天眸芯”

    清華類(lèi)腦視覺(jué)芯片取得重大突破,“天眸芯”登上Nature封面

    電子發(fā)燒友網(wǎng)報(bào)道(文/李寧遠(yuǎn))5月30日,來(lái)自清華大學(xué)類(lèi)腦計(jì)算研究中心團(tuán)隊(duì)的類(lèi)腦互補(bǔ)視覺(jué)芯片“天眸芯”登上了《Nature》封面。 文章名為“A vision chip
    的頭像 發(fā)表于 06-01 00:54 ?5476次閱讀
    <b class='flag-5'>清華</b>類(lèi)腦視覺(jué)<b class='flag-5'>芯片</b><b class='flag-5'>取得</b>重大<b class='flag-5'>突破</b>,“天眸芯”登上Nature封面