女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

國(guó)家科學(xué)評(píng)論 (NSR) 刊發(fā)社論:大語(yǔ)言模型和類腦通用智能

機(jī)器人技術(shù)與應(yīng)用 ? 來(lái)源:中國(guó)科學(xué)院自動(dòng)化研究所 ? 2023-11-16 10:59 ? 次閱讀

近日,中國(guó)科學(xué)院自動(dòng)化研究所徐波研究員和中國(guó)科學(xué)院腦科學(xué)與智能技術(shù)卓越創(chuàng)新中心蒲慕明院士在《國(guó)家科學(xué)評(píng)論》(NSR)上發(fā)表社論,就以促進(jìn)更加綠色的類腦通用人工智能為目標(biāo),評(píng)述如何發(fā)展腦啟發(fā)的類腦神經(jīng)網(wǎng)絡(luò)架構(gòu)、類腦學(xué)習(xí)算法及基于脈沖編碼的類腦計(jì)算軟硬件等。

ed34a2fe-839b-11ee-939d-92fbcf53809c.png

《國(guó)家科學(xué)評(píng)論》刊發(fā)社論

大語(yǔ)言模型(LLM)的出現(xiàn)以及它們?cè)谏扇蝿?wù)中的驚人表現(xiàn)預(yù)示著通用人工智能(AGI)新時(shí)代的開始。在很大程度上,它們已經(jīng)通過(guò)了經(jīng)典的圖靈測(cè)試。

通過(guò)與機(jī)器人結(jié)合,大模型將進(jìn)一步發(fā)展出更強(qiáng)大的具身智能。基于大語(yǔ)言模型的各種科學(xué)、教育和商業(yè)應(yīng)用正激發(fā)人們對(duì)未來(lái)人工智能的無(wú)限遐想。然而,大語(yǔ)言模型存在著大量的連接參數(shù),它們?cè)谟?xùn)練和推理階段的計(jì)算調(diào)整和并行推理往往消耗了巨大的算力成本,這個(gè)問(wèn)題將限制大語(yǔ)言模型作為社會(huì)基礎(chǔ)設(shè)施的廣泛應(yīng)用。

發(fā)展受腦啟發(fā)的類腦通用智能研究是解決現(xiàn)有問(wèn)題的一種有效途徑。人類大腦是進(jìn)化過(guò)程賦予的一種高效生物神經(jīng)網(wǎng)絡(luò),包含多樣的細(xì)胞類型和連接模式,且在人類出生后的腦發(fā)育過(guò)程中通過(guò)與環(huán)境交互進(jìn)一步完善并形成高效的連接模式。即使我們不能像圖靈曾經(jīng)提出的那樣制造一個(gè)“兒童機(jī)器”(Child Machine),通用人工智能也仍然可以從兩個(gè)方面向成熟的大腦學(xué)習(xí),即神經(jīng)網(wǎng)絡(luò)架構(gòu)和類腦學(xué)習(xí)算法。

過(guò)去的人工神經(jīng)網(wǎng)絡(luò)在一定程度上受到了生物腦網(wǎng)絡(luò)的啟發(fā),例如分層和模塊化的網(wǎng)絡(luò)結(jié)構(gòu),以及可調(diào)權(quán)重的突觸連接。然而,大腦網(wǎng)絡(luò)實(shí)現(xiàn)高效運(yùn)轉(zhuǎn)不僅僅是更多神經(jīng)元和突觸的堆疊,更重要的是不同神經(jīng)元類型以及功能模塊之間的選擇性連接。大腦網(wǎng)絡(luò)從局部模式到全局拓?fù)湟呀?jīng)啟發(fā)了當(dāng)今人工智能中的卷積、循環(huán)及多類Transformer等強(qiáng)大神經(jīng)算子。當(dāng)前,全腦空間轉(zhuǎn)錄組(用于識(shí)別不同的神經(jīng)元亞型)和介觀連接組(用于定義特定細(xì)胞類型的連接)的研究,為進(jìn)一步設(shè)計(jì)更有效的大語(yǔ)言模型網(wǎng)絡(luò)架構(gòu)提供了更多的生物依據(jù)。

突觸連接往往通過(guò)短時(shí)和長(zhǎng)時(shí)的突觸可塑性機(jī)制進(jìn)行神經(jīng)活動(dòng)的局部調(diào)節(jié)。全局神經(jīng)調(diào)質(zhì)可以在許多突觸上發(fā)揮作用,以改變局部突觸可塑性的能力和特性。類腦學(xué)習(xí)算法利用大腦發(fā)現(xiàn)的多尺度、多形式的突觸可塑性,如時(shí)序依賴突觸可塑性、自組織可塑性傳播、神經(jīng)調(diào)制元可塑性等,來(lái)決定網(wǎng)絡(luò)突觸權(quán)重的動(dòng)態(tài)變化。類腦學(xué)習(xí)算法也可以通過(guò)梯度下降方法與可塑性學(xué)習(xí)規(guī)則相結(jié)合,使得在沿用反向傳播核心原理同時(shí),解決很多高效計(jì)算問(wèn)題。開發(fā)用于大模型權(quán)重學(xué)習(xí)的新算法需要神經(jīng)科學(xué)和人工智能之間的深度融合。

同步開發(fā)新的網(wǎng)絡(luò)架構(gòu)和學(xué)習(xí)算法將發(fā)展出新形式的類腦計(jì)算(BIC),即在神經(jīng)形態(tài)芯片上實(shí)現(xiàn)生物啟發(fā)的脈沖神經(jīng)網(wǎng)絡(luò)算法(SNN)。在網(wǎng)絡(luò)和算法層面,SNN使用具有豐富動(dòng)力學(xué)和脈沖模式的生物神經(jīng)元作為基本計(jì)算單元,可以更容易地采用多尺度突觸可塑性進(jìn)行優(yōu)化。在硬件層面,神經(jīng)形態(tài)芯片需要新一代的非馮·諾依曼計(jì)算架構(gòu),通過(guò)借鑒大腦的事件驅(qū)動(dòng)稀疏計(jì)算、高度并行運(yùn)算以及存內(nèi)計(jì)算來(lái)降低硬件功耗成本。類腦計(jì)算的一個(gè)充滿吸引力的特質(zhì)是,在執(zhí)行推理時(shí),只有一小部分脈沖神經(jīng)元被激活以參與稀疏加法運(yùn)算。這種稀疏計(jì)算非常適合降低大型人工智能模型的訓(xùn)練和推理成本。

社論認(rèn)為, 除了開發(fā)綠色和可持續(xù)的低功耗人工智能這個(gè)緊迫問(wèn)題,人們也越來(lái)越擔(dān)心未來(lái)通用人工智能的發(fā)展可能會(huì)以有害的方式對(duì)人類社會(huì)產(chǎn)生重大影響。考慮到存在著政治、社會(huì)和文化差異,實(shí)現(xiàn)有效的人工智能全球治理不是一個(gè)容易實(shí)現(xiàn)的目標(biāo),但卻是人類生存必需邁出的一步。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 神經(jīng)網(wǎng)絡(luò)

    關(guān)注

    42

    文章

    4808

    瀏覽量

    102797
  • 人工智能
    +關(guān)注

    關(guān)注

    1804

    文章

    48723

    瀏覽量

    246558
  • 語(yǔ)言模型
    +關(guān)注

    關(guān)注

    0

    文章

    558

    瀏覽量

    10674

原文標(biāo)題:國(guó)家科學(xué)評(píng)論 (NSR) 刊發(fā)社論:大語(yǔ)言模型和類腦通用智能

文章出處:【微信號(hào):robotmagazine,微信公眾號(hào):機(jī)器人技術(shù)與應(yīng)用】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    時(shí)識(shí)科技首批入選智能產(chǎn)業(yè)創(chuàng)新發(fā)展聯(lián)盟

    近日,由中國(guó)信息通信研究院牽頭發(fā)起,上海智能產(chǎn)業(yè)三箭齊發(fā)——產(chǎn)業(yè)創(chuàng)新發(fā)展聯(lián)盟成立、未來(lái)產(chǎn)業(yè)基金矩陣發(fā)布、未來(lái)產(chǎn)業(yè)集聚區(qū)啟動(dòng)建設(shè),昭示著我國(guó)
    的頭像 發(fā)表于 04-23 09:57 ?265次閱讀

    靈汐科技開源深度學(xué)習(xí)應(yīng)用開發(fā)平臺(tái)BIDL

    近年來(lái),計(jì)算作為人工智能領(lǐng)域的重要方向,以其低功耗、高效率、高容錯(cuò)性等優(yōu)勢(shì),展現(xiàn)出巨大的發(fā)展?jié)摿ΑH欢?b class='flag-5'>類計(jì)算開發(fā)門檻高、與傳統(tǒng)人工神
    的頭像 發(fā)表于 03-05 09:13 ?735次閱讀
    靈汐科技開源<b class='flag-5'>類</b><b class='flag-5'>腦</b>深度學(xué)習(xí)應(yīng)用開發(fā)平臺(tái)BIDL

    SynSense時(shí)識(shí)科技亮相CES,展現(xiàn)智能“芯”實(shí)力

    近日,在萬(wàn)眾矚目的CES展會(huì)上,SynSense時(shí)識(shí)科技及其旗下iniVation作為全球領(lǐng)先的智能企業(yè),榮耀登臺(tái),向全球觀眾展示了其卓越的“芯”實(shí)力。 此次參展,SynSense時(shí)識(shí)科技帶來(lái)
    的頭像 發(fā)表于 01-13 15:37 ?570次閱讀

    語(yǔ)言模型開發(fā)語(yǔ)言是什么

    在人工智能領(lǐng)域,大語(yǔ)言模型(Large Language Models, LLMs)背后,離不開高效的開發(fā)語(yǔ)言和工具的支持。下面,AI部落小編為您介紹大
    的頭像 發(fā)表于 12-04 11:44 ?597次閱讀

    玻色量子亮相2024年《國(guó)家科學(xué)評(píng)論》物理與信息科學(xué)前沿論壇

    此前,2024年11月22至24日,由《中國(guó)科學(xué)》雜志社、南方科技大學(xué)、鵬城實(shí)驗(yàn)室主辦,南方科技大學(xué)物理系、計(jì)算機(jī)科學(xué)與工程系承辦,粵港澳大灣區(qū)(廣東)量子科學(xué)中心協(xié)辦的2024年《國(guó)家科學(xué)
    的頭像 發(fā)表于 11-28 09:48 ?584次閱讀

    宇通榮獲2023年度國(guó)家科學(xué)技術(shù)進(jìn)步獎(jiǎng)二等獎(jiǎng)

    全國(guó)科技大會(huì)、國(guó)家科學(xué)技術(shù)獎(jiǎng)勵(lì)大會(huì)、兩院院士大會(huì)在北京人民大會(huì)堂隆重召開。2023年度國(guó)家最高科學(xué)技術(shù)獎(jiǎng)、自然科學(xué)獎(jiǎng)、技術(shù)發(fā)明獎(jiǎng)、科技進(jìn)步獎(jiǎng)和國(guó)際
    的頭像 發(fā)表于 10-15 09:55 ?837次閱讀

    易華錄榮獲國(guó)家科學(xué)技術(shù)進(jìn)步獎(jiǎng)二等獎(jiǎng)

    日前,全國(guó)科技大會(huì)、國(guó)家科學(xué)技術(shù)獎(jiǎng)勵(lì)大會(huì)、兩院院士大會(huì)在京召開,由中國(guó)電科牽頭研制、參與研制的17個(gè)項(xiàng)目分別獲得“國(guó)家科學(xué)技術(shù)進(jìn)步獎(jiǎng)”“國(guó)家技術(shù)發(fā)明獎(jiǎng)”一、二等獎(jiǎng)。
    的頭像 發(fā)表于 08-29 18:01 ?1120次閱讀

    中車株洲電機(jī)榮獲2023年度國(guó)家科學(xué)技術(shù)進(jìn)步獎(jiǎng)二等獎(jiǎng)

    日前,全國(guó)科技大會(huì)、國(guó)家科學(xué)技術(shù)獎(jiǎng)勵(lì)大會(huì)、兩院院士大會(huì)在京召開。2023年度國(guó)家科學(xué)技術(shù)獎(jiǎng)各獎(jiǎng)種獲獎(jiǎng)名單公布,中車株洲電機(jī)公司參與研發(fā)的“超大容量風(fēng)電能量轉(zhuǎn)換系統(tǒng)的高性能服役關(guān)鍵技術(shù)及應(yīng)用”項(xiàng)目榮獲國(guó)家科學(xué)技術(shù)進(jìn)步獎(jiǎng)二等獎(jiǎng)。
    的頭像 發(fā)表于 08-16 09:32 ?777次閱讀

    SynSense時(shí)識(shí)科技收購(gòu)瑞士視覺(jué)傳感器公司iniVation 100%股權(quán)

    SynSense時(shí)識(shí)科技今日宣布成功收購(gòu)瑞士視覺(jué)傳感器公司iniVation 100%股權(quán)。隨著交割完成,SynSense時(shí)識(shí)科技成為全球首個(gè)同時(shí)擁有
    的頭像 發(fā)表于 07-19 18:09 ?1871次閱讀

    SynSense時(shí)識(shí)科技成功收購(gòu)瑞士視覺(jué)傳感器公司iniVation,智能航母蓄勢(shì)待發(fā)

    SynSense時(shí)識(shí)科技今日宣布 成功收購(gòu)瑞士視覺(jué)傳感器公司iniVation 100%股權(quán) 。隨著交割完成,SynSense時(shí)識(shí)科技成為全球首個(gè)同時(shí)擁有
    發(fā)表于 07-19 18:00 ?704次閱讀
    SynSense時(shí)識(shí)科技成功收購(gòu)瑞士<b class='flag-5'>類</b><b class='flag-5'>腦</b>視覺(jué)傳感器公司iniVation,<b class='flag-5'>類</b><b class='flag-5'>腦</b><b class='flag-5'>智能</b>航母蓄勢(shì)待發(fā)

    語(yǔ)言模型的預(yù)訓(xùn)練

    隨著人工智能技術(shù)的飛速發(fā)展,自然語(yǔ)言處理(NLP)作為人工智能領(lǐng)域的一個(gè)重要分支,取得了顯著的進(jìn)步。其中,大語(yǔ)言模型(Large Langu
    的頭像 發(fā)表于 07-11 10:11 ?893次閱讀

    湖北億緯動(dòng)力榮獲2023年度國(guó)家科學(xué)技術(shù)進(jìn)步獎(jiǎng)二等獎(jiǎng)

    6月24日,2023年度國(guó)家科學(xué)技術(shù)獎(jiǎng)在首都人民大會(huì)堂揭曉,由湖北億緯動(dòng)力有限公司參與完成的科研項(xiàng)目《大容量鋰離子電池精準(zhǔn)制造核心技術(shù)與裝備》榮獲國(guó)家科學(xué)技術(shù)進(jìn)步二等獎(jiǎng)。億緯鋰能動(dòng)力電池研究院院長(zhǎng)何巍博士作為項(xiàng)目參與人出席了頒獎(jiǎng)儀式。
    的頭像 發(fā)表于 07-05 11:36 ?957次閱讀

    比亞迪榮獲2023年度國(guó)家科學(xué)技術(shù)進(jìn)步獎(jiǎng)二等獎(jiǎng)

    時(shí)隔三年,備受關(guān)注的2023年度國(guó)家科學(xué)技術(shù)進(jìn)步獎(jiǎng)?lì)C獎(jiǎng)盛典,于6月24日上午在首都人民大會(huì)堂舉行。由比亞迪股份有限公司牽頭完成的《新一代電動(dòng)汽車關(guān)鍵部件及整車平臺(tái)自主研發(fā)與大規(guī)模產(chǎn)業(yè)化》項(xiàng)目榮獲國(guó)家科學(xué)技術(shù)進(jìn)步獎(jiǎng)二等獎(jiǎng),這也是比亞迪第二次作為第一完成單位獲得
    的頭像 發(fā)表于 06-26 11:24 ?884次閱讀

    科大訊飛榮獲2023年度國(guó)家科學(xué)技術(shù)進(jìn)步獎(jiǎng)一等獎(jiǎng)

    近日,2023年度國(guó)家科學(xué)技術(shù)獎(jiǎng)?wù)浇視裕拼笥嶏w憑借其杰出的科研成果——《多語(yǔ)種智能語(yǔ)音關(guān)鍵技術(shù)及產(chǎn)業(yè)化》項(xiàng)目,榮獲國(guó)家科學(xué)技術(shù)進(jìn)步獎(jiǎng)一等獎(jiǎng)。這一榮譽(yù)不僅標(biāo)志著科大訊飛在人工智能領(lǐng)域
    的頭像 發(fā)表于 06-26 10:36 ?955次閱讀

    基于FPGA的計(jì)算平臺(tái) —PYNQ 集群的無(wú)監(jiān)督圖像識(shí)別計(jì)算系統(tǒng)

    硬件平臺(tái) 第一部分 設(shè)計(jì)概述 基金項(xiàng)目:國(guó)家自然科學(xué)基金“基于工作負(fù)載表征的體系結(jié)構(gòu)基準(zhǔn)測(cè)試模型與自動(dòng)映射方法研究”(6
    發(fā)表于 06-25 18:35