近日,多倫多大學(xué)的教員、谷歌大腦(Google Brain)研究員杰弗里·辛頓(Geoffrey Hinton)發(fā)表了爐邊談話。他討論了神經(jīng)網(wǎng)絡(luò)的起源,以及人工智能有朝一日可能像人類一樣推理的可行性和意義。
辛頓被一些人稱為“人工智能教父”,他在過(guò)去30年里一直致力于解決人工智能面臨的一些最大挑戰(zhàn)。除了在機(jī)器學(xué)習(xí)方面的開(kāi)創(chuàng)性工作以外,他還撰寫(xiě)以及與他人合作撰寫(xiě)了200多篇經(jīng)過(guò)同行評(píng)議的論文,其中包括1986年發(fā)表的一篇關(guān)于機(jī)器學(xué)習(xí)技術(shù)(被稱為反向傳播學(xué)習(xí)算法)的論文。
他普及了深度神經(jīng)網(wǎng)絡(luò)的概念,即包含上述功能的人工智能模型,它們被安排在相互連接的層中,傳輸“信號(hào)”并調(diào)整連接的突觸強(qiáng)度(權(quán)重)。通過(guò)這種方式,人工智能模型從輸入數(shù)據(jù)中提取特征,并學(xué)習(xí)做出預(yù)測(cè)。
辛頓坦言,創(chuàng)新的速度甚至讓他自己都感到驚訝。“在2012年,我沒(méi)想到5年以后,我們就能夠使用相同的技術(shù)來(lái)在多種語(yǔ)言之間進(jìn)行翻譯。”
盡管如此,辛頓認(rèn)為目前的人工智能和機(jī)器學(xué)習(xí)方法都有其局限性。他指出,大多數(shù)的計(jì)算機(jī)視覺(jué)模型都沒(méi)有反饋機(jī)制,也就是說(shuō),它們不會(huì)試圖從更高層級(jí)的表征重建數(shù)據(jù)。相反,它們?cè)噲D通過(guò)改變權(quán)重來(lái)有區(qū)別地學(xué)習(xí)特征。“它們并沒(méi)有在每一層的特征探測(cè)器上檢查是否能夠重建下面的數(shù)據(jù)。”辛頓說(shuō)道。
他和同事們最近轉(zhuǎn)向人類視覺(jué)皮層來(lái)尋找靈感。
辛頓說(shuō),人類的視覺(jué)采用了一種重建的方法來(lái)學(xué)習(xí),事實(shí)證明,計(jì)算機(jī)視覺(jué)系統(tǒng)中的重建技術(shù)增強(qiáng)了它們對(duì)對(duì)抗攻擊的抵抗力。
“大腦科學(xué)家都同意這樣的觀點(diǎn),如果你的大腦皮層有兩個(gè)區(qū)域處于感知通路中,并且相互連接,那么總有一個(gè)反向通路。”辛頓表示。
需要說(shuō)明的是,辛頓認(rèn)為,神經(jīng)科學(xué)家需要向人工智能研究人員學(xué)習(xí)很多東西。事實(shí)上,他覺(jué)得未來(lái)的人工智能系統(tǒng)將主要是非監(jiān)督式的。他說(shuō),非監(jiān)督式學(xué)習(xí)——機(jī)器學(xué)習(xí)的一個(gè)分支,從未標(biāo)記、無(wú)法歸類和未分類的測(cè)試數(shù)據(jù)中收集知識(shí)——在學(xué)習(xí)共性和對(duì)潛在的共性做出反應(yīng)的能力方面,幾乎就像人類一般。
“如果你用一個(gè)有數(shù)十億個(gè)參量的系統(tǒng),在某個(gè)目標(biāo)函數(shù)中實(shí)施梯度下降,它的效果會(huì)比你想象的好得多……規(guī)模越大,效果越好。”他說(shuō),“相比于讓大腦計(jì)算某個(gè)目標(biāo)函數(shù)的梯度,并根據(jù)梯度更新突觸的強(qiáng)度,這要更加合理。我們只需要弄清楚它是如何得到梯度的以及目標(biāo)函數(shù)是什么。”
這甚至可能會(huì)解開(kāi)夢(mèng)的奧秘。“為什么我們根本不記得我們的夢(mèng)呢?”辛頓反問(wèn)道。他認(rèn)為這可能與“反學(xué)習(xí)”有關(guān)。
辛頓說(shuō),“做夢(mèng)的意義可能在于,你把整個(gè)學(xué)習(xí)過(guò)程顛倒過(guò)來(lái)。”
在他看來(lái),這些知識(shí)可能會(huì)完全改變一些領(lǐng)域,比如教育。例如,他預(yù)計(jì),未來(lái)的課程將更加個(gè)性化,有更強(qiáng)的針對(duì)性,將把人類生物化學(xué)過(guò)程考慮進(jìn)來(lái)。
“你可能會(huì)認(rèn)為,如果我們真正了解大腦的運(yùn)轉(zhuǎn)機(jī)制,我們應(yīng)該能夠改善教育等方面的狀況,我認(rèn)為我們會(huì)做到的。”辛頓稱,“如果你能最終了解大腦發(fā)生了什么,它是如何學(xué)習(xí)的,而不是沒(méi)有去進(jìn)行調(diào)整適應(yīng),取得更好的學(xué)習(xí)效果,那會(huì)令人費(fèi)解。”
他警告說(shuō),實(shí)現(xiàn)這一點(diǎn)尚需時(shí)日。就近期而言,辛頓設(shè)想了智能助手的未來(lái)——比如谷歌的Google Assistant或亞馬遜的Alexa——它們可以與用戶互動(dòng),并在日常生活中給他們提供各種指導(dǎo)。
“未來(lái)幾年,我不確定我們能否從智能助手那里學(xué)到很多東西。但如果你仔細(xì)觀察,你會(huì)發(fā)現(xiàn)現(xiàn)在的智能助手相當(dāng)聰明,一旦它們真的能聽(tīng)懂對(duì)話,它們就能和孩子們交談,并對(duì)他們進(jìn)行教育。”辛頓總結(jié)道。
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4808瀏覽量
102817 -
AI
+關(guān)注
關(guān)注
87文章
34274瀏覽量
275449
原文標(biāo)題:AI教父杰弗里辛頓:AI反學(xué)習(xí)可能揭開(kāi)人類夢(mèng)境的奧秘
文章出處:【微信號(hào):smartman163,微信公眾號(hào):網(wǎng)易智能】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
AI時(shí)代:不可替代的“人類+”職業(yè)技能
【「零基礎(chǔ)開(kāi)發(fā)AI Agent」閱讀體驗(yàn)】+ 入門(mén)篇學(xué)習(xí)
海思SD3403邊緣計(jì)算AI數(shù)據(jù)訓(xùn)練概述
《AI Agent 應(yīng)用與項(xiàng)目實(shí)戰(zhàn)》----- 學(xué)習(xí)如何開(kāi)發(fā)視頻應(yīng)用
人工智能和機(jī)器學(xué)習(xí)以及Edge AI的概念與應(yīng)用

名單公布!【書(shū)籍評(píng)測(cè)活動(dòng)NO.55】AI Agent應(yīng)用與項(xiàng)目實(shí)戰(zhàn)
馬斯克預(yù)言:AI將全面超越人類智力
AI大模型與深度學(xué)習(xí)的關(guān)系
AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第4章-AI與生命科學(xué)讀后感
《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章AI for Science的技術(shù)支撐學(xué)習(xí)心得
RISC-V如何支持不同的AI和機(jī)器學(xué)習(xí)框架和庫(kù)?
數(shù)據(jù)智能系列講座第3期—交流式學(xué)習(xí):神經(jīng)網(wǎng)絡(luò)的精細(xì)與或邏輯與人類認(rèn)知的對(duì)齊

探索HTTP海外訪問(wèn)的奧秘:解鎖全球互聯(lián)網(wǎng)資源
基于瑞薩電子Reality AI Tools工具的語(yǔ)音反欺騙應(yīng)用示例

評(píng)論