移動(dòng)端的深度學(xué)習(xí)正在風(fēng)起云涌,從去年NIPS的研討會(huì)到今年高通、華為的芯片帶來(lái)的強(qiáng)大智能能力,無(wú)一不在應(yīng)驗(yàn)著這一趨勢(shì)。
目前為止人工智能的進(jìn)步主要來(lái)自海量的數(shù)據(jù)資源和日漸增長(zhǎng)的強(qiáng)大計(jì)算能力。典型的機(jī)器學(xué)習(xí)通常被構(gòu)建在單一的數(shù)據(jù)中心上,可以接入全球的數(shù)據(jù)集和海量的存儲(chǔ)與計(jì)算能力。目前很多深度學(xué)習(xí)算法都運(yùn)行在云端,通過(guò)Caffe、tensorflow等計(jì)算框架搭建模型,并利用GPU, TPU等計(jì)算硬件驅(qū)動(dòng)。這種方式構(gòu)成了目前深度學(xué)習(xí)實(shí)現(xiàn)方式的主流方案。
但這種方式對(duì)于要求低延時(shí)、計(jì)算量功耗有限的應(yīng)用時(shí),就會(huì)出現(xiàn)各種各樣的問(wèn)題。例如在空中飛行的無(wú)人機(jī)、控制無(wú)人駕駛車(chē)輛、手術(shù)機(jī)器人等。為了完成一系列精細(xì)的任務(wù)、未來(lái)的無(wú)線(xiàn)通信系統(tǒng)需要在網(wǎng)絡(luò)的邊緣(靠近設(shè)備端)進(jìn)行更多的決策,甚至當(dāng)通信鏈路中斷時(shí)能夠保證系統(tǒng)更加可靠、更加迅速的響應(yīng)。
這一趨勢(shì)帶來(lái)了去中心化機(jī)器學(xué)習(xí)的迅速發(fā)展,這種新的機(jī)制可以將訓(xùn)練數(shù)據(jù)存儲(chǔ)在很多的節(jié)點(diǎn)中,并協(xié)同工作來(lái)為問(wèn)題找到合適的解決方案。設(shè)備端的機(jī)器學(xué)習(xí)與此類(lèi)似,它的本質(zhì)是利用去中心化的方式訓(xùn)練出一個(gè)高可靠性的中心化模型。訓(xùn)練數(shù)據(jù)在每一個(gè)節(jié)點(diǎn)上分布很不均勻,同時(shí)每個(gè)節(jié)點(diǎn)只有包含整個(gè)數(shù)據(jù)的一小部分。
這樣的方式有很多優(yōu)點(diǎn):和基于云的人工智能相比,設(shè)備端的AI可以保護(hù)隱私,因?yàn)閭€(gè)性化的訓(xùn)練在本地完成訓(xùn)練數(shù)據(jù)無(wú)需上傳至云端。同時(shí)訓(xùn)練也在本地完成、并且通過(guò)無(wú)線(xiàn)或者云的方式來(lái)對(duì)節(jié)點(diǎn)進(jìn)行匯總、共享訓(xùn)練的結(jié)果。這意味著所有的設(shè)備都可以接入相同的全局模型。
但目前設(shè)備端機(jī)器學(xué)習(xí)的大規(guī)模應(yīng)用在工程和學(xué)術(shù)上還面臨著一系列挑戰(zhàn)。為了保證隱私的安全,研究人員們需要研究差分隱私技術(shù)來(lái)保證數(shù)據(jù)安全;當(dāng)訓(xùn)練數(shù)據(jù)稀疏時(shí),還需要利用聯(lián)合學(xué)習(xí)和遷移學(xué)習(xí)來(lái)實(shí)現(xiàn)設(shè)備端的智能化。我們無(wú)需從零開(kāi)始訓(xùn)練模型,而是利用豐富的源數(shù)據(jù)訓(xùn)練好模型后,將學(xué)習(xí)到的知識(shí)遷移到目標(biāo)領(lǐng)域;除此之外,由于設(shè)備端的計(jì)算、能耗資源有限,適用的機(jī)器學(xué)習(xí)模型必須經(jīng)過(guò)有效的優(yōu)化才能夠準(zhǔn)確高效的運(yùn)行(比如取出一些層及層中的神經(jīng)元等),同時(shí)也需要對(duì)于計(jì)算精度、能耗做出有效的權(quán)衡。
由于計(jì)算資源的有限,算法需要同時(shí)在本地和云端運(yùn)行。這樣可以保證對(duì)于個(gè)性化的設(shè)備端AI和云端的集成AI都有很好的控制,并使得設(shè)備可以依靠云端強(qiáng)大的存儲(chǔ)和計(jì)算能力來(lái)獲取更快更好的表現(xiàn)。
這一本地和遠(yuǎn)程計(jì)算的問(wèn)題被稱(chēng)為任務(wù)卸載,這意味著一個(gè)任務(wù)可以同時(shí)在本地設(shè)備上運(yùn)行、或者遠(yuǎn)程的在網(wǎng)絡(luò)上運(yùn)行,或者在兩者上同時(shí)運(yùn)行。為了尋找最優(yōu)的策略,需要綜合考量應(yīng)用需求、神經(jīng)網(wǎng)絡(luò)模型、功耗、網(wǎng)絡(luò)吞吐量等一系列問(wèn)題,而這些依然是工程師們孜孜不倦在研究和解決的問(wèn)題。
另一個(gè)重要的挑戰(zhàn)是使得設(shè)備端的AI與系統(tǒng)設(shè)計(jì)相匹配。典型的機(jī)器學(xué)習(xí)是中心化的應(yīng)用,一般會(huì)為每一個(gè)主體最大化平均效果,但在設(shè)備端的AI卻由于有限的訓(xùn)練數(shù)據(jù)更傾向于不確定性和隨機(jī)性,同時(shí)還受到設(shè)備間不可靠連接的影響,當(dāng)設(shè)備將任務(wù)遷移到云或者其他設(shè)備時(shí)通信延時(shí)也是一個(gè)重要的影響。這意味著設(shè)備端的AI 需要知道如何在非常不同的場(chǎng)景對(duì)預(yù)測(cè)進(jìn)行針對(duì)性的處理,而不是像中心化機(jī)器學(xué)習(xí)一樣將所有主體合成整體作平均考慮。
對(duì)于這樣的設(shè)備端AI來(lái)說(shuō),超可靠-低延時(shí)的通信是系統(tǒng)得以順利工作的保證,這也是目前5G的關(guān)鍵技術(shù)之一。隨著5G時(shí)代的到來(lái),人工智能將被應(yīng)用到自動(dòng)化網(wǎng)絡(luò)中去,深刻的改變下一代無(wú)線(xiàn)系統(tǒng)。
目前設(shè)備端的AI正處于研究發(fā)展的初期,需要走出一條與基于云的中心化AI不同的道路。它們向著網(wǎng)絡(luò)邊緣計(jì)算和通信的方向邁進(jìn),通過(guò)互相分享各自的模型(而不是隱私數(shù)據(jù))來(lái)建立起一個(gè)中心化的全局模型,綜合考慮了延時(shí)、可靠性、隱私、功耗和精度。這樣的學(xué)習(xí)方式將會(huì)在不久的將來(lái)改變?cè)O(shè)備生產(chǎn)和編程的方式,并為世界帶來(lái)我們不曾見(jiàn)過(guò)的全新能力。
-
人工智能
+關(guān)注
關(guān)注
1804文章
48807瀏覽量
247205 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8495瀏覽量
134199 -
深度學(xué)習(xí)
+關(guān)注
關(guān)注
73文章
5557瀏覽量
122552
原文標(biāo)題:是時(shí)候讓深度學(xué)習(xí)算法從云端走入你的口袋中了,移動(dòng)端機(jī)器學(xué)習(xí)將讓智能手機(jī)更聰明
文章出處:【微信號(hào):thejiangmen,微信公眾號(hào):將門(mén)創(chuàng)投】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
評(píng)論