什么叫端測AI?
這個問題搞清楚之前,大家必須要去了解我們整個計(jì)算機(jī)行業(yè)的一個系統(tǒng)架構(gòu),它的發(fā)展方向是云·邊·端協(xié)同,也就是未來各行各業(yè),不管做啥的,與計(jì)算機(jī)行業(yè)相關(guān)的這種硬件和軟件架構(gòu),它都會往這個方向去發(fā)展,所謂的云邊端協(xié)同。
那么是怎么個云邊端協(xié)同法呢?首先我們要知道這幾個關(guān)鍵字的意思,云就是云計(jì)算,邊就是邊緣計(jì)算,端就是設(shè)備端。
設(shè)備端一般就是拿在用戶手里的、放在用戶桌子上的、裝在用戶家里面的、其實(shí)就是跟用戶直接相關(guān)的這一端,我們叫端;邊是邊緣計(jì)算,那什么叫邊緣計(jì)算,這個其實(shí)很好理解,譬如說裝在你們小區(qū)里面的、裝在你們公司那棟樓里面的,對于你來說,這就叫邊緣計(jì)算;所以其實(shí)就是:云端指的是離你很遠(yuǎn)的設(shè)備,邊緣端就是離你很近的云端,端呢就是你自己的設(shè)備,所以云邊端加起來就構(gòu)成了我們整個的計(jì)算機(jī)架構(gòu)。
所以呢,在未來你開發(fā)硬件的時(shí)候,你開發(fā)的要么就是云端的硬件,要么就是邊緣端的硬件,要么就是設(shè)備端,就所謂的端測的硬件。那么你開發(fā)軟件也是一樣,要么就是云端的軟件,要么就是邊緣端的軟件,要么就是設(shè)備端的軟件。那么AI也是一樣,我們把AI這種技術(shù)應(yīng)用在云端和邊緣計(jì)算端和設(shè)備端,那么就構(gòu)成了所謂的云端AI,邊緣計(jì)算的AI以及設(shè)備端的AI,所以端測AI,其實(shí)指的就是設(shè)備端的AI。
那我們作為嵌入式工程師為什么需要關(guān)注端側(cè)AI而不是云端的AI和邊緣的端的AI呢?這個是有原因的,首先第一個云端的AI呢,就是類似于那種像這個“小度小度”這類東西?比如說像這個“小度”音箱,它的實(shí)現(xiàn)原理,其實(shí)就是你在這邊說的話,它這個音箱其實(shí)是一個錄音設(shè)備,把你說的話呢錄下來,然后把你這段語音直接傳到百度的服務(wù)器上去,所以音箱本身是不會做語音識別的,那百度的云服務(wù)器端有一個模型,就在那里做這個語言的一個處理和語言的識別,識別出來之后把結(jié)果再回傳到音響,所以呢,像這種“小度”音箱的這種產(chǎn)品,它其實(shí)就是典型的云端智能,就是云端AI,那這種產(chǎn)品跟我們嵌入式有關(guān)系嗎?其實(shí)關(guān)系并不大,因?yàn)橐粋€普通的音箱跟一個“小度”音箱這種智能音箱幾乎沒有區(qū)別,你可以認(rèn)為,因?yàn)樗腁I并不在設(shè)備端,嵌入式端根本就不需要AI設(shè)備,所以說呢,云端AI跟嵌入式開發(fā)幾乎沒有關(guān)系,所以云端AI不該我們管。
那么邊緣計(jì)算的AI跟我們有關(guān)系嗎?有,因?yàn)檫吘売?jì)算,還是有那么一點(diǎn)嵌入式開發(fā)在的,但是目前來說,邊緣計(jì)算這個東西還是概念比較多,實(shí)際落地的非常少,而且邊緣計(jì)算本身還在發(fā)展當(dāng)中。根據(jù)目前邊緣計(jì)算的最新技術(shù)發(fā)展方向,實(shí)際上將來是更像云端,而不太像設(shè)備端,也就是說邊緣端其實(shí)就是一個簡化的云端,你可以理解為就是一個簡化的本地處理過的云端。所以呢,邊緣計(jì)算一方面是當(dāng)前用的很少,幾乎沒什么落地,另一方面來說呢,它跟云端更像,所以我們作為嵌入式工程師就沒必要碰它。
那對于我們嵌入式開發(fā)者來說,AI跟我們關(guān)系最大的是什么?那就是所謂的設(shè)備端的AI,也就是我們所謂的端測AI,那端側(cè)AI的概念就是整個的AI的過程全部是發(fā)生在設(shè)備端的。舉個例子,比如說我現(xiàn)在做一個人臉識別,我的設(shè)備端攝像頭負(fù)責(zé)拍照,拍完照之后把圖像傳給我設(shè)備端的CPU,然后設(shè)備端這邊的硬件和軟件負(fù)責(zé)調(diào)用AI做數(shù)據(jù)處理,進(jìn)而來做人臉識別,最后把結(jié)果在我的設(shè)備端展示出來,進(jìn)行開鎖、報(bào)警等動作執(zhí)行。
整個AI的過程都在設(shè)備端,根本就不會去連接云,也不會去連接邊緣,這樣來做有兩個最大的好處,第一個好處就是速度快,不用聯(lián)網(wǎng)就不受網(wǎng)絡(luò)的限制,所以速度快。第二個好處就是因?yàn)椴挥寐?lián)網(wǎng)所以低功耗。第三個最重要的一點(diǎn)就是隱私問題,不會把照片等私密數(shù)據(jù)上傳云端,現(xiàn)場拍現(xiàn)場用,用完之后銷毀,這樣是比較安全的。所以說基于這三個原因,當(dāng)然還有別的一些原因,端測AI實(shí)際上在未來的應(yīng)用是很廣泛的,而且端測AI本身跟嵌入式開發(fā)的關(guān)系非常大,那咱們做嵌入式開發(fā)的,就需要去關(guān)心端測AI,去搞端側(cè)AI,去掌握這方面的技術(shù),成為一個可以結(jié)合AI人工智能技術(shù)的更有發(fā)展的一名嵌入式軟件工程師。
再額外介紹一點(diǎn),目前國內(nèi)外,在端側(cè)AI方向上有所建樹的企業(yè)和芯片廠商有:ST(NanoEdgeAIStudio、CubeAI)、NXP(MCU:imxRT10xx、MPU+linux:imx8、imx9352)、聆思(科大訊飛的芯片公司),英偉達(dá),谷歌以及我們熟悉的ARM,我們需要做的就是從最簡單的端側(cè)AI項(xiàng)目開始,嘗試讓自己去熟悉和去體會端側(cè)AI相關(guān)的嵌入式項(xiàng)目開發(fā),逐步尋找新技術(shù)形態(tài)和新技術(shù)方向上的更多機(jī)會,并尋求進(jìn)一步發(fā)展。
責(zé)任編輯:彭菁
-
硬件
+關(guān)注
關(guān)注
11文章
3460瀏覽量
67193 -
AI
+關(guān)注
關(guān)注
87文章
34201瀏覽量
275364 -
邊緣計(jì)算
+關(guān)注
關(guān)注
22文章
3278瀏覽量
50539
發(fā)布評論請先 登錄
邊緣AI應(yīng)用越來越普遍,AI模型在邊緣端如何部署?

端側(cè)AI浪潮已來!炬芯科技發(fā)布新一代端側(cè)AI音頻芯片,能效比和AI算力大幅度提升

霍爾電流傳感器的原邊端如何接入AI大模型?
首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手
AI端側(cè)部署開發(fā)(SC171開發(fā)套件V3)
新功能get√:AI大學(xué)移動端,來了!
嵌入式如何與AI相結(jié)合,什么是端側(cè)AI~

嵌入式如何與AI相結(jié)合,什么是端側(cè)AI~

什么叫AI計(jì)算?AI計(jì)算力是什么?
華為彭松:打造端到端AI網(wǎng)絡(luò),打通全場景AI能力

榮耀引領(lǐng)端側(cè)AI新時(shí)代
廣和通開啟端側(cè)AI新時(shí)代
廣和通Fibocom AI Stack:加速端側(cè)AI部署新紀(jì)元
AI大模型端側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端側(cè)AI大模型解決方案,激活場景智能新范式

評論