物聯(lián)網(wǎng)（ IoT ）的發(fā)展和企業(yè)對人工智能的采用，使人們重新關注邊緣計算。組織正在尋求利用這些物聯(lián)網(wǎng)設備在邊緣產(chǎn)生的數(shù)據(jù)，解決以前集中式數(shù)據(jù)中心或云計算無法解決的挑戰(zhàn)。

當邊緣計算和人工智能（也稱為 Edge AI ）相結合時，用于實時推理，從而推動業(yè)務流程的數(shù)字轉換。 Edge AI 是智能空間的核心技術，可提高效率、自動化工作流程、降低成本并改善整體客戶體驗。

如今，所有行業(yè)的組織都在工廠、零售店、石油鉆塔和自動機器上推出 edge AI 解決方案。

與任何新的 IT 計劃一樣，充分利用邊緣計算需要精心規(guī)劃，以構建一個能夠滿足當今和未來任何擴展需求的平臺。

什么是邊緣計算？

從廣義上講， 邊緣計算 指的是數(shù)據(jù)中心或云之外的任何東西。更具體地說，這是一種將計算能力從物理上轉移到更接近數(shù)據(jù)生成位置（通常是物聯(lián)網(wǎng)設備或傳感器）的做法。

與云計算相比 ，邊緣計算提供更低的延遲、更低的帶寬要求和更好的數(shù)據(jù)隱私。有 不同類型的邊緣計算 ，通常根據(jù)用例、網(wǎng)絡需求或位置進行細分。內(nèi)容交付網(wǎng)絡、工廠檢查、無摩擦商店和機器人都被認為是邊緣計算的例子。

盡管存在差異，但好處仍然是一樣的：低延遲、降低帶寬要求和數(shù)據(jù)隱私。

邊緣計算的成本是多少？

邊緣計算的成本因規(guī)模、數(shù)據(jù)、位置和專業(yè)知識而大不相同。總體成本可能會增加或減少，具體取決于邊緣環(huán)境中當前的基礎設施。圖 1 顯示了幾個關鍵因素。

圖 1 影響成本的邊緣計算解決方案的組件

基礎設施成本

在邊緣部署人工智能應用程序的首要考慮因素之一是支持用例所需的系統(tǒng)和傳感器。一般來說，在添加新的硬件或軟件之前，已經(jīng)有了某種基礎設施。邊緣基礎設施最常見的組件是傳感器、計算系統(tǒng)和網(wǎng)絡。

傳感器

傳感器的數(shù)量和類型都會影響組織的成本。許多組織已經(jīng)對物聯(lián)網(wǎng)傳感器進行了投資，從而減少了邊緣計算推廣所需的總體投資。在添加傳感器時，一次性使用的掃描儀可以快速添加。

攝像頭是最通用的邊緣設備之一，可以讓您同時運行多個應用程序。其他傳感器包括麥克風、條形碼掃描儀或支持 RFID 的智能標簽。

計算系統(tǒng)

邊緣計算可以在一個簡單的嵌入式設備上運行，成本高達數(shù)百美元。或者，它可以運行到半個甚至全機架的服務器，花費數(shù)十萬美元。計算系統(tǒng)的大小取決于收集和處理的數(shù)據(jù)量、一個或多個人工智能模型的復雜性，以及在任何給定時間運行的推理次數(shù)。

當在邊緣建立計算時，重要的是要考慮在環(huán)境中運行的現(xiàn)有和將來的邊緣用例。一些應用程序可以在僅CPU的系統(tǒng)上運行，而其他應用程序需要 GPU ，或者可以從 GPU 中受益匪淺。

嵌入式設備，甚至是單 GPU 系統(tǒng)在前端都比較便宜。但是，如果您的計劃是運行多個 AI 應用程序，那么一個具有多個 GPU 且可以運行多個工作負載的單一系統(tǒng)可以節(jié)省成本。在空間有限的地區(qū)，它通常也會更有效。

網(wǎng)絡

大多數(shù)企業(yè)邊緣使用案例都是在本地運行的，可以是硬連線到網(wǎng)絡，也可以是 Wi-Fi 。這使得網(wǎng)絡組件基本上是免費的。依賴蜂窩網(wǎng)絡的遠程設備確實會因傳輸?shù)臄?shù)據(jù)產(chǎn)生成本，如果數(shù)據(jù)是視頻，成本會特別高。

AI-on-5G 是許多組織需要考慮的一個關鍵話題，尤其是那些正在研究依賴有保證的性能和高速無線網(wǎng)絡的用例的組織。這些解決方案仍處于開發(fā)的早期階段，這使得成本難以確定。

邊緣計算的另一個網(wǎng)絡考慮因素是查看將向數(shù)據(jù)中心或云發(fā)送哪些數(shù)據(jù)以及發(fā)送多少數(shù)據(jù)。大多數(shù)組織使用來自邊緣的數(shù)據(jù)在一個集中的位置驗證和再培訓他們的人工智能模型。圍繞數(shù)據(jù)構建一個考慮到網(wǎng)絡和存儲的戰(zhàn)略對于確保管理維護邊緣應用程序的總體成本至關重要。

申請費用

在未來幾年，人工智能應用程序的生產(chǎn)數(shù)量預計將增長到 60% 以上。不是組織是否會部署人工智能應用程序，而是何時部署。組織要么構建或購買應用程序，要么使用混合方法。

構建人工智能應用程序

從頭開始建設數(shù)據(jù)科學團隊可能是一項艱巨的任務，尤其是由于大多數(shù)地區(qū)對合格候選人的需求很高，且供應有限。數(shù)據(jù)科學家的平均工資從 10 萬美元到 15 萬美元不等，取決于技能水平。即使是內(nèi)部有人工智能開發(fā)人員的組織，也經(jīng)常采用構建和購買相結合的策略，將其內(nèi)部專業(yè)知識用于幫助其與眾不同的關鍵應用程序。

購買人工智能應用程序

對于那些還沒有數(shù)據(jù)科學家和人工智能開發(fā)人員的組織來說，購買人工智能應用程序是首選方法。

Prebuilt applications 可以定制，價格從數(shù)千美元到數(shù)萬美元不等，具體取決于它們的許可方式。

Custom applications 從頭開始構建，包括開發(fā)和推出，成本高達數(shù)十萬美元。

根據(jù)客戶需求，可以購買額外的服務合同，用于對這些應用程序進行持續(xù)管理和升級。

管理成本

邊緣計算為管理帶來了獨特的挑戰(zhàn)。這些環(huán)境高度分散，部署在遠程位置，沒有經(jīng)過培訓的 IT 人員，而且通常缺乏數(shù)據(jù)中心預期的物理安全性。

管理軟件

專用邊緣人工智能管理解決方案通常根據(jù)使用情況定價，管理中的系統(tǒng)或 GPU 是決定因素。這些解決方案具有為邊緣部署量身定制的關鍵功能，以及隨著成本增長而擴展的能力。這些解決方案的一些示例包括 NVIDIA Fleet Command 、 Azure IoT 和 AWS IoT 。

另一個管理選項是將傳統(tǒng)的數(shù)據(jù)中心管理解決方案擴展到邊緣。 VMware Tanzu 和 RedHat OpenShift 通常都存在于許多數(shù)據(jù)中心部署中，這意味著 IT 團隊對它們有經(jīng)驗。將這些解決方案擴展到邊緣可能需要增加許可成本，具體取決于公司簽訂的合同。

應考慮的其他成本包括使這些解決方案與邊緣部署兼容所需的時間，以及對這些環(huán)境的持續(xù)管理。

托管服務

一些組織希望將其邊緣計算環(huán)境的管理外包給系統(tǒng)集成商或其他管理合作伙伴。這些活動可能會有很大不同，包括人工智能模型的開發(fā)、基礎設施的供應和管理，以及人工智能應用程序的推出和更新。

當構建和管理 edge AI 解決方案的內(nèi)部專業(yè)知識有限時，通常會考慮此選項。根據(jù)范圍、規(guī)模和持續(xù)時間的不同，這些項目的成本從數(shù)十萬美元到數(shù)百萬美元不等。

邊緣計算比云計算便宜嗎？

許多組織都在云計算領域進行了大量投資。現(xiàn)在，隨著邊緣計算的興起，他們正在尋求節(jié)約成本。當 將邊緣與云進行比較 出現(xiàn)時， edge AI 通常是一項新的投資，因此需要提前開始。如果將這一成本與移動流媒體數(shù)據(jù)并將其存儲在云中的成本相比較，成本可能會有所降低。

大多數(shù)情況下，向邊緣計算的轉移是由于一個需要實時響應或部署在帶寬有限的遠程位置的用例。例如，由于延遲要求，云環(huán)境不可能提供預測性維護、安全警報或自動機器等工作負載。

在這種情況下，降低邊緣計算的成本并不重要；相反，人工智能算法為組織帶來了巨大的商業(yè)價值。

邊緣計算的價值是什么？

對于大多數(shù)組織來說，邊緣計算是一種范式轉變。與其他轉型轉變一樣，如果不仔細思考，這個過程可能會很復雜，成本也很高。然而，當與人工智能結合時，您的組織可以看到巨大的好處。從提高效率到降低運營成本，再到改善客戶智能和體驗， edge AI 帶來的經(jīng)濟效益可以用數(shù)百萬美元來衡量。

人工智能提供了一種無摩擦的購物體驗，顧客可以走進商店，選擇他們想要購買的商品，然后離開，商品會自動記入他們的賬戶。

零售商通過人工智能解決勞動力短缺和供應鏈問題 ：在過去的一年里，零售商經(jīng)歷了令人難以置信的挑戰(zhàn)，勞動力減少了 6.2% ，停工對全球供應鏈造成了嚴重破壞。使用人工智能解決方案，商店和餐館已經(jīng)能夠改進自動化、預測和物流，為客戶提供更好的體驗。

人工智能檢驗降低了總制造成本 ：在任何生產(chǎn)線上，手動檢查都需要大量時間，并且需要高技能工人來保持高質(zhì)量。當需要準確、快速的缺陷檢測時，人工智能可以是提高整體設備效率（ OEE ）和提高生產(chǎn)線產(chǎn)量的完美解決方案。一家制造商能夠通過在工廠使用人工智能光學檢測，將檢測成本從總制造成本的 30% 降低到 30% 。

智能醫(yī)院優(yōu)化工作流程，改善臨床醫(yī)生體驗 ：醫(yī)療服務的提供變得越來越具有挑戰(zhàn)性，提供者、員工和 IT 都必須用更少的資源做更多的事情。人工智能有助于增強這些供應商的工作，為他們提供有價值的及時見解，不僅減輕他們的負擔，還拯救生命。使用視覺人工智能監(jiān)控患者和自動化工作流程，一個擁有 100 張床位的設施每年可以節(jié)省 1100 萬美元。

開始

鑒于 Edge AI 的價值，如何推出成功的 edge 戰(zhàn)略無疑是組織和 IT 部門關注的一個關鍵話題。作為人工智能領域的領導者，NVIDIA 與客戶和合作伙伴合作，創(chuàng)建了能夠提供強大分布式計算的邊緣計算解決方案；安全遠程管理；以及與業(yè)界領先技術的兼容性。

關于作者

Amanda Saunders 在 NVIDIA 負責 Edge 和企業(yè)計算解決方案集團的 Edge AI 產(chǎn)品營銷。她為醫(yī)院、商店、倉庫、工廠等帶來了智能的邊緣計算解決方案。除了從事 edge 解決方案之外， Amanda 還在 NVIDIA 擔任銷售和營銷角色，與 AI 、數(shù)據(jù)科學、虛擬 GPU 和許多不同行業(yè)合作。

審核編輯：郭婷