當(dāng)計(jì)算系統(tǒng)根據(jù)經(jīng)過訓(xùn)練的機(jī)器學(xué)習(xí)算法進(jìn)行預(yù)測時，就會發(fā)生推理。雖然推理的概念并不新鮮，但在邊緣執(zhí)行這些高級操作的能力是相對較新的東西。

基于邊緣的推理引擎背后的技術(shù)是嵌入式計(jì)算機(jī)。但顯然它遠(yuǎn)不止于此，它具有增強(qiáng)的計(jì)算能力、大量存儲空間以及實(shí)時處理大量數(shù)據(jù)所需的 I/O。目標(biāo)是在盡可能靠近生成數(shù)據(jù)的位置執(zhí)行操作，在最短的時間內(nèi)獲得最準(zhǔn)確的結(jié)果。該位置通常非常靠近傳感器，外部數(shù)據(jù)輸入到系統(tǒng)。一旦做出決定，它們通常會被送回邊緣執(zhí)行，從而推動邊緣的實(shí)時決策。

基于邊緣的推理引擎的一個關(guān)鍵問題是它的部署環(huán)境。例如，它是否必須設(shè)計(jì)為能夠應(yīng)對沖擊和振動？它會產(chǎn)生極高或極低的溫度嗎？它會提供性能加速的正確平衡嗎？對這些問題中的每一個的回答都可能導(dǎo)致不同的設(shè)計(jì)，或者至少是一種不同的設(shè)計(jì)方式。

一些供應(yīng)商為環(huán)境問題保留了完整的內(nèi)部測試設(shè)備。這將包括熱調(diào)節(jié)模擬，當(dāng)然還有沖擊和振動。在大多數(shù)應(yīng)用中，專為“堅(jiān)固和熱應(yīng)用”設(shè)計(jì)的系統(tǒng)意味著它可以在 -40°C 到 +70°C 的溫度范圍內(nèi)運(yùn)行，并且可以承受高達(dá) 20 G 的沖擊和 3 Grms 的振動。

為人工智能做準(zhǔn)備

通用嵌入式計(jì)算機(jī)與旨在處理推理算法的計(jì)算機(jī)之間存在明顯的區(qū)別。首先，推理引擎需要最高的計(jì)算性能。任何設(shè)計(jì)人員都可以將高端 X86 處理器下架并將其整合到系統(tǒng)中，即使是整合了數(shù)據(jù)中心平臺功能的系統(tǒng)。然而，設(shè)計(jì)一個系統(tǒng)以實(shí)現(xiàn)最大吞吐量，需要在硬件和軟件方面的人工智能系統(tǒng)方面的深厚專業(yè)知識和經(jīng)驗(yàn)。Premio的專家為其工業(yè)級計(jì)算機(jī)平臺提供強(qiáng)大的硬件工程和設(shè)計(jì)，符合這一要求。

Premio 提出了一種稱為Edge Boost Nodes的模塊化技術(shù)，可最大限度地提高邊緣系統(tǒng)的性能。硬件節(jié)點(diǎn)物理連接??到平臺的下部，并為需要數(shù)據(jù)采集以獲得實(shí)時洞察力的邊緣級工作負(fù)載提供硬件加速。這種兩件式模塊化設(shè)計(jì)有助于保持平臺的堅(jiān)固性，同時通過創(chuàng)新的罐體磚和 GPU 中的非易失性內(nèi)存 （NVMe） 固態(tài)磁盤驅(qū)動器 （SSD） 和 GPU 提供性能加速，以實(shí)現(xiàn)并行計(jì)算性能。每個 Edge Boost 節(jié)點(diǎn)都使用高轉(zhuǎn)速主動冷卻來確保這些組件的可靠性。

Premio 提供了許多不同的 Edge Boost 節(jié)點(diǎn)。例如，一個選項(xiàng)RCO-6000-CFL-2N2060S添加了一個可熱插拔的 NVMe SSD 容器，能夠容納多達(dá)兩個 15 毫米 U.2 SSD 和一個 PCIe GPU。第二種選擇，RCO-6000-CFL-4NH增強(qiáng)了存儲能力，支持 x2 可熱插拔 NVMe SSD 罐，可容納兩個 15-mm U.2 SSD，用于支持硬件和軟件 RAID 的大容量 NVMe 存儲。第三種選擇RCO-6000-CFL-8NS專注于更高速的 NVMe 存儲，為系統(tǒng)集成商提供了添加多達(dá) 8 個 7 毫米、2.5 英寸的能力。U.2 NVMe SSD，即將加入 Premio 的 Edge Boost Node 產(chǎn)品組合。

這種拓?fù)浜苤匾驗(yàn)閷τ诨谶吘壍耐评硐到y(tǒng)，存儲與位于背板上的 I/O 分離，從而最大限度地提高了性能。“秘訣”在于平衡可用的 PCIe 通道數(shù)量以提供最佳性能，這是 Premio 能夠從其嵌入式和數(shù)據(jù)中心計(jì)算機(jī)架構(gòu)設(shè)計(jì)組合中汲取的設(shè)計(jì)技術(shù)。

其他必須考慮的 I/O 包括 USB、COM 接口，甚至 5G。對于板供應(yīng)商和 OEM 來說，處理高吞吐量 I/O 的一種好方法是通過模塊化 I/O 子板來增加靈活性。通過這種方法，系統(tǒng)可以準(zhǔn)確地提供所需的 I/O，并為特定于應(yīng)用程序的工作負(fù)載消除不必要的 I/O 選擇。

用于 ADAS 應(yīng)用的人工智能

當(dāng)今一種流行的應(yīng)用是 ADAS，即高級駕駛員輔助系統(tǒng)。這些復(fù)雜的系統(tǒng)基于有效的數(shù)據(jù)收集和共享為自動駕駛汽車應(yīng)用提供動力，旨在為五級自動駕駛提供持續(xù)更智能的算法。

注意到這顯然是一個基于邊緣的應(yīng)用程序，Edge Boost Nodes 設(shè)計(jì)團(tuán)隊(duì)肯定會結(jié)合適當(dāng)?shù)募庸坦δ芎蜔嵴{(diào)節(jié)。例如，系統(tǒng)操作員需要隨時動態(tài)了解箱內(nèi)的溫度。在這里，可能的場景包括風(fēng)扇。作為一個耗電組件，該風(fēng)扇僅在必要時才會開啟。

在 Premio 為其客戶提供的軟件開發(fā)工具包中，有一個應(yīng)用程序可以讓他們最大限度地利用這些風(fēng)扇，確定它們應(yīng)該何時開啟、它們應(yīng)該以什么速度運(yùn)行等等。該軟件還提供了一個安全閥，它可以暫停從各種外圍設(shè)備返回 CPU 的所有 I/O 讀取操作。也可以使用物理按鈕和 LED 指示燈來執(zhí)行此操作。

最大限度地提高電源效率

功率效率是基于邊緣的推理引擎的重中之重。系統(tǒng)設(shè)計(jì)人員認(rèn)識到需要將處理能力放置在更靠近物聯(lián)網(wǎng)傳感器的位置。一個直接的解決方案是添加各種性能加速器，通常采用 GPU、NVMe 存儲和 M.2 加速器的形式。這種設(shè)計(jì)策略的權(quán)衡是每個都是耗電的組件，需要解決功耗與性能預(yù)算的問題。將這些任務(wù)分離到邊緣升壓節(jié)點(diǎn)會增加處理并減少主機(jī)處理器上的負(fù)載，主機(jī)處理器在其堅(jiān)固的寬電源輸入（從 9 到 48 V DC）中被隔離。模塊化 Edge Boost Node 的一個獨(dú)特功能是它為強(qiáng)大的性能加速模塊（NVMe SSD、GPU 或 m.

由于基于邊緣的推理引擎會生成大量數(shù)據(jù)，因此存儲是關(guān)鍵。Edge Boost 節(jié)點(diǎn)包括一個 6-Gbit/s SATA 接口，可以連接四個驅(qū)動器（兩個內(nèi)部驅(qū)動器和兩個外部驅(qū)動器）。然而，結(jié)合 NVMe 驅(qū)動器是該應(yīng)用程序的潛在游戲規(guī)則改變者。在這種特殊情況下，它最多通過四個 2.5 英寸、15 毫米驅(qū)動器和八個 2.5 英寸、7 毫米驅(qū)動器選項(xiàng)進(jìn)行處理。

雖然板載存儲至關(guān)重要，但將數(shù)據(jù)與云進(jìn)行協(xié)調(diào)的能力也很重要。在這種情況下，此過程通過標(biāo)準(zhǔn)千兆以太網(wǎng)或 10-Gbit/s 模塊處理。WiFi 或蜂窩 LTE 也是選項(xiàng)，具體取決于應(yīng)用和環(huán)境。由于該設(shè)計(jì)提供靈活的 I/O 子板，用戶甚至可以集成 5G 子板模塊，以實(shí)現(xiàn)與 5G 部署的超低延遲連接。

安全性和下一代可升級性

雖然任何工業(yè)平臺都必須包含適當(dāng)?shù)陌踩胧珜⑾到y(tǒng)性能推向邊緣會使安全性變得更加重要。Premio 基于公認(rèn)的行業(yè)標(biāo)準(zhǔn)（如 TPM 2.0）來加密數(shù)據(jù)。然后是物理方面要解決的問題——有人真的在竊取物理系統(tǒng)。為了解決這個問題，Edge Boost 節(jié)點(diǎn)上的 NVMe 驅(qū)動器位于鎖和鑰匙驅(qū)動器籠的后面。

Edge Boost 節(jié)點(diǎn)的模塊化使其本質(zhì)上可升級。當(dāng)它可用時，只需將您的模塊換成更高性能的版本。雖然此功能可能會略微增加物料清單 （BOM），但它可以保護(hù)長期投資，因?yàn)榭梢员ＷC系統(tǒng)的使用壽命更長。在軟件方面，可以通過 LAN 在現(xiàn)場進(jìn)行無線升級，并且由于內(nèi)置的??安全功能，可以放心地完成。而隨著行業(yè)走向云原生升級路徑，這也成為了升級的首選方式。只要系統(tǒng)保持“容器化”，安全問題就會得到解決和妥善管理——無論是在系統(tǒng)的生命周期內(nèi)，還是在不斷演變的數(shù)字安全威脅環(huán)境中。

審核編輯：郭婷