大約 10 億臺攝像機——終極物聯網（ IoT ）傳感器——已經部署在世界各地的城市和空間，以幫助我們生活得更好、更安全。優化 AI 支持的視頻分析對于無摩擦零售、優化庫存管理、智能城市交通工程、工廠地面光學檢查、醫療設施的患者護理等至關重要。

NVIDIA Metropolis 是一個應用程序框架、一套開發工具和合作伙伴生態系統，它將可視數據和人工智能結合在一起，以提高廣泛行業的運營效率和安全性。

但大規模人工智能的發展之路是艱難的。

從定義需求、采購硬件、開發和微調軟件、 IT 和安全審查，到在每個站點實際安裝和更新系統和應用程序軟件，這一過程艱巨、耗時且成本高昂。

當開發人員專注于構建 AI 應用程序時，他們的操作效果最好，并且不需要承擔在邊緣位置部署 AI 時可能出現的硬件、安全性和可伸縮性問題的支持責任。

圖 1 。人工智能部署的典型時間表從 POC 到規模可能需要數月的時間。

NVIDIA Fleet 命令解決了這些問題，并使 AI 應用程序的部署變得容易。 Fleet Command 是一項交鑰匙云服務，它允許任何技能級別的管理員通過跨分布式邊緣基礎設施安全地部署、管理和擴展 AI 來管理 AI 生命周期，所有這些都來自一個控制平面。跨邊緣設備遠程編排 AI 應用程序意味著 Fleet Command 可以為組織節省數周的規劃和手動實施邊緣基礎設施的時間。

艦隊指揮問題

最近，我們主持了一次Metropolis開發者會議，展示如何使用 Fleet Command 在邊緣部署 vision AI 應用程序。可以查看網絡研討會。

數以百計的開發人員希望將他們的應用程序從 POC 轉移到規模，與會者進行了熱烈的討論并參與其中。下面是一些最常見的問題和我們的答案。

艦隊司令部如何幫助加速 AI 應用程序的部署？

艦隊司令部是一個交鑰匙解決方案，消除了構建和維護邊緣軟件平臺的復雜性：

簡化邊緣 AI ： Fleet Command 消除了構建、操作和維護邊緣軟件平臺的復雜性，為管理員提供了一個“無 IT ”測試和優化的解決方案，使他們只需點擊幾下就可以從軟件安裝轉移到邊緣部署。

優化的部署：任何技能級別的管理員都可以將應用程序部署和擴展到任意數量的位置。一鍵式資源調配將系統轉變為人工智能設備，并消除了熟練 IT 技術人員前往邊緣站點安裝服務器的需要，從而加快了實現人工智能的時間 NSight 。

AI 生命周期管理：通過無線方式更新應用程序，輕松擴展其他應用程序，并監控各個應用程序之間的 AI 運行狀況。彈性軟件平臺自動重啟應用程序， MIG 在出現問題時對工作負載進行評估。詳細的監控儀表盤和廣泛的自動化流程使管理 AI 變得簡單。

分層安全：從云到邊緣，領先的安全協議確保應用程序數據始終受到保護，從而減輕了組織構建和運行這些功能的負擔。一個安全的私人注冊中心隔離了知識產權和傳輸中的加密，并在靜止時保護了有價值的數據。

圖 2 。使用 Fleet 命令，您的 edge Fleet 可以通過一個界面集中管理。

在 Fleet Command 部署應用程序需要滿足哪些要求？

艦隊司令部通過舵圖在 Kubernetes 部署容器化應用程序。

Fleet Command 可以跟蹤哪些指標？是否存在系統指標或是否可以從應用程序中提取數據？

除了系統和應用程序日志外， Fleet Command 還提供系統和位置運行狀況以及部署狀態警報。

我是否需要使用 Fleet Command 用戶界面，或者可以使用 API 來完成？

合作伙伴可以利用艦隊司令部 API 集成到其現有解決方案中，為部署 Edge AI （單一整合的 edge 計算平臺）的組織提供支持。

服務器失去 Internet 連接時會發生什么情況？艦隊司令部還能運作嗎？

是的，部署在 Fleet Command 上的應用程序仍然可以在沒有 Internet 連接的情況下運行。當與網絡斷開連接時，邊緣服務器將繼續運行并提供洞察力。唯一失去的功能是更新或控制這些系統的能力，直到在 Fleet Command 和邊緣系統之間重新建立互聯網連接。

Fleet Command 支持哪些硬件？

Fleet Command 要求在邊緣站點使用 NVIDIA – 認證系統。這是所有 NVIDIA – 認證系統的綜合列表。但是，建議部署專為邊緣用例設計的系統。

有關根據您的需求配置系統規范的一般指南 NVIDIA – 認證系統配置指南。

我怎樣才能看到艦隊指揮的演示？

觀看這個演示了解使用 Fleet Command 在幾分鐘內跨其邊緣基礎設施部署 AI 有多容易。

通過觀看此按需大都會開發人員會議，了解更多關于 Fleet Command 的力量，以及它如何幫助您在邊緣部署、管理和擴展 AI ，以數據怪物呈現的用例為特色。

關于作者

Tiffany Yeung 是 NVIDIA Edge 和企業計算解決方案的產品營銷經理。 Tiffany 專注于利用 NVIDIA 邊緣解決方案使醫院、商店、倉庫、工廠等實現創新。在 NVIDIA 之前， Tiffany 的背景是創業，她曾為許多財富 500 強公司提供咨詢。

Troy Estes 是 NVIDIA Edge 和企業計算解決方案的產品營銷經理。在加入 Edge & Enterprise 業務部門之前，特洛伊曾在自主汽車業務部門和 NVIDIA 電網產品集團從事營銷活動和支持產品 GTM 。

審核編輯：郭婷