借助Cloud Ai和Edge AI，該架構可以按其使用目的發揮作用。設計新的智能服務的人員必須知道如何充分利用兩種技術，既可以改善服務的固有性能，又可以確保創新的軟件解決方案具有越來越好的用戶體驗。

當我們談論人工智能時，本質上是在談論一種方法，如果以有意識的方式將其應用于公司數據（數字，圖像，聲音，文本），則可以肯定地加快流程，使其自動化，直接影響收入，成本和風險。商業。此外，人工智能和機器學習的認知工具日益民主化甚至最小的公司也可以踏上這一激動人心的旅程。今天，我們比以往任何時候都可以依靠可以整合傳統業務平臺并使其朝著更高績效水平發展的具體硬件和軟件工具，引入預測技術統計數據是除常規描述性統計數據之外的日常工具，預測并不意味著猜測。這意味著相對于對事件的觀察，應使用合理且數學上使事件發生或基準發生概率估計之間的誤差最小化的方法。如果誤差很小，那么這意味著您將能夠以很高的精度預測下一個，因為我的設備將給我，或者圖像或聲音所屬的類別，或我很可能在本文中寫的字眼。這是AI的“魔力”。除了執行這些操作外，計算機還需要進行大量復雜的計算，因此需要大量的硬件資源，尤其是如果這些計算是在我們的筆記本電腦或臺式機上進行的。實際上，當我們談論人工智能時，實際上是在談論矩陣計算，即數學運算，加法，乘法，數值矩陣的轉置。普通的CPU，盡管是最新一代的，但其計算能力始終受其固有的計算能力以及CPU必須同時管理多個進程（必須使整個機器正常工作）的限制。它不能太飽和。在標準架構中也無法并行處理許多CPU。顯然，這成為一個限制。然后是云計算技術。

GPU的重要性

為了完成這項重要任務，提供了GPU（即圖形處理單元）：它們是處理器（如NVIDIA制造的處理器），旨在管理視頻游戲中的典型復雜處理（最終，它們始終是用于確定游戲機位置的矩陣計算）。 3D空間中多邊形的點和面）。通過擴展，如果GPU可以進行3D計算，則它可以輕松地用于涉及連續處理數字數據的任何其他任務。

此外，還應當指出的是，作為陳述Nvidia首席執行官黃仁勛（Jensen Huang）認為，圖形處理器的計算能力增長比摩爾定律規定的增長幅度更大。實際上，這項法律以1965年宣布英特爾聯合創始人戈登·摩爾（Gordon Moore）的名字命名，它指出CPU芯片的計算能力每兩年翻一番。另一方面，黃仁勛強調了當今摩爾定律如何被每年僅幾個百分點的CPU功率增長所否定，而GPU的增長卻遠不止于此。實際上，在五年的時間里，GPU的能力增長了25倍以上，而按照摩爾定律，CPU的增長應該只有10倍。

此外，可以并行化多個CPU，從而確保為我們的AI或3D工程保證正確的計算能力。

該序言是必要的，以了解擁有足夠的硬件設備不僅涉及巨額投資，而且還需要占用機器24/7來收回投資成本。并非所有公司都有能力和技能來擁有專用于這些目的的服務器場。

此外，必須說AI在兩個不同的時刻占據了機器：訓練（即我們教機器執行特定任務的那一刻）和推理的時刻，即當機器使用預測模型以預測未來數據。實際上，第一階段的培訓會大量消耗機器的資源，進行有時甚至長達數天的計算，然后返回一個統計模型，該模型代表對我們要處理的機器的任務的數學解釋。隨后，此模型用于所謂的推理，即用于執行與訓練相同但針對算法從未見過的數據的新任務的實際預測活動。例如，

該預測階段對于機器而言不那么繁重，但是在任何情況下它都將更頻繁地執行，因此就時間而言將占用大量機器。

云計算

正是由于以下原因，云才為公司提供了幫助：減輕了對機器的多年投資的一部分，通過將所有處理負載轉移到遠程機器來優化硬件結構的TCO總擁有成本。這些機器可以根據需要進行適當激活或停用，因此需要付費使用，而不是為設備付費。然后，公司產生的使用成本也包括一系列服務，其中包括一些必不可少的服務，例如網絡安全，災難恢復，符合GDPR等。其他可選模型，例如按需機器學習模型已經可用并準備用于一般用途。

對于供應商和客戶而言，云計算絕對是一個巨大的機會。以亞馬遜為例，其收入的50％以上來自AWS平臺。通過諸如AWS或Microsoft的Azure或Google Cloud之類的服務，公司可以將其軟件產品轉換為真正的平臺即服務（PaaS /平臺即服務），公司為此需要支付經常性費用。這樣做的好處是，即使在初步設計階段并沒有立即意識到這些需求，也可以遠程執行甚至復雜的功能，也可以根據您的需求擴展機器的配置。通過單擊的簡單性，添加了視頻卡，增加了Ram，并在新計算機上安裝了節點。如果您需要支持更大的請求負載，則可以大大減少服務設置或升級時間。

此外，一些提供商在其云服務中還提供特殊卡TPU（張量處理單元），這是專門設計用于處理數據多維矩陣（張量事實）的處理器，這些數據多維矩陣是AI的更復雜算法的典型特征。這樣一來，您就可以在云中執行非常復雜的計算，而所需時間僅為本地計算機可以執行的時間的一小部分。

代替看云的局限性，必須說，管理往返于遠程服務器的數據需要大量使用網絡帶寬，以及與API（應用程序接口）微服務的連續客戶端/服務器通信。這是因為推理活動實際上已轉換為遠程設備。

因此，根據我們將要創建的服務類型，服務器將或多或少地加載操作。例如，對象（例如面部）的連續識別將需要結構化的后端，以便支持對將在流傳輸中發送的幀進行分段的需求。

Edge AI的作用

為了優化其中一些活動，存在Edge AI，即可以在用戶附近使用設備以在現場執行相同的推理操作而無需將信息傳輸到網絡的可能性。

簡而言之，Edge Ai意味著為電子設備配備具有AI的自身智能，并可能還為其提供與網絡以及設備之間的連接性。Edge AI有什么好處？

優點很多，僅考慮此體系結構方法可以在延遲方面為服務的有效性帶來巨大的效用。例如。在物聯網設備（相機/傳感器等）上，可以使用AI專用芯片（例如Movidius或OpenVino等）增強的面部識別或異常預測更加有效。

這也降低了隱私風險。如果數據在網絡上傳輸，可能會被攔截或破壞。但是，通過在本地處理預測，數據將保留在設備中，無需傳輸到其他地方。

那么，與在云中為來自多個設備的數據管理多個推理處理線程相比，在單個設備上進行單個推理無疑是一項成本較低的任務。

最后，很明顯，占用帶寬的數據較少，可以使用普通的連接基礎結構來構建智能服務，而不會為特定的連接產生額外的費用。

首先，由于這些智能設備允許對AI模型進行幾乎實時的處理，因此打開了一個巨大潛力的場景。

借助這項技術，可以想象沒有排隊的自由流動結賬服務，因為相機可以識別出托盤中的食物。或安全設備的自動檢測服務（例如COVID面罩），入侵的檢測以及能耗的監視和預測或機械的自動預測管理等。

在特定的用例中，將人工智能的力量傳遞到最后一英里可以使它成為力量的乘數，從而導致計算工作的細分，并提高了設計服務的有效性和效率。

結論

我們的結論是，盡管沒有明確的選擇，但對于Cloud Ai和Edge AI，架構已可以用于其用途，而設計新的智能服務的人將必須能夠充分利用這兩種技術不僅可以改善服務的固有性能，還可以確保創新的軟件解決方案具有更好的用戶體驗。
責任編輯:tzh