在商業軟件中，電腦芯片已被遺忘。對于商業應用程序來說，這是一種商品。由于機器人技術與個人硬件設備聯系更為緊密，因而制造應用程序仍然更側重于硬件部分。

自20世紀70年代以來，整體上看，人工智能（AI）的現狀，以及具體到深度學習（DL）領域，硬件與軟件的關系比任何時候都聯系地更加緊密。而我最近幾篇“管理人工智能（management AI）”的文章與過度擬合和偏見有關，機器學習（ML）系統中存在的兩個主要風險。本專欄將深入探討許多管理人員，尤其是業務線經理可能會處理的硬件縮略詞問題，這些縮略詞在機器學習系統中被不斷提及：圖形處理單元（Graphics Processing Unit ，GPU）和現場可編程門陣列（Field Programmable Gate Array ，FPGA）。

這有助于理解GPU的價值，因為GPU加速了深度學習應用程序所需的張量（tensor）處理。FPGA的興趣點則在于尋找研究新AI算法的途徑，訓練這些系統，并開始部署現在正在許多工業AI應用中研究的低容量定制系統。盡管這是關于FPGA進行訓練的能力研究討論，但我認為早期使用是源于F，現場（field）的使用。

例如，訓練一個推理引擎（機器學習“機器”的核心）可能需要千兆字節，甚至兆兆字節的數據。在數據中心運行推理時，計算機必須管理一個潛在的不斷增加中的并發用戶請求數。在邊緣應用程序中，無論是在用于檢查管道的無人機中還是在智能手機中，設備都必須很小且仍然有效，而且還具有適應性。簡單地說，一個CPU和一個GPU是兩個器件，而一個FPGA可以有不同的塊做不同的事情，并有可能提供一個穩健的芯片系統。鑒于所有這些不同的需求，最好了解可支持不同需求的系統架構的當前狀態。

有兩類主要的芯片設計可以驅動當前的ML系統，GPU和FPGA。在未來的中期（至少幾年），也有可能成為游戲轉換者的新技術暗示。讓我們來看看。

圖形處理單元（GPU）

機器學習世界中最大的芯片是圖形處理單元GPU。這個主要用于電腦游戲，讓其在計算機顯示器上看起來更好的東西是如何變得對機器學習至關重要的？要理解這一點，我們必須回到軟件層。

機器學習目前的冠軍是Deep Learning（DL）系統。DL系統基于各種算法，包括深度神經網絡（DNN），卷積神經網絡（CNN），遞歸神經網絡（RNN）以及許多其他變體。你在這三個術語中看到的關鍵詞是“網絡（network）”。算法是一個主題的變體，主題是幾層節點， 節點和層之間有不同類型的通信。

正在處理的是多個陣列或矩陣。矩陣（matrix）的另一個更為精確的術語是張量（tensor），因此它在整個機器學習行業中用于諸如TensorFlow之類。

現在回到你的電腦屏幕。您可以將它按行和列看作是像素或點的矩陣。這是一個二維矩陣或張量。當你添加顏色，添加到每個像素的位大小，想要一個快速變化的一致圖像的時候，計算可以很快變得復雜并且在一步一步的CPU中占用周期。而GPU擁有自己的內存，可以將整個圖形圖像保存為矩陣。然后可以使用張量數學計算圖像中的變化，然后只更改屏幕上受影響的像素。這個過程比每次更改圖像時重新繪制整個屏幕要快得多。

NVIDIA成立于1993年，旨在創建一個芯片來解決諸如CPU等通用計算機無法解決的矩陣問題。這是GPU的誕生。

矩陣運算并不關心最終產品是什么，而只是處理元素。這是一種輕微的過度簡化，因為不同的運算依稀疏矩陣（當有很多零時）與密集矩陣的不同而有不同的工作方式，但內容不會改變運算，這個事實依然存在。當深度學習理論學者看到GPU的發展時，他們很快就采用其來加速張量運算。

GPU對機器學習的發展至關重要，推動了數據中心的訓練和推理。例如，NVIDIA Volta V100 Tensor Core在其基本架構和以更低精度運行推理的能力方面繼續加速推進（這將是另一個話題，意味著更少的位，即意味著更快的處理）。但是，當涉及物聯網時還有其他問題需要考慮。

現場可編程門陣列（FPGA）

在現場（field）中，所有類型的應用程序都有不同的需求。有很多不同的應用領域，車輛，管線，機器人等等。不同行業可以為每種類型的應用設計不同的芯片，但這可能會非常昂貴并且會破壞公司的投資回報率。還可能推遲上市時間，錯過重要的商業機會。對于那些不能提供足夠規模經濟市場的高度個性化需求而言，情況尤其如此。

FPGA是幫助公司和研究人員解決問題的芯片。FPGA是一種集成電路，可以編程為多種用途。它有一系列“可編程邏輯塊”和一種編程塊和塊之間關系的方法。它是一種通用工具，可以為多種用途進行定制。主要供應商包括賽靈思（Xinlinx）和美國國家儀器（National Instruments）。

值得注意的是，芯片設計成本較低的問題并不能使FPGA成為低價位的選擇。它們通常最適用于研究或工業應用。電路和設計的復雜性使其可編程，不適用于低成本的消費類應用。

由于FPGA可以重新編程，這使得其對于新興的機器學習領域來說很有價值。不斷增加算法，并通過重新編程塊來針對不同算法進行微調。此外，低精度推斷的低功耗FPGA對于遠程傳感器來說是一個很好的組合。雖然發明人將“現場（field）”更多地稱為“客戶（customer）”，但FPGA在實現AI應用方面的真正優勢在實際領域中。無論是對于工廠、道路和管道等基礎設施，還是無人機遠程檢測，FPGA都允許系統設計人員靈活地使用一塊硬件，以實現多種用途，從而實現更簡單的物理設計，從而可以更加容易地進行現場應用。

新體系結構即將到來

GPU和FPGA是目前正在幫助解決如何擴大機器學習對許多市場影響的挑戰的技術。他們所做的是讓更多人關注這個行業的發展，并試圖及時創建新的架構來應用。

一方面，許多公司試圖在GPU上學習張量運算的教訓。惠普、IBM和英特爾都有開發專門用于深度學習的下一代張量運算設備的項目。與此同時，像Cambricon、Graphcore和Wave Computing這樣的初創公司也在努力做同樣的事情。

另一方面，Arm、Intel和其他公司正在設計架構，以充分利用GPU和CPU，并使器件也瞄準機器學習市場，據稱能夠做的不僅僅是集中張量運算，對于圍繞核心AI流程的其他處理也更加強大。

雖然上述一些組織專注于數據中心和其他物聯網，但現在談論其中的任何一個都為時尚早。

從全球公司到初創公司，一個告誡是，除了最早的信息外，還沒有其他信息出現。如果我們最遲在2020年看到最早的器件樣品，那么這將是一個驚喜，所以它們至少在五年內不會上市。