（文章來源：電子工程世界）

在今天的大數據時代，企業和消費者被各種來源的海量數據淹沒，包括商業交易、社交媒體以及傳感器或機器對機器數據的信息。這些數據有多種格式，從傳統數據庫中的結構化數字數據到非結構化文本文檔、電子郵件、視頻、音頻和金融交易。

對這些數據的有效分析是產生洞察力和驅動更好的決策制定和機器學習(ML)算法的關鍵，這些算法在現代數據分析中被廣泛使用。深度卷積網絡(DNN)作為一種特殊的ML算法，在圖像分類中得到了廣泛的應用。當前的一代DNN，如ALEXNET和VGG，依賴于密集浮點矩陣乘法(GEMM)，這種算法具有規則的并行性和較高的TFLOPS（每秒浮點運算次數），能夠很好地映射到GPU功能。

雖然FPGA比GPU更節能(在今天的物聯網市場很重要)，但它們在DNN上的性能與GPU并不匹配。英特爾進行的一系列測試評估了兩種最新一代FPGA(英特爾的Arria TM10和statix TM10)與最新的高性能GPU (Titan X Pascal)在DNN計算上的性能。

由于數據并行計算具有規則的并行性和高浮點計算吞吐量，傳統上DNN都使用GPU。每一代GPU都加入了更多的浮點單元、片上RAM和更高的內存帶寬，以提供更多的浮點運算次數。然而，由于發散等問題，具有不規則并行性的計算可能會對GPU造成挑戰。此外，由于GPU只支持一組固定的本地數據類型，定制定義的數據類型可能無法有效地處理，從而導致硬件資源利用率不足和性能不理想。

首先，下一代FPGA集成了更多的片上RAM。其次，像HYPERFLEX這樣的技術可以顯著提高頻率。第三，還有更多的DSP可用。第四，HBM內存技術的集成導致芯片外帶寬增加，最后，下一代FPGA將使用更先進的工藝技術，如14nm CMOS。

英特爾Stratix 10 FPGA芯片擁有5000多個硬化浮點數單元(dsp)，超過28MB的片上RAM (M20Ks)，與高帶寬內存(高達4x250GB/s/stack或1TB/s)集成，并改進了新HyperFlex技術頻率，使得FP32吞吐量峰值9.2 Tflops。此外，FPGA開發環境和工具集也在不斷發展，支持更高抽象級別的編程，開發人員更容易訪問FPGA編程。

英特爾最近在研究下一代DNN的各種GEMM操作。開發了用于FPGA的DNN硬件加速模板，為開發稀疏矩陣算法和自定義數據類型提供了一流的硬件支持。該模板是為了支持各種下一代DNN而開發，并且可以定制，為用戶給定的DNN變體生成優化的FPGA硬件實例。

該模板被用于運行和評估下一代DNN的各種關鍵矩陣乘法操作，當前和下一代FPGA (Arria 10, Stratix 10)以及最新的高性能Titan X Pascal GPU.本研究結果發現，與Titan X Pascal GPU相比，在pruned, Int6和二值網絡學習上（pruned, Int6, and binarized）DNNs的GEMM操作上，Stratix 10 FPGA的性能分別是Titan X Pascal GPU的1.1倍、1.5倍和5.4倍。

這些測試還表明，Arria 10和Stratix 10 FPGA相對于Titan X GPU提供了令人滿意的能源效率(TOP/sec/watt)，與Titan X相比，這兩種設備的能源效率都提高了3到10倍。雖然GPU一直是支持DNN的無可爭議的選擇，但最近對兩代Intel FPGA (Arria 10和Stratix 10)和最新的Titan X GPU的性能比較表明，當前DNN算法的趨勢有利于FPGA，甚至FPGA可能提供更好的性能。
? ? ? ?（責任編輯：fqj）