NVIDIA（英偉達）21 日宣布推出 Pascal 架構深度學習平臺的最新生力軍 NVIDIA Tesla P4 及 P40 GPU 加速器與全新軟件，在效能及速度提供大幅度的提升以加速人工智能服務的推論生產作業負載。

語音助理、待過濾垃圾郵件及電影與產品推薦引擎等現代人工智能（AI）服務越來越復雜，與一年前的神經網絡相比需要高出 10 倍的運算。目前以 CPU 為主的技術無法提供現代人工智能服務所需要的即時回應能力，導致不佳的使用者經驗。

Tesla P4 及 P40 特別針對推論設計，使用經訓練的深度神經網絡辨識語音、影像及文字以回應使用者和設備要求。Pascal 架構 GPU 具備以 8 位（INT8）運算為主的專門推論指令，提供比 CPU 快 45 倍的反應速度，與不到一年前推出的 GPU 解決方案相比則提升了 4 倍。

Tesla P4 為數據中心帶來最高的能源效率，其小尺寸及最小 50 瓦特的低功率設計可安裝于任何服務器內，讓生產作業負載推論的能源效率達 CPU 的 40 倍。在進行視訊推論作業負載時，單一服務器里安裝單顆 Tesla P4 即可取代 13 臺僅采用 CPU 的服務器；而包含服務器及用電量的總持有成本則能節省達 8 倍。

Tesla P40 為深度學習作業負載帶來最大的處理量。一臺搭載 8 顆 Tesla P40 加速器的服務器擁有每秒 47 兆次運算（TOPS）的推論效能及 INT8 指令，可取代 140 臺以上的 CPU 服務器的效能。若以每臺 CPU 服務器約 5,000 美元計算，可節省 65 萬美元以上的服務器采購成本。

NVIDIA 加速運算總經理 Ian Buck 表示：“有了 Tesla P100 以及新推出的 Tesla P4 及 P40，NVIDIA 為數據中心提供唯一的端對端深度學習平臺，為各大產業釋放龐大的人工智能潛力。將訓練時間從數天大幅縮短至數小時，能立即解析資料，并透過人工智能服務即時對消費者做出回應。”

另外與 Tesla P4 及 P40 推出的包含兩項加速人工智能推論的創新軟件：NVIDIA TensorRT 及 NVIDIA DeepStream SDK。

TensorRT 為針對優化生產部署所設計的深度學習模型函式庫，具有立即回應極度復雜網絡的能力。透過訓練過的 32 位或 16 位定義神經網絡以及設定以降低精度的 INT8 運算為目的進行優化，將深度學習應用的處理量及效率極大化。

NVIDIA DeepStream SDK 銜接強大的 Pascal 服務器，與雙 CPU 只能處理 7 個串流的運算能力相比，能即時同步解碼并分析高達 93 個 HD 視訊串流。這解決人工智能的其中一項重大挑戰：處理大規模的影音內容分析以應用到如自駕車、互動式機器人、過濾及廣告投放等領域。深度學習整合至視訊應用中讓企業能提供前所未有、智能且創新的視訊服務。

NVIDIA 的客戶提供越來越多需要最高運算效能的創新人工智能服務。其中中國***廠商廣達持續在服務器業務與 NVIDIA 合作，從世上首座人工智能超級電腦系統 DGX-1、Facebook Big Sur 推論服務器到搭載 NVIDIA 糖果盒大小 Tesla P4 輕巧 1U 服務器，皆透過該公司而得以打造出優異的產品陣容。

NVIDIA 共同創辦人暨CEO黃仁勛表示：“廣達從早期便與我們一同致力于 GPU 服務器發展，不論想建造何種類型數據中心，透過我們與廣達及云達的合作都能達成。”

云達科技總經理楊晴華表示：“我們的客戶相當倚重云達在超大規模 、高密度融合機架式等級解決方案中的領導地位，這些解決方案通常都需要高效能的作業負載。以深度學習的應用而言，平行運算回應之間的延遲性表現十分重要，而 Tesla P40 和 P4 正是能表現出準確與靈敏效能的新一代 GPU 解決方案。”