賽靈思 Vitis? AI 1.4 現(xiàn)已正式發(fā)布。這是一個功能強大的機器學(xué)習(xí)開發(fā)平臺，用于在賽靈思自適應(yīng)計算平臺上實現(xiàn) AI 推斷加速。該版本為用戶提供了完整的解決方案堆棧，首次實現(xiàn)了對最新 7nm Versal ACAP 平臺和基于 16nm 工藝的Kria? 自適應(yīng)系統(tǒng)模塊（ SOM ）產(chǎn)品組合的支持。對 Versal 平臺的支持范圍包括 Versal AI Core 系列 VCK190 評估套件，以及用于 AI 推斷的 VCK5000 Versal 開發(fā)卡。

VCK190 套件是首款 Versal AI Core 系列評估套件，可幫助設(shè)計者使用 AI 和 DSP 引擎開發(fā)解決方案。與當今服務(wù)器級 CPU 相比，可提供超過 100 倍的計算性能。VCK190 套件是支持從云端到邊緣實現(xiàn)高吞吐量 AI 推斷和信號處理應(yīng)用的理想平臺。VCK190 套件是支持從云端到邊緣實現(xiàn)高吞吐量 AI 推斷和信號處理應(yīng)用的理想平臺。

VCK5000 Versal 開發(fā)卡面向需要高吞吐量 AI 推斷和信號處理計算性能的設(shè)計。 VCK5000 開發(fā)平臺為云加速和邊緣計算應(yīng)用提供了開箱即用的解決方案，無需事先具備 FPGA 硬件專業(yè)知識。

結(jié)合 Kria KV260 視覺AI 入門套件，這些全新 AI 開發(fā)平臺為用戶提供了更多可能性，使其能夠在 AI 產(chǎn)品化過程中實現(xiàn)卓越的 AI 推斷性能、可擴展性和云到邊緣部署選擇。

賦予 AI 產(chǎn)品化更多可能性

為了讓更多用戶體驗到高效 AI 推斷加速帶來的益處，賽靈思提供了一整套 AI 模型，其中所有模型都經(jīng)過優(yōu)化，可重訓(xùn)練、可部署，也供所有人免費下載。在 Vitis AI 1.4 中，該 AI Model Zoo 的多樣性進一步增加，所涵蓋的最先進模型可用于 4D 雷達檢測、圖像激光雷達傳感器融合、 環(huán)視 3D 檢測、深度評估、超分辨率等領(lǐng)域，總共包含來自不同 ML 框架的數(shù)百個模型。

當然，為了保持差異化的產(chǎn)品功能和競爭力，部分用戶會選擇直接部署定制神經(jīng)網(wǎng)絡(luò)模型。通過引入稱之為 graph-runner 的全新部署 API，Vitis AI 1.4 還為這些用戶提供了更加流暢的體驗，使定制層在 DPU 和 CPU 上即插即用成為現(xiàn)實。

行業(yè)領(lǐng)先的邊緣與云端性能

賽靈思 FPGA、自適應(yīng) SoC 和 ACAP 所提供的硬件架構(gòu)，可以靈活適應(yīng)不同場景的計算需求，所提供的靈活性和可定制性則能適應(yīng)不同的算法拓撲、精度甚至存儲器層級。這既是贏得 AI 產(chǎn)品化之戰(zhàn)的最佳方式，也是創(chuàng)建特定領(lǐng)域架構(gòu)（ DSA ）誕生的原因。

為了證明 DSA 在 AI 推斷加速方面的高效性，賽靈思于今年早些時候在 MLPerf v1.0 結(jié)果中提交了 ResNet-50 封閉類別基準測試。MLPerf Inference v1.0 是 MLCommons 組織的機器學(xué)習(xí)推斷性能基準套件。結(jié)果衡量了一個訓(xùn)練有素的神經(jīng)網(wǎng)絡(luò)在各種情況下處理廣泛應(yīng)用的新數(shù)據(jù)的速度。利用 Versal VCK5000 PCI-E 卡，賽靈思獲得了每秒 5，921 張圖像（ img/s ）的結(jié)果。相同模式下的加速性能結(jié)果優(yōu)于英偉達 T4卡。#FormatImgID_4#

除此之外，Versal AI Core系列 VCK190 的性能結(jié)果也證明了賽靈思在 AI 加速方面的實力。通過利用 AI 引擎（ AIE ）內(nèi)核和 DPU 設(shè)計、經(jīng)優(yōu)化的存儲器層級和帶寬 IO，VCK190 取得了 1，567 img/s 和 7.6ms 時延的 ResNet50-v1.5 結(jié)果，較之英偉達 AGX Xavier 性能提升了 87%且時延降低了 19 倍 。最重要的是，借助 Vitis AI 1.4，所有用戶通常都可以利用 VCK5000 和 VCK190 進行加速。

致力于易于使用的軟件開發(fā)流程

賽靈思始終致力于提供更加易用的軟件工具，方便更多用戶從事軟件開發(fā)、數(shù)據(jù)和 AI 科學(xué)開發(fā)以及嵌入式開發(fā)，從而在賽靈思自適應(yīng)計算平臺上輕松實現(xiàn) AI 部署。

借助 Vitis AI 1.4，量化器、優(yōu)化器和編譯器工具的支持范圍均已擴展至最流行的機器學(xué)習(xí)框架、Pytorch、Tensorflow 1.x、Tensorflow 2.x 和 Caffe。全新 API 和操作員功能也已加入其中，以實現(xiàn)更多 AI 模型跨多個器件的部署。

自賽靈思 Vitis AI 1.0 于 2020 年 1 月發(fā)布以來，其下載量已超過 10 萬次，并被數(shù)百名用戶應(yīng)用于 AI 推斷。全球各地的 AI 開發(fā)者利用 Vitis AI 打造了許多激動人心的項目。現(xiàn)在，伴隨 Vitis AI 1.4 的發(fā)布以及支持眾多全新功能與模型，開發(fā)者可以在全新 Versal AI Core 系列和 Kria SOM 平臺上開展更多工作。

審核編輯：郭婷