英特爾開(kāi)發(fā)的 FPGA AI 套件旨在減少使用英特爾 CPU、英特爾 SoC FPGA 和英特爾 FPGA 創(chuàng)建功能強(qiáng)大的異構(gòu) AI 深度學(xué)習(xí) (DL) 推理系統(tǒng)所需的工作量。
該套件支持 FPGA 設(shè)計(jì)人員、機(jī)器學(xué)習(xí)工程師和軟件開(kāi)發(fā)人員高效創(chuàng)建和優(yōu)化 AI 推理平臺(tái),以達(dá)到性能、功耗和成本俱佳的目標(biāo)。
英特爾 FPGA AI 套件中集成的實(shí)用程序加快了基于 FPGA 的 AI 推理引擎的開(kāi)發(fā)速度。數(shù)據(jù)科學(xué)家和工程師可以從任何熟悉的行業(yè)框架(如 TensorFlow 和 PyTorch)開(kāi)始訓(xùn)練和收斂推理模型,然后可以使用英特爾 分發(fā)版 OpenVINO 工具包通過(guò)簡(jiǎn)化邏輯和降低內(nèi)存占用率來(lái)優(yōu)化推理模型的性能和功耗。
請(qǐng)注意,該優(yōu)化是在 CPU 和 FPGA 的異構(gòu)組合中執(zhí)行的。隨后,英特爾 FPGA AI 套件會(huì)進(jìn)一步優(yōu)化最終設(shè)計(jì)的 FPGA 部分。經(jīng)優(yōu)化的設(shè)計(jì)會(huì)使用英特爾 Quartus Prime 軟件直接輸入到強(qiáng)大且經(jīng)過(guò)驗(yàn)證的 FPGA 開(kāi)發(fā)流程中。
Stryker公司的研發(fā)團(tuán)隊(duì)在評(píng)估英特爾FPGA AI 套件后得出以下結(jié)論:
●英特爾 FPGA AI 套件和 OpenVINO 工具包非常易用。借助這些工具, Stryker 能夠開(kāi)發(fā)出更為優(yōu)化的用于深度學(xué)習(xí)推理的 FPGA IP。該推理 IP 已使用英特爾QuartusPrime 軟件成功集成到了英特爾 FPGA 中。與套件一起提供的設(shè)計(jì)示例也使團(tuán)隊(duì)能夠快速評(píng)估不同圖像源的不同算法。
●英特爾 FPGA AI 套件和 OpenVINO 工具包使數(shù)據(jù)科學(xué)家和 FPGA 工程師能夠無(wú)縫協(xié)作,為醫(yī)療應(yīng)用開(kāi)發(fā)更好的深度學(xué)習(xí)推理模型。
您可以使用英特爾 分發(fā)版 OpenVINO 工具包和英特爾 FPGA AI 套件開(kāi)發(fā)推理系統(tǒng),服務(wù)于從 DL 增強(qiáng)型嵌入式系統(tǒng)一直到在多個(gè) FPGA 加速的服務(wù)器上運(yùn)行的高級(jí)數(shù)據(jù)中心應(yīng)用工作負(fù)載。
如果您想開(kāi)發(fā)用于檢測(cè)、分類(lèi)、分割或相關(guān)任務(wù)的 FPGA 加速的 DL 推理模型,可以使用 OpenVINO 工具包和英特爾 FPGA AI 套件來(lái)實(shí)現(xiàn);如果您想在使用 FPGA 編碼或解碼視頻或者在處理計(jì)算機(jī)視覺(jué)圖像的同時(shí)有效傳輸視頻流,也可以使用英特爾 分發(fā)版 OpenVINO 工具包和英特爾 FPGA AI 套件。可以說(shuō),F(xiàn)PGA 特別適合這種預(yù)處理和后處理。
如果您沒(méi)有自己的推理模型供訓(xùn)練使用,但又迫不及待地想涉足深度學(xué)習(xí)領(lǐng)域,可以利用英特爾 分發(fā)版 OpenVINO 工具包,因?yàn)楣ぞ甙杏忻嫦驈V泛使用的神經(jīng)網(wǎng)絡(luò)的預(yù)訓(xùn)練推理模型,您可以先從這些模型入手。
圖1 顯示的是基于這套工具的推理系統(tǒng)開(kāi)發(fā)流程。
圖1 英特爾 FPGA AI 套件開(kāi)發(fā)流程
英特爾 FPGA AI 套件目前可支持英特爾 Agilex FPGA、英特爾 Cyclone 10 GX FPGA 和英特爾 Arria 10 FPGA,并提供了未來(lái)支持更多英特爾 FPGA 的路線(xiàn)圖。當(dāng)然,這些工具背后還有很多英特爾的在線(xiàn)支持。
審核編輯 :李倩
-
FPGA
+關(guān)注
關(guān)注
1643文章
21949瀏覽量
613732 -
英特爾
+關(guān)注
關(guān)注
61文章
10163瀏覽量
173851 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8488瀏覽量
134011
原文標(biāo)題:解析丨英特爾? FPGA AI 套件搭配?OpenVINO? 工具包,助力創(chuàng)建異構(gòu)推理系統(tǒng)
文章出處:【微信號(hào):英特爾FPGA,微信公眾號(hào):英特爾FPGA】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
請(qǐng)問(wèn)如何在OpenVINO?工具包中啟用NPU設(shè)備?
在Google Colab筆記本電腦上導(dǎo)入OpenVINO?工具包2021中的 IEPlugin類(lèi)出現(xiàn)報(bào)錯(cuò),怎么解決?
構(gòu)建開(kāi)源OpenVINO?工具包后,使用MYRIAD插件成功運(yùn)行演示時(shí)報(bào)錯(cuò)怎么解決?
在Windows中安裝OpenVINO?后,無(wú)法找到OpenCL編譯器二進(jìn)制文件是怎么回事?
為什么無(wú)法檢測(cè)到OpenVINO?工具套件中的英特爾?集成圖形處理單元?
請(qǐng)問(wèn)OpenVINO?工具套件英特爾?Distribution是否與Windows? 10物聯(lián)網(wǎng)企業(yè)版兼容?
安裝OpenVINO?適用于Raspberry Pi64位操作系統(tǒng)的工具套件2022.3.1,配置英特爾?NCS2時(shí)出錯(cuò)怎么解決?
將英特爾?獨(dú)立顯卡與OpenVINO?工具套件結(jié)合使用時(shí),無(wú)法運(yùn)行推理怎么解決?
安裝OpenVINO?工具包穩(wěn)定擴(kuò)散后報(bào)錯(cuò),怎么解決?
為什么Caffe模型可以直接與OpenVINO?工具套件推斷引擎API一起使用,而無(wú)法轉(zhuǎn)換為中間表示 (IR)?
英特爾OpenVINO 2025.0正式發(fā)布

C#中使用OpenVINO?:輕松集成AI模型!

使用英特爾哪吒開(kāi)發(fā)套件部署YOLOv5完成透明物體目標(biāo)檢測(cè)

評(píng)論