數據類型是我們使用C++編程時必須明確的一項內容。針對AI Engine,這一點尤為重要。因為不同的數據類型所支持的運算是不同的。對于標量類型,AI Engine支持標準的8位、16位和32位有符號/無符號整型數據類型,同時也支持32位單精度浮點類型(float)。對于向量類型,AI Engine支持特定的向量,所謂特定是指其長度(元素個數)和寬度(數據位寬)是固定的幾種,這源于AI Engine自身的架構。 AI Engine所支持的向量類型如下表所示。不難看出,向量的總位寬無外乎128/256/512/1024-bit這四種。例如,對于int8,寬度為8,長度最小為16(對應總位寬為128),最大為128(對應總位寬為1024)。對于cint32(c是complex的首字母,表示復數),寬度為64,長度最小為2(對應總位寬為128),最大為16(對應總位寬1024)。
為什么向量的總位寬只有這四種呢?這是因為AI Engine內部的向量寄存器位寬也只有這四種,如下圖所示。從這個角度而言,盡管C++是高抽象度的編程語言,但針對AI Engine,在編程時仍要考慮AI Engine的架構,編程的過程有點像在C++里寫匯編語言。由于向量寄存器的個數是有限的,故向量寄存器屬于稀缺資源,如果設計中定義的向量個數超過了向量寄存器的個數,工具會將其映射到AI Engine內的存儲器,這時讀/寫存儲器就會有額外的Latency消耗。
如何使用API定義一個向量呢?我們看一個簡單的例子: aie::vector《int32, 16》 這里定義了一個寬度為32,長度為16的向量,如下圖所示。共16個索引,每個索引對應一個int32整型數據。
AIE(14)—AI Engine API簡介
AIE(13)—標量/向量處理單元
AIE(12)—AI Engine架構概覽
AIE(11)—評估graph性能
AIE(10)—使用Trace View
AIE(9)—創建包含PL/PS/AIE的Vitis工程(2)
AIE(8)—創建包含PL/PS/AIE的Vitis工程(1)
AIE(7)—理解Runtime Ratio
AIE(6)—用Vitis Analyzer查看AIE編譯結果
AIE(5)—針對AI Engine進行編譯
AIE(4)—AIE編譯器和X86模擬器
AIE(3)—理解AIE編程中的Kernel
AIE(2)—理解AIE編程中的graph
AIE(1)—創建一個簡單的AIE工程
揭秘AIE
布線后的設計調試方法
Vivado下如何定制Strategy?
Vivado BDC 怎么用?
Verilog仿真如何生成隨機數
為什么VitisHLS報告中Latency顯示-?
利用綜合技術緩解布線擁塞
Vivado下的管腳分配可以這么做
Vivado Block Design Container
Vivado跟路徑相關的錯誤信息
使用帶HBM芯片的注意事項
Vivado Intelligent Design Run(2)
Vivado Intelligent Design Run (1)
Abstract Shell流程分析(2)
Abstract Shell流程分析(1)
Vivado下封裝IP基本知識
原文標題:AIE(15)—AI Engine中的數據類型(1)
文章出處:【微信公眾號:TeacherGaoFPGAHub】歡迎添加關注!文章轉載請注明出處。
-
存儲器
+關注
關注
38文章
7629瀏覽量
166314 -
API
+關注
關注
2文章
1559瀏覽量
63488 -
編程語言
+關注
關注
10文章
1955瀏覽量
36017
原文標題:AIE(15)—AI Engine中的數據類型(1)
文章出處:【微信號:Lauren_FPGA,微信公眾號:FPGA技術驛站】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
如何獲取 OpenAI API Key?API 獲取與代碼調用示例 (詳解教程)

集成API設計+測試+文檔管理,全新一站式解決方案SmartBear API Hub功能介紹

使用Python API在OpenVINO?中創建了用于異步推理的自定義代碼,輸出張量的打印結果會重復,為什么?
openai api key獲取的三種方案(有一種可以白嫖到 api key)

dlp3010如果不用gui, 只用api投射自己定義的投射碼,要怎么操作?
OpenAI 發了一個支持 ESP32 的 Realtime API SDK

api驅動的云服務是什么意思?
華為云CodeArts API助力企業數字化轉型
華納云:使用 WireMock 在開發和測試中模擬 API 服務
如何使用espconn api實現一個Web服務器?
OpenAI API Key獲取:開發人員申請GPT-4 API Key教程

評論