熊旗
- 24年智能車競賽地平線賽道國獎獲得者
- 創(chuàng)客孵化營成員
- 嵌入式AI大膽玩家
- 目標(biāo)是減少開發(fā)者煩惱

Part.1開發(fā)者日記
Showtime:RDK模型一站式開發(fā)工具功能展示

Part.2開發(fā)者日記故事的開始:一個(gè)念頭引發(fā)的技術(shù)挑戰(zhàn)
“ 之前在使用的RDK X3的時(shí)候,看到過前輩關(guān)于新一代量化轉(zhuǎn)換工具鏈?zhǔn)褂?a href="http://www.asorrir.com/v/" target="_blank">教程,這個(gè)工具真的非常的方便!能非常快速的完成X3上模型的量化,不過針對X5的工具仍在開發(fā)......"
于是熊旗大膽決定“讓我來!”
他決定仿照前輩的X3可視化工具鏈來制作一個(gè)適配X5的可視化量化轉(zhuǎn)換工具鏈。
“我的初步構(gòu)想便是這個(gè)可視化工具鏈能夠逐步適配地瓜機(jī)器人ModelZoo里的所有模型,實(shí)現(xiàn)一站式從模型的訓(xùn)練到模型的轉(zhuǎn)換最后到部署,使之能夠更加輕松便捷的服務(wù)新拿到RDK的同學(xué)們。”
Part.3開發(fā)者日記領(lǐng)域展開:魔法的使用方法
于是在經(jīng)過一段時(shí)間的研發(fā)后,熊旗的工具鏈初版完成。目前,模型的訓(xùn)練和導(dǎo)出已全面支持YOLO系列,實(shí)現(xiàn)了從訓(xùn)練到轉(zhuǎn)換的完整流程,能有效幫助開發(fā)者更直觀地理解和優(yōu)化模型。
Docker使用(推薦)
# step 1 拉取docker鏡像(阿里云倉庫)docker pull crpi-0uog49363mcubexr.cn-hangzhou.personal.cr.aliyuncs.com/skyxz/rdk_toolchain:v1.3# step 2 創(chuàng)建文件夾映射mkdir ~/datasetexport dataset_path=~/dataset# Run-Method-1 臨時(shí)創(chuàng)建容器(自行修改--shm-size配置)docker run -it --rm --gpus all --shm-size=32g --ipc=host -e PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128 -e CUDA_LAUNCH_BLOCKING=1 -p 5000:5000 -p 8080:8080 -v "$dataset_path":/data crpi-0uog49363mcubexr.cn-hangzhou.personal.cr.aliyuncs.com/skyxz/rdk_toolchain:v1.3# Run-Method-2 永久創(chuàng)建容器(自行修改--shm-size配置)docker run -it --rm --gpus all --shm-size={你的內(nèi)存大小例如:32g} --ipc=host -e PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128 -e CUDA_LAUNCH_BLOCKING=1 -p 5000:5000 -p 8080:8080 -v "$dataset_path":/data crpi-0uog49363mcubexr.cn-hangzhou.personal.cr.aliyuncs.com/skyxz/rdk_toolchain:v1.3 手動構(gòu)建docker鏡像
手動構(gòu)建docker鏡像
# step 1 :從百度云下載源碼(倉庫中僅有前端后端實(shí)現(xiàn))https://pan.baidu.com/s/1fz_DueWNr3uKDLO7KkNwZw?pwd=7jy3# step 2 解壓并進(jìn)入項(xiàng)目目錄# step 3 構(gòu)建dockerdocker build -t rdk_toolchain .# step 4 創(chuàng)建文件夾映射mkdir ~/datasetexport dataset_path=~/dataset# Run-Method-1 臨時(shí)創(chuàng)建容器(自行修改--shm-size配置)docker run -it --rm --gpus all --shm-size=32g --ipc=host -e PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128 -e CUDA_LAUNCH_BLOCKING=1 -p 5000:5000 -p 8080:8080 -v "$dataset_path":/data crpi-0uog49363mcubexr.cn-hangzhou.personal.cr.aliyuncs.com/skyxz/rdk_toolchain:v1.3# Run-Method-2 永久創(chuàng)建容器(自行修改--shm-size配置)docker run -it --rm --gpus all --shm-size={你的內(nèi)存大小例如:32g} --ipc=host -e PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128 -e CUDA_LAUNCH_BLOCKING=1 -p 5000:5000 -p 8080:8080 -v "$dataset_path":/data crpi-0uog49363mcubexr.cn-hangzhou.personal.cr.aliyuncs.com/skyxz/rdk_toolchain:v1.3
直接下載源碼使用
# step 1 :從百度云下載源碼(倉庫中僅有前端后端實(shí)現(xiàn))https://pan.baidu.com/s/1fz_DueWNr3uKDLO7KkNwZw?pwd=7jy3# step 2 : 安裝依賴pip3 install -r requirements_docker.txt# step 3 :運(yùn)行腳本即可bash start_services.sh
盡管其他模型如 ResNet、FCOS 仍在支持計(jì)劃中,但由于模型量化和轉(zhuǎn)換部分的高自由度,目前已能夠覆蓋絕大多數(shù)模型的轉(zhuǎn)換需求。
Part.4開發(fā)者日記Dev前必看:避坑指南 Loading...
當(dāng)前頁面的任務(wù)正在進(jìn)行的時(shí)候請不要切換至其他頁面!切至其他頁面后再切回本頁面無法恢復(fù)原先內(nèi)容!也無法結(jié)束進(jìn)行中的進(jìn)程了!
當(dāng)停止某項(xiàng)操作時(shí)(如停止訓(xùn)練)有時(shí)停止按鈕可能會卡住無反應(yīng),這不是卡死了!這是后臺正在嘗試殺死進(jìn)程中,幾秒后再次點(diǎn)擊停止即可退出!
當(dāng)遇到無法結(jié)束進(jìn)程或是在任務(wù)進(jìn)行中切換至其他頁面時(shí)請停止Docker以結(jié)束后臺正在運(yùn)行中的進(jìn)程!
部分日志輸出為紅色不一定是報(bào)錯(cuò)!進(jìn)程是否因?yàn)閳?bào)錯(cuò)結(jié)束請以訓(xùn)練狀態(tài)標(biāo)志為準(zhǔn)!
除了模型導(dǎo)出的onnx會放在原pt模型路徑下之外,其他所有運(yùn)行的結(jié)果將保存在/app/logs下
版本進(jìn)化論:可持續(xù)發(fā)展ing
已支持所有模型的量化轉(zhuǎn)換操作
已完成ModelZoo中YOLO全系列的訓(xùn)練與導(dǎo)出實(shí)現(xiàn)
TODO V2.0
即將支持ResNet系列模型、FCOS等模型
即將實(shí)現(xiàn)PC端轉(zhuǎn)換后模型推理檢查
推文有沒有讓你意猶未盡?還有哪些沒講到的部分讓你撓頭?別急!熊旗已經(jīng)準(zhǔn)備好了——
RDK可視化工具還有哪些隱藏玩法? 開發(fā)過程中遇到的坑,怎么優(yōu)雅避開? 關(guān)于模型適配、優(yōu)化、擴(kuò)展性……
你問,熊旗答!
一個(gè)人敲代碼是孤獨(dú)的,但一群人一起敲,就變成了一場狂歡——
3月4日晚上7:00,在深夜一個(gè)人debug前,不妨預(yù)約地瓜機(jī)器人視頻號和Bilibili,和熊旗一起把代碼聊出花
-
RDK
+關(guān)注
關(guān)注
0文章
24瀏覽量
9163 -
開發(fā)者
+關(guān)注
關(guān)注
1文章
622瀏覽量
17358 -
模型轉(zhuǎn)換
+關(guān)注
關(guān)注
0文章
4瀏覽量
5272
發(fā)布評論請先 登錄
【「零基礎(chǔ)開發(fā)AI Agent」閱讀體驗(yàn)】+Agent開發(fā)平臺
地瓜機(jī)器人RDK X5 規(guī)格書與地瓜機(jī)器人RDK X5原理圖


首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手
將YOLOv4模型轉(zhuǎn)換為IR的說明,無法將模型轉(zhuǎn)換為TensorFlow2格式怎么解決?
為什么Caffe模型可以直接與OpenVINO?工具套件推斷引擎API一起使用,而無法轉(zhuǎn)換為中間表示 (IR)?
VirtualLab Fusion應(yīng)用:光波導(dǎo)k域布局可視化(“神奇的圓環(huán)”)
添越智創(chuàng)基于 RK3588 開發(fā)板部署測試 DeepSeek 模型全攻略
2024年AI開發(fā)者中間件工具生態(tài)全面總結(jié)
【ELF 2學(xué)習(xí)板試用】利用RKNN-Toolkit2實(shí)現(xiàn)rknn模型轉(zhuǎn)換
七款經(jīng)久不衰的數(shù)據(jù)可視化工具!
云端AI開發(fā)者工具怎么用
2024 TUYA全球開發(fā)者大會盛大啟幕,Cube AI大模型重磅首發(fā)!

2024 TUYA全球開發(fā)者大會盛大啟幕,Cube AI大模型重磅首發(fā)!

評論