01性能炸裂
速度領(lǐng)先RK358815%,性能直逼OrinNano!
久等了!矽速 M4N Dock(愛(ài)芯派Pro,AX650N) 已支持部署 DeepSeek R1 大模型,實(shí)測(cè)運(yùn)行速度超越 RK3588 達(dá)15% ,距離 40TOPS 算力的 Nvidia Orin Nano 8G版僅差10% !

圖1:DeepSeek-R1 Distill Qwen 運(yùn)行速度對(duì)比

圖2:運(yùn)行實(shí)測(cè)圖
02開(kāi)發(fā)者福利
開(kāi)源模型+一鍵部署!
為助力開(kāi)發(fā)者快速上手,現(xiàn)已開(kāi)源 DeepSeek-R1-Distill-Qwen-1.5B 輕量化模型,支持 GPTQ-Int4 高效推理!
模型下載:Huggingface倉(cāng)庫(kù)直達(dá) 鏡像支持:基于Ubuntu系統(tǒng)的最新鏡像 AX650_pipro_box_ubuntu_rootfs_desktop_V1.45.0內(nèi)置預(yù)裝環(huán)境,用戶root,密碼1234566,
03
即刻入手
M4N Dock,體驗(yàn)極致性能!
圖3:M4N Dock產(chǎn)品圖
超高性價(jià)比,AI推理性能比肩旗艦支持多模態(tài)大模型部署即插即用,開(kāi)發(fā)板+算法一站式體驗(yàn)立即購(gòu)買(mǎi):Sipeed官方店
04
新品劇透
百元級(jí)LLM硬件即將登場(chǎng)!
2025年矽速科技將推出 MaixHAT —— 百元級(jí)端側(cè)大模型硬件平臺(tái)!
圖4:MaixHAT產(chǎn)品預(yù)覽圖
核心優(yōu)勢(shì)
兼容樹(shù)莓派HAT接口,無(wú)縫適配IoT設(shè)備
支持串口LLM推理,可獨(dú)立運(yùn)行或作為開(kāi)發(fā)模塊
高性價(jià)比,加速AIoT產(chǎn)品落地
發(fā)布日期:未來(lái)2個(gè)月內(nèi),敬請(qǐng)期待!
-
RK3588
+關(guān)注
關(guān)注
7文章
403瀏覽量
5557 -
大模型
+關(guān)注
關(guān)注
2文章
3025瀏覽量
3825 -
DeepSeek
+關(guān)注
關(guān)注
1文章
773瀏覽量
1336
發(fā)布評(píng)論請(qǐng)先 登錄
DeepSeek R1模型本地部署與產(chǎn)品接入實(shí)操

【幸狐Omni3576邊緣計(jì)算套件試用體驗(yàn)】DeepSeek 部署及測(cè)試
RK3588開(kāi)發(fā)板上部署DeepSeek-R1大模型的完整指南
研華發(fā)布昇騰AI Box及Deepseek R1模型部署流程
研華邊緣AI Box MIC-ATL3S部署Deepseek R1模型

了解DeepSeek-V3 和 DeepSeek-R1兩個(gè)大模型的不同定位和應(yīng)用選擇
【實(shí)測(cè)】用全志A733平板搭建一個(gè)端側(cè)Deepseek算力平臺(tái)
Deepseek R1大模型離線部署教程

端側(cè)AI元年爆發(fā)!廣和通AI模組及解決方案全面支持DeepSeek-R1蒸餾模型

部署DeepSeek R1于AX650N與AX630C平臺(tái)

壁仞科技順利部署DeepSeek R1千問(wèn)蒸餾模型
扣子平臺(tái)支持DeepSeek R1與V3模型
deepin UOS AI接入DeepSeek-R1模型
云天勵(lì)飛上線DeepSeek R1系列模型

評(píng)論