DeepSeek開(kāi)源模型的熱度席卷全球，其高效性和易用性正在成為推動(dòng)AI技術(shù)普惠化的重要力量。后摩智能作為國(guó)產(chǎn)存算一體AI芯片的領(lǐng)軍企業(yè)，自研的后摩漫界M30芯片成功適配DeepSeek-R1-Distill-Qwen系列模型，包括1.5B、7B、14B等。這一成果不僅證明了存算一體芯片架構(gòu)在大模型高效部署中的顯著優(yōu)勢(shì)，也為端邊大模型的廣泛應(yīng)用提供了強(qiáng)大的技術(shù)支撐。

DeepSeek-R1-Distill-Qwen-7B模型在M30上運(yùn)行

性能數(shù)據(jù)：

· 上下文長(zhǎng)度：8K

· 首字速度：<1s

· Decode速度：17 tokens/s

后摩智能的M30芯片專為端邊部署大模型而設(shè)計(jì)，其低功耗的核心優(yōu)勢(shì)使其在端邊應(yīng)用場(chǎng)景中表現(xiàn)出色，M30芯片具備強(qiáng)大的物理算力，達(dá)到100～256 TOPS@INT8，同時(shí)典型功耗僅為12～35W，能夠在保持高性能的同時(shí)顯著降低能耗。此次適配DeepSeek-R1-Distill-Qwen系列模型的成功，進(jìn)一步驗(yàn)證了M30芯片在處理復(fù)雜AI任務(wù)時(shí)的高效性和穩(wěn)定性。隨著AI技術(shù)向端側(cè)和邊緣側(cè)的快速轉(zhuǎn)移，后摩智能的存算一體技術(shù)的突破為國(guó)產(chǎn)AI芯片在端邊大模型領(lǐng)域的應(yīng)用樹(shù)立了新的標(biāo)桿，也為未來(lái)更多創(chuàng)新應(yīng)用的落地奠定了堅(jiān)實(shí)基礎(chǔ)。

為了更好地推動(dòng)端邊大模型的廣泛應(yīng)用，后摩智能推出了基于M30芯片打造的系列產(chǎn)品——力謀SM30計(jì)算模組、力謀LM30智能加速卡、力謀BX30 計(jì)算盒子，以滿足不同場(chǎng)景下的多樣化需求。

力謀SM30計(jì)算模組

以力謀SM30計(jì)算模組為例，這是一款是基于M30芯片打造的智算模組(SoM)，支持PCIe EP模式。該模組以其小巧的體積、強(qiáng)勁的性能和極低的功耗，成為小型化設(shè)備和功耗敏感嵌入式場(chǎng)景的理想選擇。力謀SM30計(jì)算模組的物理算力為50/100 TOPS@INT8，典型功耗低于23W，支持8路FHD的編解碼，并兼容PCIe 4.0接口。其低功耗和高性能的特點(diǎn)使其能夠在資源受限的環(huán)境中高效運(yùn)行，為邊緣計(jì)算和端側(cè)設(shè)備提供了強(qiáng)大的算力支持。

DeepSeek開(kāi)源模型以其高效的推理能力和較低的部署成本，正在推動(dòng)AI技術(shù)的普惠化。后摩智能自研的存算一體架構(gòu)，突破了傳統(tǒng)馮·諾依曼架構(gòu)的瓶頸，將存儲(chǔ)與計(jì)算緊密結(jié)合，大幅減少了數(shù)據(jù)傳輸延遲，呈現(xiàn)出大算力、低功耗的獨(dú)特優(yōu)勢(shì)，顯著提升了模型運(yùn)行效率。通過(guò)后摩智能存算一體芯片與DeepSeek模型的架構(gòu)級(jí)協(xié)同，不僅驗(yàn)證了國(guó)產(chǎn)技術(shù)棧的完整競(jìng)爭(zhēng)力，更創(chuàng)造了AI普惠化的中國(guó)范式——讓每瓦特算力都能承載最前沿的智能。

全球AI大模型賽道進(jìn)入戰(zhàn)略窗口期，DeepSeek通過(guò)模型創(chuàng)新構(gòu)建輕量化智能基座，后摩智能的存算一體芯片則以物理級(jí)能效突破重構(gòu)計(jì)算邊界。這種從底層芯片到頂層模型的顛覆式創(chuàng)新，必將催生大模型落地新定律，期待國(guó)產(chǎn)技術(shù)組合能夠“改寫天命”，開(kāi)辟出超越摩爾定律的進(jìn)化路徑。