ONNX Runtime支持龍架構(gòu)，AI推理生態(tài)再添新翼
近日，備受矚目的AI推理框架開源社區(qū)ONNX Runtime宣布推出支持龍架構(gòu)的新版本1.17.0，這一里程碑式的更新意味著龍芯平臺上的AI推理應(yīng)用開發(fā)與部署將更加便捷。
ONNX Runtime（ORT）作為近年來興起的AI推理框架軟件，已逐漸成為眾多AI應(yīng)用的首選基礎(chǔ)推理引擎。此次更新不僅豐富了ORT的算力后端支持，更在軟件生態(tài)層面為龍架構(gòu)注入了新的活力。新版本將支持PyTorch、Tensorflow、TFLite等多種模型格式輸入，覆蓋CPU、GPU、IoT、NPU、FPGA等多樣化算力平臺，從而滿足各種復(fù)雜的AI推理需求。
此次ONNX Runtime對龍架構(gòu)的支持，無疑將進一步推動龍芯平臺在AI領(lǐng)域的應(yīng)用和發(fā)展，為開發(fā)者提供更加廣闊的創(chuàng)新空間。同時，這也標(biāo)志著龍架構(gòu)軟件生態(tài)正在不斷完善，為未來的AI技術(shù)革新奠定了堅實基礎(chǔ)。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
龍芯
+關(guān)注
關(guān)注
3文章
370瀏覽量
31784 -
AI
+關(guān)注
關(guān)注
87文章
34294瀏覽量
275475 -
開源
+關(guān)注
關(guān)注
3文章
3616瀏覽量
43494
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
AI推理的存儲，看好SRAM？
電子發(fā)燒友網(wǎng)報道（文/黃晶晶）近幾年，生成式AI引領(lǐng)行業(yè)變革，AI訓(xùn)練率先崛起，帶動高帶寬內(nèi)存HBM一飛沖天。但我們知道AI推理的廣泛應(yīng)用才能推動A
【米爾MYC-YM90X安路飛龍DR1開發(fā)板】安路科技 SALDRAGON開發(fā)板介紹
基于Buildroot或Yocto的定制化Linux系統(tǒng)，支持Cortex-A35雙核的OpenMP/OpenCL多線程編程，優(yōu)化NPU的TensorFlow Lite/ONNX Runtime
發(fā)表于 04-28 17:57
首創(chuàng)開源架構(gòu)，天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手
，聯(lián)發(fā)科帶來了全面升級的天璣AI開發(fā)套件2.0，在模型庫規(guī)模、架構(gòu)開放程度、前沿端側(cè)AI技術(shù)支持和端側(cè)LoRA訓(xùn)練落地等方面均迎來全面躍遷，為開發(fā)者提供了更全面、更開放、更強大的端側(cè)
發(fā)表于 04-13 19:52
硅基覺醒已至前夜，聯(lián)發(fā)科攜手生態(tài)加速智能體化用戶體驗時代到來
推動AI從“能用”到“好用”，關(guān)鍵不只是算力升級，更在于工具鏈與生態(tài)的協(xié)同完善。在MDDC 2025大會上，聯(lián)發(fā)科首度集成發(fā)布AI+游戲全場景支持平臺：Neuron Studio聚焦
發(fā)表于 04-13 19:51
谷歌第七代TPU Ironwood深度解讀：AI推理時代的硬件革命
、架構(gòu)設(shè)計的顛覆性創(chuàng)新 ? 首款推理專用TPU ? Ironwood是谷歌TPU系列中首款完全針對AI推理優(yōu)化的芯片，標(biāo)志著AI硬
龍芯中科發(fā)布2024年版龍架構(gòu)生態(tài)白皮書
近日，《龍架構(gòu)生態(tài)白皮書（2024年）》正式發(fā)布。經(jīng)過三年轉(zhuǎn)型發(fā)展，龍芯自主CPU設(shè)計達到國際主流水平，基于龍架構(gòu)CPU的新一代產(chǎn)品性能倍增
【幸狐Omni3576邊緣計算套件試用體驗】RKNN 推理測試與圖像識別
本節(jié)介紹了 RKNN 推理測試的相關(guān)流程，包括 rknn_model_zoo 模型部署、編譯及板端測試。
rknn_model_zoo
rknn_model_zoo 是瑞芯微官方提供的 RKNPU 支持
發(fā)表于 03-20 16:14
Banana Pi 發(fā)布 BPI-AI2N & BPI-AI2N Carrier，助力 AI 計算與嵌入式開發(fā)
和 Renesas一直致力于推動開源生態(tài)的發(fā)展，并積極合作打造高效、開放的計算平臺。BPI-AI2N & BPI-AI2N Carrier 的發(fā)布，不僅為開發(fā)者提供了強大的硬件支持
發(fā)表于 03-19 17:54
無法在GPU上運行ONNX模型的Benchmark_app怎么解決？
在 CPU 和 GPU 上運行OpenVINO? 2023.0 Benchmark_app推斷的 ONNX 模型。
在 CPU 上推理成功，但在 GPU 上失敗。
發(fā)表于 03-06 08:02
FPGA+AI王炸組合如何重塑未來世界：看看DeepSeek東方神秘力量如何預(yù)測......
制程、異構(gòu)計算、高帶寬內(nèi)存和可重構(gòu)架構(gòu)展開，應(yīng)用領(lǐng)域涵蓋 AI、5G、數(shù)據(jù)中心、自動駕駛和工業(yè)物聯(lián)網(wǎng)。通過優(yōu)化生態(tài)系統(tǒng)、制定有效市場策略、應(yīng)對挑戰(zhàn)，F(xiàn)PGA 將在多個領(lǐng)域繼續(xù)發(fā)揮關(guān)鍵作用。
發(fā)表于 03-03 11:21
使用NVIDIA推理平臺提高AI推理性能
NVIDIA推理平臺提高了 AI 推理性能，為零售、電信等行業(yè)節(jié)省了數(shù)百萬美元。
生成式AI推理技術(shù)、市場與未來
OpenAI o1、QwQ-32B-Preview、DeepSeek R1-Lite-Preview的相繼發(fā)布，預(yù)示著生成式AI研究正從預(yù)訓(xùn)練轉(zhuǎn)向推理（Inference），以提升AI邏輯推理
2024龍架構(gòu)創(chuàng)新產(chǎn)品獎發(fā)布
龍架構(gòu)生態(tài)的蓬勃發(fā)展離不開眾多中小企業(yè)生態(tài)伙伴的支持及新產(chǎn)品的持續(xù)推出。為鼓勵龍芯中小企業(yè)生態(tài)伙
Alpine操作系統(tǒng)社區(qū)發(fā)布龍架構(gòu)版本
近日，開源軟件世界和云計算領(lǐng)域重要的操作系統(tǒng)發(fā)行版社區(qū)Alpine Linux正式發(fā)布3.21最新版本，以完整的系統(tǒng)形態(tài)實現(xiàn)對龍架構(gòu)的原生支持，將有力促進龍
AMD以49億美元收購ZT Systems，強化AI芯片競爭力
AMD在AI領(lǐng)域的雄心壯志再添新翼，近日宣布以49億美元巨資并購全球領(lǐng)先的超大規(guī)模計算AI基礎(chǔ)設(shè)施提供商ZT Systems。這一戰(zhàn)略舉措不
工商網(wǎng)監(jiān)
評論