高通推出全新AI Hub，使AI推理速度最高提升4倍
在今年的世界移動通信大會（MWC）上，高通公司展示了其最新的技術成果——全新的高通AI Hub。這一創新平臺為開發者提供了全面優化的AI模型庫，涵蓋傳統AI和生成式AI模型，并支持在驍龍和高通平臺上進行部署。
高通AI Hub的推出，意味著開發者能夠更便捷地利用高性能的AI模型。據悉，該Hub將支持超過75個AI模型，通過優化這些模型，開發者在運行AI推理時的速度將提升高達4倍。這一顯著的速度提升不僅增強了應用的響應能力，也為開發者提供了更廣闊的創作空間。
值得一提的是，除了速度提升外，優化后的模型還在內存帶寬和存儲空間方面有所減少。這意味著在相同的硬件條件下，模型能夠更為高效地運行，從而實現更高的能效和更持久的電池續航。對于移動設備用戶而言，這無疑是一項重要的改進，能夠有效延長設備的使用時間。
高通AI Hub的推出，進一步鞏固了高通在移動技術領域的領先地位。隨著AI技術的日益普及，這一平臺有望為開發者提供更為強大的支持，推動移動應用的發展和創新。未來，我們期待看到更多基于高通AI Hub的優秀應用涌現，為用戶帶來更為豐富的體驗。
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
高通
+關注
關注
77文章
7583瀏覽量
192590 -
移動通信
+關注
關注
10文章
2668瀏覽量
70763 -
AI
+關注
關注
87文章
34223瀏覽量
275383
發布評論請先 登錄
相關推薦
熱點推薦
AI推理的存儲，看好SRAM？
電子發燒友網報道（文/黃晶晶）近幾年，生成式AI引領行業變革，AI訓練率先崛起，帶動高帶寬內存HBM一飛沖天。但我們知道AI推理的廣泛應用才
DeepSeek最新論文：訓練速度提升9倍，推理速度快11倍！
電子發燒友網報道（文/梁浩斌）周二xAI發布了Grok3，這個馬斯克稱之為“地球上最聰明的AI”搶占了所有人的眼球。 ? 為了打造最強AI大模型，xAI投入了20萬塊H100 GPU，計算資源
RK3588核心板在邊緣AI計算中的顛覆性優勢與場景落地
、ResNet50等模型，推理速度較純CPU方案（如i.MX8）快5-10倍，無需外接加速卡。
全接口覆蓋：
原生支持PCIe 3.0、雙千兆網口、USB 3.1 Gen2、SATA 3.0等接口，可擴展5G模組
發表于 04-15 10:48
首創開源架構，天璣AI開發套件讓端側AI模型接入得心應手
的端側部署，Token產生速度提升了40%，讓端側大模型擁有更高的計算效率和推理性能，使端側AI交互響應更及時，用戶體驗更貼心。
聯發科還
發表于 04-13 19:52
高通推動終端側AI釋放全新價值
通過蒸餾技術將百億參數模型壓縮至端側設備可運行的創新，讓AI推理成本大幅下降，為終端側AI的爆發按下加速鍵。低成本、高靈活性的特性引發了行業對這一技術突破的深度思考，也驗證了
NVIDIA 推出開放推理 AI 模型系列，助力開發者和企業構建代理式 AI 平臺
由 NVIDIA 后訓練的全新 Llama Nemotron 推理模型，為代理式 AI 提供業務就緒型基礎 埃森哲、Amdocs、Atlassian、Box、Cadence、CrowdStrike
發表于 03-19 09:31
?200次閱讀
FPGA+AI王炸組合如何重塑未來世界：看看DeepSeek東方神秘力量如何預測......
成形時延縮短至3μs......
4) 工業4.0神經中樞：機器視覺系統響應速度突破120fps；預測性維護準確率提升至99.2%......
未來展望：當FPGA遇見生成式AI，D
發表于 03-03 11:21
高通AI Hub：輕松實現Android圖像分類
高通AI Hub為開發者提供了一個強大的平臺，以優化、驗證和部署在Android設備上的機器學習模型。這篇文章將介紹如何使用高通AI
ASTRA AI Hub詳細介紹
ASTRA AI Hub以其強大的邊緣計算能力、低成本的AI升級方案、持續的產品價值提升、高級的視覺識別應用以及端云智能交互的能力，為行業數字化轉型和消費智能化升級提供了有力的支持。
高通驍龍汽車新方案:CPU性能躍升3倍,AI性能狂飆12倍
。
據了解，驍龍座艙至尊版平臺作為驍龍8295的升級版，被命名為Elite。該平臺搭載了高通專為汽車行業設計的自研Oryon CPU架構，其性能相較于8295提升了3倍，并集成了最新的NPU，使得
李開復:中國擅長打造經濟實惠的AI推理引擎
10月22日上午，零一萬物公司的創始人兼首席執行官李開復在與外媒的交流中透露，其公司旗下的Yi-Lightning（閃電模型）在推理成本上已實現了顯著優勢，比OpenAI的GPT-4o模型低了31倍。他強調，中國擅長打造經濟實惠
AMD助力HyperAccel開發全新AI推理服務器
HyperAccel 是一家成立于 2023 年 1 月的韓國初創企業，致力于開發 AI 推理專用型半導體器件和硬件，最大限度提升推理工作負載的存儲器帶寬使用，并通過將此解決方案應用于
英偉達推出全新NVIDIA AI Foundry服務和NVIDIA NIM推理微服務
NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務和 NVIDIA NIM 推理微服務，與同樣剛推出的 Llama 3.1
工商網監
評論