女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Arm 與微軟合作,為基于 Arm 架構的 PC 和移動設備應用提供超強 AI 體驗

愛云資訊 ? 2025-06-03 16:47 ? 次閱讀

Arm KleidiAI與ONNX Runtime的集成,為Windows和安卓操作系統帶來了顯著的AI性能優化,實現高達2.6倍的AI推理速度提升,從而加速應用體驗。

聯合作者:Arm終端事業部產品管理總監Ronan Naughton

微軟AI框架首席軟件工程經理George Wu

隨著人工智能(AI)成為當今個人電腦(PC)和移動設備使用體驗(從聊天機器人到生產力提升)中不可或缺的一部分,這些設備對CPU高效、可擴展的推理需求也在持續增長。Arm與微軟正攜手合作以滿足這一需求,在從高端臺式電腦和筆記本電腦到旗艦級和入門級智能手機等各類廣泛的消費類電子設備上,為用戶帶來加速的AI體驗。

Arm和微軟共同將Arm KleidiAI進一步擴展到ONNX Runtime(業界廣泛使用的開源AI運行時之一)中。KleidiAI是一款面向AI框架開發者的輕量級內核庫,它能夠在無可比擬的規模下,為廣泛的技術市場以及各類基于Arm架構的設備,提供AI模型和工作負載的無縫性能優化。鑒于KleidiAI已成功集成到其他領先的AI框架上,這次的合作是在此成功基礎上的又一重要進展。

加速邊緣設備上的AI體驗

Windows on Arm生態系統在過去幾年實現了顯著的增長。包括Adobe Photoshop、Google Chrome、Spotify和Zoom等廣受歡迎的應用程序,都紛紛推出了Arm原生版本,以充分發揮其性能和能效優勢。通過將KleidiAI集成到ONNX Runtime中,廣大的應用程序開發者無需額外投入工程時間,就能獲得PC和移動設備的AI性能提升。ONNX Runtime為微軟諸多產品的AI工作負載提供支持,包括Microsoft 365套件以及Microsoft Copilot等,并為Copilot+PC打造卓越的AI體驗。

KleidiAI與ONNX Runtime的集成優化了包含Phi-3 Mini等一系列模型在內的AI工作負載。Phi-3 Mini是一個擁有38億參數的小型語言模型,專為邊緣設備的先進AI體驗量身定制。這些AI體驗包括實時聊天機器人、虛擬助手、智能文本補全以及生產力工具的功能增強等,所有這些功能均可在設備本地實現。通過將Phi-3 Mini緊湊的結構與KleidiAI高效的CPU執行提供程序(Execution Provider)集成配對,開發者無需依賴云端連接,即可在設備上快速實現智能功能。

提升PC和移動設備上的實際AI性能

在PC和移動平臺上,該集成已為終端用戶帶來了切實的益處。它顯著加快了AI的響應速度,使設備能夠直接實現更智能、更快速的交互,且無需開發者進行架構改動或后端重寫。

根據Arm的基準測試顯示,在KleidiAI集成到ONNX Runtime后,系統性能得到了顯著的提升,包括在基于Armv9平臺的Windows設備上運行Phi-3模型時,提示處理吞吐量提升了2.4倍,詞元(token)生成速度加快了12%。這些性能改進使聊天機器人等AI應用能夠給出更加自然流暢的回應。同樣地,在搭載最新Armv9 CPU的vivo X200 Pro旗艦智能手機上運行相同Phi-3模型的參考安卓應用中,提示處理速度加快了2.6倍。

由于KleidiAI的集成運行在全球應用廣泛的Arm CPU架構上,這使得AI應用與工作負載能夠在不同的生態系統及芯片組之間無縫移植。KleidiAI的設計旨在與當前的Arm架構特性,如Neon、可伸縮矢量擴展(SVE2)及可伸縮矩陣擴展(SME),展開協同工作。這些面向未來的功能確保開發者能夠構建當下的AI增強體驗,并使其隨著未來的硬件創新而擴展。KleidiAI與ONNX Runtime的集成已在ONNX RT V1.22中發布。

推動AI規模化落地

Arm與微軟的合作為開發者普及優化AI邁出了變革性的一步。該合作簡化了在各類PC和移動設備上部署智能功能的流程,無需增加成本或開發工作量,同時為終端用戶帶來加速的AI體驗。隨著AI的持續演進,這些優化工作將確保開發者、OEM廠商和操作系統提供商擁有出色的性能、靈活性和廣泛的覆蓋范圍,為更多用戶帶來更優質、更智能的體驗。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 微軟
    +關注

    關注

    4

    文章

    6673

    瀏覽量

    105386
  • ARM
    ARM
    +關注

    關注

    134

    文章

    9312

    瀏覽量

    375163
  • AI
    AI
    +關注

    關注

    87

    文章

    34294

    瀏覽量

    275480
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    AI PC芯片X86與Arm六四分?乾坤未定,競爭焦灼

    推進,其背后是手機廠商與手機SoC廠商的聯合研發,畢竟在手機領域主芯片供應商相對比較固定。 ? 然而在AI PC領域,AI PC處理器的競爭十分激烈,
    的頭像 發表于 10-27 07:44 ?3715次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>芯片X86與<b class='flag-5'>Arm</b>六四分?乾坤未定,競爭焦灼

    Arm 公司面向 PC 市場的 ?Arm Niva? 深度解讀

    面向 PC 市場的 ? Arm Niva ? 深度解讀 ? Arm Niva ? 是 Arm 公司 P
    的頭像 發表于 05-29 09:56 ?354次閱讀

    Arm 公司面向移動端市場的 ?Arm Lumex? 深度解讀

    子系統(CSS)? ? 在移動端的落地形態,Lumex 旨在通過高度集成化的軟硬件方案,解決移動設備AI 性能、能效比與開發效率上的挑戰。以下從技術
    的頭像 發表于 05-29 09:54 ?369次閱讀

    Arm攜手微軟共筑云計算和PC未來

    Arm微軟正攜手共筑未來,從而使創新不受設備功耗或不同部署環境的限制。在上周舉行的微軟 Build 大會上,Arm 的愿景實現再次得到體
    的頭像 發表于 05-28 14:08 ?244次閱讀

    Arm微軟合作加速邊緣設備上的AI體驗

    隨著人工智能 (AI) 成為當今個人電腦 (PC) 和移動設備使用體驗(從聊天機器人到生產力提升)中不可或缺的一部分,這些設備對 CPU 高
    的頭像 發表于 05-28 13:54 ?195次閱讀

    Arm推出GitHub Copilot新擴展程序,助力快速遷移至Arm架構服務器

    工具之一,此次推出的擴展程序能讓數百萬Copilot用戶更容易地訪問Arm?架構的技術,并為開發者提供更友好的體驗。此外,此次發布亦首次全球開發者免費
    的頭像 發表于 03-04 16:07 ?512次閱讀
    <b class='flag-5'>Arm</b>推出GitHub Copilot新擴展程序,助力快速遷移至<b class='flag-5'>Arm</b><b class='flag-5'>架構</b>服務器

    簡述Arm PC生態新進展

    2024 年對于 PC 行業而言,是意義非凡的一年。AI PC 的快速崛起激發了新一代筆記本電腦解決方案性能與效率的顯著飛躍,這推動了 PC 行業的復蘇與增長。
    的頭像 發表于 12-23 09:17 ?720次閱讀

    Arm成功將Arm KleidiAI軟件庫集成到騰訊自研的Angel 機器學習框架

    KleidiAI 技術融入騰訊混元自研的 Angel 機器學習框架。這一合作旨在提高移動端人工智能 (AI) 服務的推理性能和效率,用戶提供
    的頭像 發表于 11-24 15:33 ?1151次閱讀

    ARM技術是什么?國內有哪些ARM廠家呢?一起來了解一下!

    得到了廣泛應用: 移動設備ARM架構移動設備的主要選擇,如智能手機、平板電腦等。其低功耗設
    發表于 11-18 16:35

    Arm與ExecuTorch合作加速端側生成式AI實現

    Arm 正在與 Meta 公司的 PyTorch 團隊攜手合作,共同推進新的 ExecuTorch 測試版 (Beta) 上線,旨在為全球數十億邊緣側設備和數百萬開發者提供人工智能 (
    的頭像 發表于 11-15 11:30 ?701次閱讀

    Arm Cortex-X925實現超強IPC性能

    Armv9 架構的優勢,且性能、效率和可訪問性亦足以提供出色的 AI 體驗,并能夠支持我們的合作伙伴更輕松、更快速地構建基于 Arm
    的頭像 發表于 10-27 11:07 ?1093次閱讀

    Arm CPU如何推動AI創新

    在 COMPUTEX 2024 展前,Arm 首席執行官 Rene Haas 分享了公司將如何實現到 2025 年底讓超過 1,000 億臺基于 Arm 架構設備可用于從云端到邊緣側的人工智能 (
    的頭像 發表于 09-14 09:49 ?635次閱讀

    Arm如何賦能無處不在的AI

    作為人工智能 (AI) 的創新基礎,眾多企業都在使用通用且應用廣泛的 Arm 計算平臺。迄今為止,合作伙伴基于 Arm 架構的芯片出貨量已逾
    的頭像 發表于 09-14 09:38 ?831次閱讀

    6nm異構多核!國內首款Arm架構AI PC處理器此芯P1發布

    電子發燒友網報道(文/吳子鵬)在當前的PC市場,一個炙手可熱的概念是“Windows on Arm”,在微軟公司“Copilot+PC”戰略里,Ar
    的頭像 發表于 08-01 01:21 ?4809次閱讀
    6nm異構多核!國內首款<b class='flag-5'>Arm</b><b class='flag-5'>架構</b><b class='flag-5'>AI</b> <b class='flag-5'>PC</b>處理器此芯P1發布

    今日看點丨傳聯發科微軟AI PC設計基于ARM架構的芯片;日本連續三個季度50%的芯片制造設備出口到中國

    1. 傳聯發科微軟AI PC 設計基于ARM 架構的芯片 ? 據三位知情人士透露,聯發科正在開
    發表于 06-12 10:46 ?637次閱讀