Arm 控股有限公司(納斯達克股票代碼:ARM,以下簡稱“Arm”)近日宣布將 Arm Kleidi 技術擴展到汽車市場。Arm Kleidi 是一項廣泛的軟件及軟件社區參與計劃,旨在加速人工智能 (AI) 的發展。通過 Arm Kleidi,合作伙伴將能夠充分挖掘下一代特定應用 AI 模型在汽車中的優勢,并加快其部署速度。
“ Arm 汽車事業部產品和解決方案副總裁 Suraj Gajendra 表示:在汽車行業中,AI 通常被稱為自動駕駛汽車的核心——聽起來頗具未來感,距離其大規模量產上路還有數年時間。然而,實際的情況是,當下新車型中的很多應用和功能,從自適應巡航控制、個性化車載信息娛樂系統到駕駛員和乘客監控系統,都已經在使用 AI 技術,并且這些特定應用的模型和工作負載已在 Arm 平臺上高效運行。這歸功于 Arm 計算平臺卓越的靈活性、性能、能效和可擴展性,使其成為整個汽車行業中開發者的首選平臺。 ”
然而,隨著這些汽車應用與功能日益精進,對更多的 AI 功能與日益復雜的工作負載的需求不斷提高,汽車行業正面臨著一系列獨特的挑戰,包括:
相較于其他行業,汽車行業擁有龐大而復雜的軟件系統,使得開發環境極為復雜。
需要一個強大的從云端到車端的軟件開發和驗證基礎設施,以便將云端開發的應用無縫部署到汽車中。
軟件必須符合嚴格的汽車功能安全和信息安全方面的行業標準和法規。
汽車的使用周期較長,這意味著軟件必須具備升級能力,以適應未來不斷新增的功能和更新(類似于在最新軟件版本發布時對智能手機進行同步更新,但汽車的產品周期要更長)。
Arm 通過領先的汽車增強型 (AE) 技術和在汽車生態系統中的合作,應對這些獨特的挑戰。這些合作涵蓋了虛擬平臺和基于標準的軟件解決方案,通過面向嵌入式邊緣側的可擴展開放架構 (SOAFEE) 來加速汽車開發周期。所有這些解決方案都為開發人員提供了工具,使他們能夠通過應用廣泛的 Arm 計算平臺無縫獲取更高的性能,并加快其產品的上市時間。
利用 Arm Kleidi 實現性能自動優化
Arm Kleidi 于 2024 年推出,旨在為 Arm CPU 上運行的 AI 推理工作負載提供軟件性能優化,開發者無需進行任何額外的工作,目前該軟件庫已應用于移動端、云和數據中心等關鍵領域,包括 Kleidi 已被集成到 ExecuTorch、Llama.cpp、MediaPipe 和 PyTorch 等熱門 AI 框架的最新版本中,開發者只需開始構建應用程序,即可在基于 Arm 架構的平臺上自動獲取性能的顯著提升。
Kleidi 的性能優化特性已引入汽車市場,領先的科技公司已經在他們的汽車軟件中體驗到了一系列新應用的性能提升。從車載聊天機器人、個性化駕駛員建議,到圖像和運動增強以輔助用戶、診斷和解決問題,Kleidi 庫與關鍵的開發者框架的集成正在加速 AI 應用的開發,為用戶提供更快、更高效的車載體驗。
AWS Automotive 將車載聊天機器人的
響應速度提高了 10 倍
利用 Arm 與 Corellium 聯合開發的虛擬平臺,亞馬遜云科技 (AWS) 為軟件定義汽車 (SDV) 打造了一款全新的概念驗證 (proof-of-concept) AI 聊天機器人,允許駕駛員直接與汽車進行互動,提出問題或詢問儀表盤警報,而無需翻閱汽車用戶手冊。借助集成了 KleidiAI 的最新版 Llama.cpp 開發聊天機器人,AWS 實現了其聊天機器人性能的顯著提升,響應時間縮短至一到三秒,性能提升達 10 倍。由于開發者無需在底層軟件優化花費心力,KleidiAI 為聊天機器人的開發節省了六周時間。
VicOne 加快了對汽車網絡安全威脅的應對速度
VicOne 面向 SDV 的 xCarbon 車載解決方案能使車輛學習和識別網絡安全威脅,減少對云端技術的依賴,進而降低成本并更好地保護數據安全。借助 TinyLlama-1 1B 模型,VicOne 解決方案的性能實現了顯著提升,預填充提示速度翻倍,詞元生成速度提升了 60% 以上,從而縮短了車輛檢測網絡安全威脅的響應時間。Kleidi 實現的性能優化使 VicOne 能夠在無需額外開發工作的情況下,為用戶帶來更安全、更可靠的駕駛體驗。
Sonatus 專為 OEM 打造的 AI Technician Builder 平臺,能夠無縫運行于基于 Arm 架構的 AWS Graviton CPU
Sonatus 的 AI Technician Builder 是一個從云到邊緣側的平臺,可幫助 OEM 廠商創建客戶服務代理,以迅速響應用戶對汽車的問詢,進而改善駕駛體驗。該平臺最初運行于云端環境的 GPU,而通過引入 Kleidi 優化框架,它現可輕松移植到搭載 Arm 架構的 AWS Graviton EC2 云實例上運行。這不僅確保了用戶所需的性價比和響應時間,還為在基于 Arm 架構的汽車計算平臺上運行邊緣 AI 工作負載鋪平道路。
在 Arm 平臺上推動汽車及其他領域的 AI 創新
如今,全球 94% 的車廠都在其最新車型中使用了 Arm 技術。Arm 計算平臺在汽車領域的廣泛應用,表明其在推動關鍵車載 AI 應用實現顯著性能優化方面具備得天獨厚的優勢,AWS、VicOne 和 Sonatus 的成功實踐便是很好的例證。將 Kleidi 集成到現有的軟件堆棧中,推動了更高效、更先進的 AI 應用場景的實現,并為那些分秒必爭的關鍵汽車應用提供了更快的響應速遞。這賦予了開發者超能力,使他們能夠在 Arm CPU 上優化并運行新的特定應用的 AI 模型和工作負載,而無需額外的成本或開發工作量。
通過將 Kleidi 擴展到汽車領域,Arm 持續兌現其承諾——為包括從云到邊緣側的各個 Arm 應用市場的 AI 開發者提供無縫的性能加速,助其打造有吸引力的全新用戶體驗,不斷挖掘 AI 變革的潛力。
-
ARM
+關注
關注
134文章
9305瀏覽量
374958 -
計算平臺
+關注
關注
0文章
72瀏覽量
9790
原文標題:Arm Kleidi 擴展到汽車市場,加速提升 AI 應用的性能
文章出處:【微信號:Arm社區,微信公眾號:Arm社區】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
Arm 公司面向汽車市場的 ?Arm Zena? 深度解讀
比亞迪榮獲2024年汽車市場“三冠王”
2024中國新能源汽車市場十大亮點

立訊精密重投8.8億,加碼新能源汽車市場

英國超越德國,成2024年歐洲最大純電動汽車市場
2025年電動汽車市場前景樂觀
中國汽車市場份額占全球41%
利用Arm Kleidi技術實現PyTorch優化

Arm KleidiAI助力提升PyTorch上LLM推理性能

松下汽車電子系統與Arm達成戰略合作
特斯拉占據美國加州電動汽車市場超過50%份額
SK On計劃裁員應對電動汽車市場挑戰
SK海力士HBM技術為汽車市場注入新動力
Arm KleidiAI軟件庫的功能解析

評論