當(dāng)前,AI技術(shù)正加速向終端融合,帶來(lái)交互方式革新、智能體驗(yàn)升級(jí)與數(shù)據(jù)本地化保障等重大機(jī)遇,推動(dòng)AI手機(jī)、AI PC(人工智能個(gè)人計(jì)算機(jī))、機(jī)器人等新形態(tài)終端快速涌現(xiàn)。然而,AI入端仍面臨算力受限、隱私安全、響應(yīng)穩(wěn)定性不足及高成本低效率等挑戰(zhàn)。端側(cè)操作系統(tǒng)作為連接物理設(shè)備與云端服務(wù)的樞紐,具備輕量化、實(shí)時(shí)性、低功耗、安全性高等優(yōu)勢(shì),成為AI與終端融合的核心載體,在推動(dòng)AI終端的規(guī)模化普及上起到至關(guān)重要的作用。因此,推動(dòng)端側(cè)操作系統(tǒng)與AI的融合,將成為實(shí)現(xiàn)泛在智能的重要路徑。
在“端側(cè)操作系統(tǒng)+AI”浪潮下,作為面向萬(wàn)物互聯(lián)時(shí)代的智能終端操作系統(tǒng)根社區(qū),開(kāi)源鴻蒙正加速打造自身的AI原生能力,以“AI原生操作系統(tǒng)”為目標(biāo),構(gòu)建了涵蓋中小模型部署、大語(yǔ)言模型融合、芯片適配與模型加速、智能體理解與應(yīng)用的全棧AI端側(cè)能力體系,并持續(xù)推動(dòng)與終端的融合,已有諸多典型應(yīng)用場(chǎng)景落地,力圖在這一浪潮中占據(jù)一席之地,構(gòu)建真正高效、可控、普惠的AI智能終端技術(shù)底座。
構(gòu)建全棧AI端側(cè)能力體系,打造AI智能終端技術(shù)底座
在中小模型方面,開(kāi)源鴻蒙通過(guò)MindSpore Lite Kit支持ASR、TTS、CV等多類模型推理,打通PyTorch、ONNX等模型轉(zhuǎn)換流程,輔以NNRT統(tǒng)一算力抽象,適配CPU、GPU、NPU等異構(gòu)計(jì)算硬件,實(shí)現(xiàn)跨芯片部署與高性能運(yùn)行。在TTS方向,開(kāi)源鴻蒙已支持Fastspeech2、MelGAN等模型的端側(cè)壓縮與本地語(yǔ)音合成。在CV領(lǐng)域,YoloV5等模型已在端側(cè)通過(guò)圖像縮放、量化和C++優(yōu)化實(shí)現(xiàn)完整推理鏈路。
在大模型探索領(lǐng)域,開(kāi)源鴻蒙與生態(tài)伙伴聯(lián)合創(chuàng)新取得了不俗進(jìn)展。例如,深思考基于開(kāi)源鴻蒙成功適配了TinyDongni和DeepSeek R1大模型,使用自研Dongni-AMDC(自適應(yīng)多維壓縮)算法對(duì)模型權(quán)重和輸入統(tǒng)一量化壓縮,大幅降低內(nèi)存占用并提升推理速度,同時(shí)結(jié)合本地編譯優(yōu)化、多芯片協(xié)同并行推理、NPU加速、內(nèi)存按需加載等技術(shù),在保證大模型一定多模態(tài)理解能力的同時(shí),將模型體積和運(yùn)行開(kāi)銷壓縮到手機(jī)等設(shè)備可承受的范圍,讓復(fù)雜多模態(tài)大模型在端側(cè)設(shè)備上的落地成為可能。開(kāi)鴻智谷在其基于開(kāi)源鴻蒙開(kāi)發(fā)的“在鴻OS 人工智能實(shí)驗(yàn)箱”產(chǎn)品上也成功支持了DeepSeek模型的本地部署,支持多輪對(duì)話、語(yǔ)音輸入、聯(lián)網(wǎng)搜索等功能。
在芯片適配與算力支持方面,開(kāi)源鴻蒙已成功適配P7885、RK3576,并在探索昇騰310 B/P、RK3588等AI芯片的適配方案,構(gòu)建了覆蓋CPU、GPU、NPU的異構(gòu)推理體系。通過(guò)引入MindSpore Lite、NNRT和AI插件引擎,實(shí)現(xiàn)模型與芯片的快速適配與高效運(yùn)行,支持多模態(tài)AI任務(wù)如圖像識(shí)別、語(yǔ)音交互和大模型本地推理。
為加速AI端側(cè)能力的構(gòu)建,開(kāi)源鴻蒙還成立了AI Model SIG,旨在通過(guò)匯聚大中小模型資源,構(gòu)建端到端應(yīng)用范例,降低AI能力向端側(cè)落地的技術(shù)門檻。包括開(kāi)鴻智谷、華為、潤(rùn)開(kāi)鴻、深開(kāi)鴻、中科鴻略、匯思博、佳都科技、視美泰等成員單位共同參與,推動(dòng)開(kāi)源鴻蒙AI能力的共建。
在模型部署到系統(tǒng)以后,如何將這些模型真正用起來(lái)、能夠開(kāi)發(fā)出解決用戶真正問(wèn)題的Agent,也成為開(kāi)源鴻蒙重點(diǎn)思考的問(wèn)題。
目前,開(kāi)源鴻蒙正聯(lián)合頭部高校加速構(gòu)建面向智能終端的原生Agent體系,推動(dòng)操作系統(tǒng)從被動(dòng)響應(yīng)走向智能理解與主動(dòng)服務(wù)。上海交通大學(xué)通過(guò)引入“經(jīng)驗(yàn)驅(qū)動(dòng)”的Record & Replay范式,讓Agent可記錄用戶行為并復(fù)用經(jīng)驗(yàn),實(shí)現(xiàn)如點(diǎn)外賣、發(fā)郵件等復(fù)雜任務(wù)的自動(dòng)化執(zhí)行。同時(shí),該范式支持在本地端側(cè)運(yùn)行智能體,保障數(shù)據(jù)隱私與響應(yīng)效率,已適配如SmallThinker與PowerInfer等推理系統(tǒng)和模型,具備快速推理與任務(wù)規(guī)劃能力,可在手機(jī)、PC等終端流暢運(yùn)行和推理。
在開(kāi)源鴻蒙開(kāi)發(fā)者大會(huì)2025上,開(kāi)源鴻蒙社區(qū)還啟動(dòng)了“AI Agent技術(shù)共建”,并發(fā)起AI Agent TSG(技術(shù)專家組)籌備,圍繞“全新交互范式、多Agent框架、跨平臺(tái)協(xié)議、安全可信基座”四大方向,匯聚產(chǎn)學(xué)研力量推動(dòng)Agent技術(shù)標(biāo)準(zhǔn)化與產(chǎn)業(yè)化共建。
應(yīng)用場(chǎng)景加速落地,助推AI終端規(guī)模化普及
要成為真正有影響力的AI原生操作系統(tǒng)平臺(tái),光有技術(shù)還遠(yuǎn)遠(yuǎn)不夠,還需要繁榮的生態(tài)和實(shí)際落地的應(yīng)用場(chǎng)景。目前開(kāi)源鴻蒙正加速將自身AI能力體系賦能硬件,并落地了一系列AI終端產(chǎn)品,涵蓋AI機(jī)器人、AI PC、AI試驗(yàn)箱等,助推AI終端的規(guī)模化普及。
在AI機(jī)器人層面,開(kāi)源鴻蒙計(jì)劃籌建機(jī)器人PMC,致力于構(gòu)建一套完整的全棧式的機(jī)器人系統(tǒng)能力,包括統(tǒng)一的內(nèi)核平臺(tái)、多模態(tài)交互框架、中間件支持(如DORA/ROS2)、分布式通信機(jī)制,以及具身智能的軟總線互聯(lián),構(gòu)建適配不同形態(tài)機(jī)器人的全場(chǎng)景架構(gòu)。
在機(jī)器人落地應(yīng)用上,已有多家共建單位依托開(kāi)源鴻蒙操作系統(tǒng)打造出面向各大應(yīng)用場(chǎng)景的機(jī)器人產(chǎn)品和解決方案。在科教實(shí)訓(xùn)領(lǐng)域,上海交通大學(xué)與曦朧科技、鴻湖萬(wàn)聯(lián)打造的基于開(kāi)源鴻蒙的機(jī)器人已進(jìn)入多所科研單位與高校,推動(dòng)跨學(xué)科融合與原型驗(yàn)證。在工業(yè)領(lǐng)域,深開(kāi)鴻基于開(kāi)源鴻蒙的分布式異構(gòu)多機(jī)協(xié)同機(jī)器人操作系統(tǒng)發(fā)行版 M-Robots OS已在工業(yè)機(jī)械臂、協(xié)作機(jī)器人等場(chǎng)景完成驗(yàn)證。M-Robots OS單芯多內(nèi)核混合部署的特性,既支持豐富人機(jī)交互,又能保證響應(yīng)的硬實(shí)時(shí)(中斷延遲 ≤ 1us,任務(wù)切換 ≤ 1us),可滿足機(jī)器人、無(wú)人機(jī)、工業(yè)控制及自動(dòng)駕駛等場(chǎng)景需求。此外,深開(kāi)鴻還基于ROS實(shí)現(xiàn)了一套自主導(dǎo)航、目標(biāo)識(shí)別、物體抓取的AGV機(jī)器人的參考設(shè)計(jì),并在四足機(jī)器人、機(jī)械小車等開(kāi)發(fā)者機(jī)器人上實(shí)現(xiàn)了部署,在智能制造與工業(yè)自動(dòng)化、教育科研、智慧城市與公共服務(wù)、醫(yī)療康養(yǎng)與家庭服務(wù)等領(lǐng)域發(fā)揮關(guān)鍵作用。
在AI PC產(chǎn)品領(lǐng)域,華為于近期發(fā)布鴻蒙電腦,搭載基于開(kāi)源鴻蒙的HarmonyOS 5,內(nèi)置全新小藝AI助手。通過(guò)強(qiáng)大的系統(tǒng)級(jí)AI能力,小藝在鴻蒙電腦上成為無(wú)處不在的系統(tǒng)級(jí)智能助理,帶來(lái)了全新交互、高效辦公、知識(shí)空間、設(shè)備操控等AI智慧體驗(yàn)。此外,深開(kāi)鴻的開(kāi)鴻BotBook筆記本電腦于近期發(fā)布,搭載基于開(kāi)源鴻蒙的桌面操作系統(tǒng)——KaihongOS,集成AI OS框架及AI Agent智能體,提供行業(yè)智能支持;還內(nèi)置了基于KaihongOS原生AI智能助理,支持一鍵喚醒,可提供知識(shí)問(wèn)答、文檔總結(jié)、售后服務(wù)問(wèn)答等精準(zhǔn)服務(wù)。
此外,開(kāi)鴻智谷基于開(kāi)源鴻蒙開(kāi)發(fā)的“在鴻OS 人工智能實(shí)驗(yàn)箱”實(shí)踐平臺(tái)已在人才培養(yǎng)領(lǐng)域?qū)崿F(xiàn)應(yīng)用,其支持參數(shù)規(guī)模3.5B的DeepSeek模型的本地部署與多輪對(duì)話,具備語(yǔ)音輸入、聯(lián)網(wǎng)搜索等能力,廣泛應(yīng)用于AI對(duì)話、執(zhí)行控制等典型場(chǎng)景,打造出涵蓋語(yǔ)音交互、視覺(jué)識(shí)別、自然語(yǔ)言處理的綜合應(yīng)用鏈條。
開(kāi)源鴻蒙正以全棧化的AI能力和多樣化的終端應(yīng)用,推動(dòng)“端側(cè)操作系統(tǒng)+AI”從理念走向?qū)嵺`,賦能產(chǎn)業(yè)智能化轉(zhuǎn)型升級(jí)。未來(lái),開(kāi)源鴻蒙將繼續(xù)深化技術(shù)突破與生態(tài)共建,攜手開(kāi)發(fā)者與產(chǎn)業(yè)伙伴,共同探索AI原生操作系統(tǒng)的發(fā)展,共赴萬(wàn)物智聯(lián)時(shí)代。
-
操作系統(tǒng)
+關(guān)注
關(guān)注
37文章
7103瀏覽量
125034 -
AI
+關(guān)注
關(guān)注
88文章
34406瀏覽量
275680 -
智能終端
+關(guān)注
關(guān)注
6文章
935瀏覽量
35260 -
鴻蒙
+關(guān)注
關(guān)注
59文章
2534瀏覽量
43805
原文標(biāo)題:“端側(cè)操作系統(tǒng)+AI”浪潮來(lái)臨,開(kāi)源鴻蒙加速布局AI全棧能力體系
文章出處:【微信號(hào):gh_e4f28cfa3159,微信公眾號(hào):OpenAtom OpenHarmony】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
開(kāi)源鴻蒙大屏生態(tài)分論壇圓滿舉辦
開(kāi)源鴻蒙開(kāi)發(fā)者大會(huì)2025·AI分論壇圓滿閉幕,探索開(kāi)源鴻蒙AI無(wú)限可能

開(kāi)源鴻蒙開(kāi)發(fā)新體驗(yàn),開(kāi)鴻Bot系列今日開(kāi)啟預(yù)售!
大象機(jī)器人攜手進(jìn)迭時(shí)空推出 RISC-V 全棧開(kāi)源六軸機(jī)械臂產(chǎn)品
DevEco Studio AI輔助開(kāi)發(fā)工具兩大升級(jí)功能 鴻蒙應(yīng)用開(kāi)發(fā)效率再提升
首創(chuàng)開(kāi)源架構(gòu),天璣AI開(kāi)發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手
中軟國(guó)際2024年度業(yè)績(jī)營(yíng)收169.51億:持續(xù)投資云邊端全棧AI 全棧AI業(yè)務(wù)收入初具規(guī)模
芯訊通首次發(fā)布全新端側(cè)AI全棧解決方案SIMCom AI Stack
MWC 2025 | 廣和通發(fā)布全矩陣AI解決方案“星云”系列,創(chuàng)新變革端側(cè)AI

端側(cè) AI 音頻處理器:集成音頻處理與 AI 計(jì)算能力的創(chuàng)新芯片
移遠(yuǎn)通信邊緣計(jì)算模組成功運(yùn)行DeepSeek模型,以領(lǐng)先的工程能力加速端側(cè)AI落地

移遠(yuǎn)通信邊緣計(jì)算模組成功運(yùn)行DeepSeek模型,以領(lǐng)先的工程能力加速端側(cè)AI落地

深開(kāi)鴻亮相“開(kāi)源鴻蒙安全預(yù)警物聯(lián)生態(tài)”高峰論壇,構(gòu)建城市生命線安全體系

廣和通開(kāi)啟端側(cè)AI新時(shí)代
軟通動(dòng)力數(shù)據(jù)庫(kù)全棧服務(wù),助力企業(yè)數(shù)據(jù)庫(kù)體系全面升級(jí)

評(píng)論