《從云到端 AI觸手可及》2024年芯原AI專題技術研討會上，芯原執行副總裁、IP事業部總經理戴偉進作了“大模型推動邊緣計算變革的機遇與挑戰”的主題演講，他介紹了目前大模型在邊緣計算的變革的同時，也向行業介紹了芯原AI相關的技術演講和IP產品系列。

圖：芯原執行副總裁、IP事業部總經理戴偉進在技術研討會上作演講介紹大模型的技術發展趨勢

戴偉進首先在發言中表示，AI已經從部署到每個地方，演進到布置到每個人，大模型應該進入到了邊緣設備中。以語言為基礎的多模態大模型（Multimodal)

2024年初OpenAI正式上線，全球各種GPT迅速跟進。2024年科技企業將大型人工智能模型要引入到嵌入式系統中落地，AI手機、AI PC和汽車的大模型邊緣終的落地，并引發了廣泛的關注?？上壳霸趪鴥鹊腁I大模型在邊緣終端的落地還受政策影響中。


2024年初OpenAI正式上線，全球各種GPT迅速跟進。2024年科技企業將大型人工智能模型要引入到嵌入式系統中落地，AI手機、AI PC和汽車的大模型邊緣終的落地，并引發了廣泛的關注?？上壳霸趪鴥鹊腁I大模型在邊緣終端的落地還受政策影響中。

戴偉進表示，GPT多模態的能已經能夠處理圖像和文本的輸入，他預測在下一代的GPT-5中將加入視頻處理模塊。據最新的谷歌發布的大模型AI手機 Project Astra項目的演示中，基于Gemini大模型，視頻處理模塊的AI技術已經實現。2024年2月16日 ，OpenAI發布了首個視頻生成模型Sora，支持60秒一鏡到底的視頻，包含高細致背景、多角度鏡頭以及富有情感的多個角色，所合成的視頻內容與物理世界規律保持一致。谷歌則隨即發布對標Sora的高質量視頻生成模型Veo。


微軟不久前的Copilot+PC的最新技術亮點則是把AI PC的產品新技術推到了新的高潮。三星Galaxy S24系列手機內置即圈即搜、通話實時翻譯、筆記助手、智能修圖和智能寫作五大AI功能，國內一些品牌也隨即宣布跟進。AI PC和AI手機成為今年行業最熱產品詞條。


可以說，AI PC的時代全面到來。受技術封鎖的影響，國內的技術廠商急切需要有AI IP相關的技術廠商抱團共同跟進。

不過國內AI技術發展的挑戰并不如我們想像中那么困難。戴偉進透露，芯原在AI IP早些年就已經布局，公司的NPU IP全球出貨量超過1億顆。GPU在全球累計出貨量過去20年累計近20億顆。

芯原的5納米媒體加速器視頻，即視頻處理器AI Video在全球范圍內處于領先地位。


且已經在邊緣設計上運行大模型。包括在嵌入式設備、邊緣服務器和數據中心，都有產品開始被客戶采用。

從上圖可以看到芯原的在嵌入式設備的相關NPU和GPU的IP產品。

芯原的AI計算軟件與各種軟件工具等平臺的適配。

芯原在AGI領域，其NPU的性能處于全球領先的地位，LLaMA 7B能達到20 Tokens/s。

戴偉進最近也展示了Open Se Cura項目。該項目跟谷歌協作開發，可以在可穿戴低功耗的終端、AI手機以及云云計算大模型上部署。