女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

把Transformer大模型部署在端側,IPC SoC正在普惠AI

21克888 ? 來源:電子發燒友網 ? 作者:黃晶晶 ? 2023-12-08 13:50 ? 次閱讀

電子發燒友網報道(文/黃晶晶)AI大模型襲卷而來,而如何讓終端產品插上AI的翅膀會是芯片廠商研發的方向和市場的機會。如今網絡攝像機作為智慧城市、智能家居等應用的主流終端發展迅速,IPC SoC芯片是其核心之一。最近愛芯元智帶來的兩款IPC SoC新品在黑光全彩處理、適配Transformer大模型等方面表現十分亮眼,愛芯元智副總裁史欣也向媒體分享了公司對IPC SoC高清化、智能化發展的洞察。

兩款IPC SoC:AX630C和AX620Q




愛芯元智帶來的兩款新產品AX630C和AX620Q都搭載了最新的愛芯智眸AI-ISP4.0圖像處理引擎以及愛芯通元4.0高性能、低功耗的NPU引擎。這些技術的升級使得這兩款產品在視頻圖像效果、智能業務處理和分析等方面均達到了業界的領先水平。

愛芯智眸AI-ISP4.0對HDR、去噪、demosaic、銳化、去霧等算法做了升級,在暗光下的噪聲處理、色彩還原、運動拖影、清晰度等方面較上一代產品更優秀,通過AI賦能ISP Pipeline里的關鍵模塊,在各種復雜應用場景中全面提升成像效果,為后期智能處理提供高質量的圖像、視頻素材。

愛芯通元混合精度NPU則通過減少數據搬運,在一定程度上減小了內存墻和功耗墻的阻礙,提高整個NPU的效率,從而在端側邊緣側面積、功耗受限的情況下,以更高的有效算力支持更多的智能算法。

愛芯元智的“真黑光”技術,則是通過愛芯智眸AI-ISP將畫面真實還原,后續再通過NPU進行優化,進行更加準確的圖像處理,在極低照度下獲得超越人眼所見的黑光全彩效果。

AX630C具有高算力的特征,其CPU采用雙核A53@1.2G,配合3.2T@INT8的NPU以及硬化的CV算子模塊,可以對4K圖像進行實時的智能處理,提高客戶智能算法處理的精度和性能。同時,AX630C新一代的NPU引擎支持主流的Transformer網絡如ViT/DeiT/Swin/SwinV2/DETR等,可以解決訓練數據集不足引起的算法精度下降,以及長尾場景下算法的泛化性問題。

據介紹,AX630C是愛芯元智面向智慧城市行業前端IPC市場推出的超高清智能SoC,可支持4K@30fps實時真黑光;AX620Q是愛芯元智面向模組與渠道行業前端IPC市場推出的高清智能SoC,可支持5Mp實時、4K非實時的真黑光。

從細節上看,為了實現黑光全彩的效果,愛芯智眸AI-ISP4.0集中對四個關鍵模塊進行了算法升級。史欣分析,傳統ISP由十幾個模塊組成,在算力足夠大的時候若不考慮成本可以用AI模型去增加每一個模塊。而愛芯元智結合了客戶的痛點需求和成本因素,對pipeline模塊中HDR、3DNR、RLTM、Demosaic等進行了增強,達到了色彩飽和度高、運動圖像無拖尾,以及噪聲、銳化、清晰度等效果的顯著提高。后續,愛芯元智還將針對防抖、3A等模塊進行優化。

這其中的另一個問題是AI的算力消耗,本質上來說盡可能將模塊的精確度提高就能更少的消費算力。史欣舉例說,例如做人臉處理是對整個區域或者部分區域做降噪,消費的算力不一樣。原來在400萬分辨率的情況下需要1T做整個AI-ISP的處理,現在愛芯元智的第三、四代產品已經降到了0.6甚至0.5T,接下來可以做到0.2T就可以完成3DNR降噪的算力消耗,既能降低芯片成本,又可以留出更多的算力讓客戶開發更多可能。

Transformer在智慧城市中的應用


“Transformer應用的一個典型場景是對信息特征的檢索,從最早期的后端處理、服務器處理,算法上云,到目前開始進入算法在邊緣側的部署等等,但始終沒有解決端側部署的問題。大的廠商能夠根據行業應用來適配模型大小,而Transformer興起之后將帶來更多具象化的信息,使得檢索更容易、并縮減檢索的時間。”史欣說道。

愛芯元智能夠幫助客戶把在服務器、云端訓練好的算法在裁剪之后在端側部署。這里既有部署性包括帶寬、功耗、成本等的考慮,也有精度的要求。愛芯元智通過幾年來在NPU和算法工具鏈的迭代,IPC SoC能夠支持算法的快速部署、保證精度,具備端側部署的軟硬件條件。



不僅是Transformer大模型,愛芯元智還在適配國內的DINOv2大模型,愛芯元智依托硬件NPU、軟件算法等技術并與合作伙伴共同推出算法部署國產化。

普惠AI


我們看到愛芯元智有一個非常明確的發展理念,即是普惠AI。AI不應只在云端,更應該讓消費、智慧城市、汽車等各個行業受惠。史欣談到,客戶希望能夠從To G或者To大B的業務部署向To小B,甚至To C的業務上進行部署。即便是家用攝像頭這個普及型消費電子產品,也需要AI-ISP加持,那么更需要像愛芯元智這樣具備軟硬件能力的廠商通過產品技術、性價比等去擁抱市場。

對于AI芯片的發展趨勢,史總給出預判,他認為端側AI的小型化將越來越多的落地,同時其性能要有前瞻性和較高的性價比。同時產品的易用性加強,芯片廠商的方案交付要更簡單。同時除了自身掌握關鍵技術之外,也需要生態合作伙伴做更豐富的算法和軟件,如此才能加快AI的普惠化,助力智能化產業升級。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    34071

    瀏覽量

    275192
  • 智能城市
    +關注

    關注

    1

    文章

    174

    瀏覽量

    21018
  • 愛芯元智
    +關注

    關注

    1

    文章

    99

    瀏覽量

    5041
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    四大廠商業績大漲背后,積極探索AI SoC芯片創新迭代

    電子發燒友網報道(文/李彎彎)近年來,模型技術的帶動下,AI應用正在迅速往遷移,產品形態
    的頭像 發表于 08-27 01:28 ?6301次閱讀
    四大廠商業績大漲背后,積極探索<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b> <b class='flag-5'>SoC</b>芯片創新迭代

    誠邁科技、智達誠遠隆重推出ArraymoAIOS 2.0 AI操作系統,開啟智能體協作新時代

    隨著生成式AI技術的日益成熟,目前大模型正在從云側向云協同遷移。2025年,AI進一步加速向終端
    的頭像 發表于 04-22 17:31 ?380次閱讀
    誠邁科技、智達誠遠隆重推出ArraymoAIOS 2.0 <b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>操作系統,開啟智能體協作新時代

    首創開源架構,天璣AI開發套件讓AI模型接入得心應手

    ,聯發科帶來了全面升級的天璣AI開發套件2.0,模型庫規模、架構開放程度、前沿AI技術支持
    發表于 04-13 19:52

    AI模型部署正當時:移遠端AI模型解決方案,激活場景智能新范式

    AI技術飛速發展的當下,AI模型的應用正從云端向加速滲透。 作為全球領先的物聯網整體解決
    發表于 03-27 11:26 ?178次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側<b class='flag-5'>部署</b>正當時:移遠端<b class='flag-5'>側</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解決方案,激活場景智能新范式

    AI模型部署正當時:移遠端AI模型解決方案,激活場景智能新范式

    AI技術飛速發展的當下,AI模型的應用正從云端向加速滲透。作為全球領先的物聯網整體解決方
    的頭像 發表于 03-26 19:05 ?343次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側<b class='flag-5'>部署</b>正當時:移遠端<b class='flag-5'>側</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解決方案,激活場景智能新范式

    移遠通信邊緣計算模組成功運行DeepSeek模型,以領先的工程能力加速AI落地

    。 ? 目前,該模型正在多款智能終端上進行深入測試與優化。移遠通信將憑借其卓越的工程化能力,加速AI技術
    發表于 02-13 11:32 ?180次閱讀
    移遠通信邊緣計算模組成功運行DeepSeek<b class='flag-5'>模型</b>,以領先的工程能力加速<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>落地

    AI元年爆發!廣和通AI模組及解決方案全面支持DeepSeek-R1蒸餾模型

    近期,國產大模型DeepSeek憑借開放性、更低訓練成本、部署等優勢,迅速成為增速最快的AI應用之一,推動AI
    的頭像 發表于 02-11 18:08 ?455次閱讀
    <b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>元年爆發!廣和通<b class='flag-5'>AI</b>模組及解決方案全面支持DeepSeek-R1蒸餾<b class='flag-5'>模型</b>

    DeepSeek大模型攜手廣和通,加速AI化進程

    近期,國產大模型DeepSeek憑借其開放性、低訓練成本以及部署的顯著優勢,迅速嶄露頭角,成為增速最為迅猛的AI應用之一。這一突破性進展,為AI
    的頭像 發表于 02-11 14:47 ?901次閱讀

    廣和通Fibocom AI Stack:加速AI部署新紀元

    、海量模型以及全方位的支持與服務于一體,為智能設備提供了AI解決方案。為適應多樣化的
    的頭像 發表于 01-13 11:32 ?895次閱讀

    廣和通發布Fibocom AI Stack,助力客戶快速實現跨平臺跨系統的AI部署

    AI工具鏈、高性能推理引擎、海量模型、支持與服務一體化的AI解決方案,幫助智能設備快速實現AI
    發表于 01-08 11:38 ?212次閱讀
    廣和通發布Fibocom <b class='flag-5'>AI</b> Stack,助力客戶快速實現跨平臺跨系統的<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b><b class='flag-5'>部署</b>

    廣和通開啟AI新時代

    AI發展正酣,隨著終端芯片算力越來越高、模型能力越來越強、實時響應及隱私保護的應用需求增
    的頭像 發表于 12-12 10:35 ?633次閱讀

    智譜推出四個全新模型 攜英特爾按下AI普及加速鍵

    隨著AI的發展,AI模型越來越受到廣大客戶及廠商的關注,業界領先的大模型公司智譜于近日推出了
    的頭像 發表于 12-02 17:13 ?483次閱讀
    智譜推出四個全新<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>模型</b> 攜英特爾按下<b class='flag-5'>AI</b>普及加速鍵

    把握關鍵節點,美格智能持續推動AI規模化拓展

    當前,AI模型走向已經是大勢所趨,AI的發
    的頭像 發表于 11-26 01:00 ?483次閱讀
    把握關鍵節點,美格智能持續推動<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>規模化拓展

    Yuan2.0千億大模型通用服務器NF8260G7上的推理部署

    巨量模型的智能生產力正在逐步滲透到各行各業,但它們的部署和運行通常需要專用的AI加速卡,能否CPU上運行千億大
    的頭像 發表于 07-30 14:26 ?815次閱讀
    Yuan2.0千億大<b class='flag-5'>模型</b><b class='flag-5'>在</b>通用服務器NF8260G7上的推理<b class='flag-5'>部署</b>

    基于AX650N/AX630C部署大語言模型Qwen2

    本文將分享如何將最新的大語言模型部署到超高性價比SoC上,向業界對
    的頭像 發表于 07-06 17:43 ?4383次閱讀
    基于AX650N/AX630C<b class='flag-5'>部署</b><b class='flag-5'>端</b><b class='flag-5'>側</b>大語言<b class='flag-5'>模型</b>Qwen2