女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

拋棄8GB內存,端側AI大模型加速內存升級

花茶晶晶 ? 來源:電子發燒友網 ? 作者:黃晶晶 ? 2024-11-03 00:02 ? 次閱讀
電子發燒友網報道(文/黃晶晶)端側AI大模型的到來在存儲市場產生了最直接的反應。年初在我們對旗艦智能手機的存儲容量統計中,16GB內存+512GB存儲成為幾乎所有旗艦機型都提供的選擇。畢竟AI大模型的運行以及相關應用的激增都比較吃內存和閃存。就在最近,連蘋果也開始淘汰8GB版本,逐步走向12GB、16GB內存。智能終端對存儲容量的需求有增無減,同時也加速更先進存儲規格的采用。

蘋果、小米紛紛砍掉8GB內存版本

日前,蘋果宣布搭載M2和M3芯片的MacBook Air機型現標配16GB內存,相比此前翻倍,但起售價維持不變,分別仍為7999元和8999元。蘋果官網上13英寸M2 MacBook Air、13英寸M3 MacBook Air以及15英寸M3 MacBook Air均淘汰了8GB版本,標配16GB內存,固態硬盤是256GB起步。截至目前,蘋果新款MacBook Pro、Mac mini、iMac等設備全部都是16GB內存起步。

近期,小米公司宣布了其旗艦產品小米15系列的內存配置重要調整。小米董事長兼CEO雷軍表示,小米15將砍掉8GB內存版本,標準版將從12GB起步。

雷軍表示,為了最大程度展現端側 AI的能力,我們決定取消 8GB 版本。小米15系列,在設計工藝、性能功耗、續航表現和使用體驗等方方面面都有巨大的提升。

10月28日,小米中國區市場部副總經理、Redmi品牌總經理王騰在社交平臺上解釋稱,這一決策(指取消8GB內存,從12GB起步)主要是基于未來手機AI應用的發展趨勢。隨著端側AI大模型對內存需求的增加,8GB內存已逐漸無法滿足高效運行的需求。他建議,在資金允許的情況下,消費者應選擇更大內存的版本,以確保手機能夠流暢運行各類AI應用。

另外,對于小米15系列的漲價,雷軍表示,去年我跟大家說過,小米14首定是最后一次定價3999元。今年3nm工藝升級,同時供應鏈 RAMROM 成本漲幅很大,我們在研發上投入也非常大,小米15 確實需要漲價。我可以保證,即便漲價,小米15 依舊日物超所值!相比往代同內存版本的漲價幅度,也肯定讓大家覺得“貴得有理由”,謝謝大家理解!

端側AI大模型的內存容量

由于端側AI大模型需要在內存中加載,即便采用壓縮技術,越大的模型越吃容量。一方面現在端側AI大模型有著輕量化的趨勢,另一方面足夠大容量和性能更高的內存更能滿足端側AI的需求。

今年6月蘋果發布Apple Intelligence,將強大的生成模型置于 iPhone、iPad 和 Mac 的核心。它具有的數據處理和情境感知能力。它能夠深入理解設備中的各類數據,包括照片、郵件、信息等,并據此為用戶提供個性化的智能服務。分析師郭明錤曾表示,Apple Intelligence采用端側3B LLM,經過壓縮后,隨時需要預留約0.7-1.5GB DRAM來運作Apple Intelligence的端側LLM。

在安卓陣營,早在去年,端側AI便成為各大手機終端廠商進行手機創新的主航道,彼時大家都將AI端側大模型的參數集中于7B。然而參數越大所需的處理器、存儲等資源越多,輕量化小模型或許更適合于智能終端。

vivo繼去年帶來了三款端側大模型(自研十億、百億、千億三個參數量級)之后,發布全新30億參數量級的藍心端側大模型3B。

在對話寫作、摘要總結、信息抽取等能力上,藍心3B可以越級比肩行業7B-9B模型。相比藍心7B,藍心 3B極致性能提升300%,平衡模式下功耗優化達46%,極致出詞速度可以達到80字/s,系統功耗僅450mA,內存占用僅1.4GB。藍心端側大模型3B真正打破了模型小、能力強、消耗低的“不可能三角定律”。

蘋果為了支持Apple Intelligence在手機端的應用,將iPhone 16系列的四款機型全部升級到了8GB內存。為何選定為8GB內存,而不是更高?蘋果硬件技術高級副總裁Johny Srouji表示,Apple Intelligence是促使使用8GB內存的一個主要原因。他還提到,軟硬件和產品的完全集成帶來了很多好處,蘋果軟件團隊經過多次的內存優化計算,避免內存浪費,綜合考慮之后認為8GB是最適合的選擇。

我們看到新發布的vivo X200系列和OPPO Find X8系列等手機都是直接從12GB版本起步。安卓陣營旗艦手機的內存容量升級更加積極,蘋果反而顯得有點保守了。盡管蘋果有其軟硬件優化的系統級優勢,但相信8GB內存的選擇,成本也是考慮因素之一。

內存規格不斷提升

旗艦智能手機主要采用LPDDR5X內存規格,LPDDR5X能夠更好地加速邊緣AI運算,提供高存儲器頻寬和更佳的功耗效率。此前LPDDR5X速率達8.5Gbps,LPDDR5T速率達9.6Gbps的水平,而最近發布的新機甚至還采用了更高速率的LPDDR5X。

例如,OPPO Find X8 系列搭載潮汐引擎×天璣 9400,采用臺積電第二代3nm工藝與新一代ARM架構,搭配高速閃存UFS 4.0與LPDDR5X先進內存規格,帶來更強的性能和更均衡的功耗表現。其中,Find X8 Pro采用LPDDR5X內存,Find X8 Pro 衛星通信版采用了LPDDR5X 10667Mbps版內存。在 vivo X200新機中,vivo X200 Pro 16GB + 1TB 衛星通信版本搭載LPDDR5X Ultra Pro,同樣達到10667Mbps速度。

此前三星半導體就表示,已成功在聯發科下一代天璣旗艦移動平臺(天璣9400)完成其最快的10.7千兆比特/秒(Gbps)LPDDR5X DRAM驗證。成為當今全球最快的手機內存。

至于蘋果新一代新機,iPhone 16采用6400Mbps的LPDDR5,蘋果iPhone 16 Pro和16 Pro Max版本都是采用的是LPDDR5X規格的內存,7500Mbps速率。

LPDDR5標準于2019年2月發布,2021年7月JEDEC組織推出了升級版LPDDR5X。為了打造更高性能更能滿足端側AI大模型運算的內存,今年以來JEDEC組織正在積極制定新一代低功耗內存LPDDR6標準,該組織設定了 LPDDR6的速度范圍從 10.667Gbps到14.4Gbps。可以看到,三星10.7GbpsLPDDR5X DRAM已經初步達到了該組織擬定的LPDDR6最低速度范圍要求。接下來,各大DRAM廠商勢必積極跟進LPDD6的技術和產品,手機內存也將上一個新的臺階。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 內存
    +關注

    關注

    8

    文章

    3108

    瀏覽量

    74976
  • AI
    AI
    +關注

    關注

    87

    文章

    34146

    瀏覽量

    275282
  • 大模型
    +關注

    關注

    2

    文章

    3020

    瀏覽量

    3805
收藏 人收藏

    評論

    相關推薦
    熱點推薦

    首創開源架構,天璣AI開發套件讓AI模型接入得心應手

    ,聯發科帶來了全面升級的天璣AI開發套件2.0,在模型庫規模、架構開放程度、前沿AI技術支持
    發表于 04-13 19:52

    AI模型側部署正當時:移遠端AI模型解決方案,激活場景智能新范式

    AI技術飛速發展的當下,AI模型的應用正從云端向加速滲透。 作為全球領先的物聯網整體解決
    發表于 03-27 11:26 ?186次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側部署正當時:移遠端<b class='flag-5'>側</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解決方案,激活場景智能新范式

    AI模型側部署正當時:移遠端AI模型解決方案,激活場景智能新范式

    AI技術飛速發展的當下,AI模型的應用正從云端向加速滲透。作為全球領先的物聯網整體解決方
    的頭像 發表于 03-26 19:05 ?349次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側部署正當時:移遠端<b class='flag-5'>側</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解決方案,激活場景智能新范式

    移遠通信邊緣計算模組成功運行DeepSeek模型,以領先的工程能力加速AI落地

    。 ? 目前,該模型正在多款智能終端上進行深入測試與優化。移遠通信將憑借其卓越的工程化能力,加速AI技術在各行各業的規模化應用與普及。
    發表于 02-13 11:32 ?188次閱讀
    移遠通信邊緣計算模組成功運行DeepSeek<b class='flag-5'>模型</b>,以領先的工程能力<b class='flag-5'>加速</b><b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>落地

    移遠通信邊緣計算模組成功運行DeepSeek模型,以領先的工程能力加速AI落地

    。目前,該模型正在多款智能終端上進行深入測試與優化。移遠通信將憑借其卓越的工程化能力,加速AI技術在各行各業的規模化應用與普及。Deep
    的頭像 發表于 02-12 19:03 ?386次閱讀
    移遠通信邊緣計算模組成功運行DeepSeek<b class='flag-5'>模型</b>,以領先的工程能力<b class='flag-5'>加速</b><b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>落地

    德明利DDR5內存助力AI PC時代存儲性能與市場增長

    2024年作為AIPC元年伴隨異構算力(CPU+GPU+NPU)需求高漲及新處理器平臺推出DDR5內存以高速率、大容量低延遲與高帶寬有效滿足高性能算力要求加速本地AI模型運行效率推動
    的頭像 發表于 01-21 16:34 ?1210次閱讀
    德明利DDR5<b class='flag-5'>內存</b>助力<b class='flag-5'>AI</b> PC時代存儲性能與市場增長

    廣和通Fibocom AI Stack:加速AI部署新紀元

    、海量模型以及全方位的支持與服務于一體,為智能設備提供了AI解決方案。為適應多樣化的
    的頭像 發表于 01-13 11:32 ?929次閱讀

    廣和通開啟AI新時代

    AI發展正酣,隨著終端芯片算力越來越高、模型能力越來越強、實時響應及隱私保護的應用需求增
    的頭像 發表于 12-12 10:35 ?662次閱讀

    訊飛星火模型發布

    參數量小、內存占比小的模型,正成為“兵家必爭之地”。
    的頭像 發表于 12-04 16:07 ?1225次閱讀

    智譜推出四個全新模型 攜英特爾按下AI普及加速

    隨著AI的發展,AI模型越來越受到廣大客戶及廠商的關注,業界領先的大模型公司智譜于近日推出了
    的頭像 發表于 12-02 17:13 ?495次閱讀
    智譜推出四個全新<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>模型</b> 攜英特爾按下<b class='flag-5'>AI</b>普及<b class='flag-5'>加速</b>鍵

    把握關鍵節點,美格智能持續推動AI規模化拓展

    將成為和系統同樣重要的存在,如果說電路是連接身體的“血管”,那么AI就將成為終端的智慧“大腦”。加速演進大模型加速走向
    的頭像 發表于 11-26 01:00 ?486次閱讀
    把握關鍵節點,美格智能持續推動<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>規模化拓展

    把握關鍵節點,美格智能持續推動AI規模化拓展

    將成為和系統同樣重要的存在,如果說電路是連接身體的“血管”,那么AI就將成為終端的智慧“大腦”。 ?加速演進,大模型加速走向
    的頭像 發表于 11-25 16:45 ?662次閱讀
    把握關鍵節點,美格智能持續推動<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>規模化拓展

    安卓旗艦手機告別8GB,轉向更高規格的內存配置

    10月28日資訊,隨著人工智能大模型的普及應用,安卓智能手機制造商正積極調整其旗艦機型的內存配置策略。近期推出的多款安卓旗艦已悄然舍棄8GB內存版本,轉而標配更高容量的
    的頭像 發表于 10-28 15:34 ?884次閱讀

    迅為LPDDR5版本瑞芯微RK3588核心板8GB內存32GB存儲升級版本

    ,主頻高達2.4GHZ,8GB內存,32GB EMMC。 四核心架構GPU--集成Mali G610 MP4四核GPU、支持OpenGLES 1.1、2.0、3.2OpenCL2.2和Vulkan1.2
    發表于 10-22 10:58

    三星開始量產其最薄LPDDR5X內存產品,助力AI應用

    三星輕薄型LPDDR5X DRAM的封裝厚度僅0.65mm,散熱控制能力更強,適合AI在移動的應用 LPDDR封裝采用12納米級工藝,四層堆疊,在提升Die密度的同時,減少厚度,
    的頭像 發表于 08-06 08:32 ?568次閱讀