女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

解密PC的AI進化:AI大模型如何“壓”進PC?

知識酷Pro ? 來源:虎嗅APP ? 2024-01-16 15:40 ? 次閱讀

當地時間2024年1月9日,2024年國際消費電子展(CES 2024)在美國拉斯維加斯舉辦。AI for All成為CES大會的關鍵議題之一。在眾多展品當中,被視作個人大模型普惠第一終端的AI PC吸引眾多目光。全球最大的PC廠商聯想集團更是推出了包括Yoga Pro 9i,ThinkBook Plus Gen 5 Hybrid、全球首款商務AI PC ThinkPad X1 Carbon AI、ThinkCentre neo Ultra在內的一眾AI PC產品。那么這些初次登場的AI PC產品身上到底有什么黑科技呢?虎嗅與您一起走進2024CES,為您揭開AI PC神秘的面紗。

奔馳、寶馬、大眾紛紛把大語言模型接入車機系統,讓人能跟汽車自然對話。

三星給冰箱裝了個AI識別系統,可以識別食物品種和新鮮度。

LG推出了會問候早安、歡迎回家的家庭AI機器人。

在2024年的CES展上, AI熱度仍在持續,各家廠商都在喊AI for All,All in AI之類的口號。

然而對于普通的消費電子用戶來說,更關注的似乎還是停留在手邊的設備,比如作為我們生產力工具的電腦

AI PC是2024年CES展中最熱的詞之一,在數據中心業務上賺的盆滿缽滿的英偉達,也在本次展會上推出了多款聚焦個人、商用電腦的AI硬件產品和應用。包括RTX 4060 Super、RTX 4070 Ti Super 和 RTX 4080 Super三款GPU,將大語言模型(LLM)的處理速度提升了5倍,將AI視頻生成速度提高了150%。

英偉達產品管理的高級總監Justin Walker在新聞發布會上強調:“我們已經銷售了超過1億塊RTX GPU,這為運行AI應用的個人電腦提供了堅實的硬件基礎。”

在PC終端方面,微軟在CES大會之前,就宣布將在新款Windows 11電腦上配備Copilot按鈕,這是一個專門用于調用現已融入其操作系統人工智能聊天機器人的功能。配備Copilot按鈕的首批設備預計將在本月完成上市。值得注意的是,Windows PC鍵盤布局上次的重大變革還是在30年前。

不過,在AI PC方面走的最靠前的當屬聯想。從2023年10月的全球TechWorld大會宣布了全線AI PC規劃后,僅幾個月時間,聯想就帶著多款AI Ready階段的AI PC產品亮相CES展。包括賦能創作過程的Yoga Pro 9i,全球第一臺可無縫切換筆記本電腦和平板電腦兩種模式的ThinkBook Plus Gen 5 Hybrid、全球首款商務AI PC ThinkPad X1 Carbon AI、新一代超小型ThinkCentre neo Ultra等。

無論是AI技術發展,還是PC市場趨勢,都預示著AI將會成為2024年的PC行業新的增長引擎。AI PC則成為了傳統PC廠商的新增長機會,甚至有可能打破依靠供應鏈和渠道驅動的業務模式,創造出全新的PC市場趨勢和發展模式。

技術大揭秘:把AI裝進PC

大模型的通用性、泛化能力都是來自于模型的參數量,從AI大模型熱潮爆發至今,模型的參數量不斷擴大,對算力的需求也在直線上漲。由此AI需要云端算力,幾乎成了業界共識,很多人認為脫離了云服務器的AI PC很難把模型的能力發揮好。

然而,對于個人和商業用戶來說,純粹的云端AI也并不是萬能的。隨著AI技術的發展和應用場景的多樣化,依賴云端AI處理大量數據、提供服務的模式正逐步顯現出局限性。

目前的AI云服務主要面臨三個比較明顯的挑戰:成本、安全和響應速度。

而結合云端AI和AI PC類產品的優勢,構建的云端+本地的AI模式,很可能會成為未來AI的發展趨勢。通過這種模式,大型AI模型可以在云端進行復雜的數據分析和學習,而端側AI則負責實時、低延遲的任務處理。這種協同工作模式不僅能夠彌補單一模式的不足,還可以在保證處理效率的同時,確保用戶數據的隱私和安全。

那么,要把云端那些需要英偉達A100、H100顯卡才能跑起來的AI大模型,“拖到”小小的個人電腦中,應該怎么做呢?

聯想的做法是對大模型進行“壓縮”。

AI大模型通常涉及復雜的數據結構(如神經網絡的權重矩陣)。這些結構需要頻繁地在計算過程中修改和訪問,所以在訓練和推理過程中需要占用大量內存空間。

以GPT-3為例,它有1750億個參數。通常情況下,這些參數以32位浮點數(即float32)的形式存儲。在32位浮點數中,每個參數需要4字節的存儲空間。換算成更常見的單位,這大概相當于700GB。

目前參數量較小的主流AI大模型多位70億參數或130億參數,這些“小”模型需要的存儲空間,大約也要20GB以上。個人、辦公電腦上要運行這些模型,相當困難。

“我們現在做的技術就是如何把這個存儲的這些空間降低之后,還能保持原有的模型性能。”聯想研究院研究員謝棟介紹說。

聯想基于阿里通義千問的7B模型重新做了一個新的模型,在參數量不變的情況下對模型的“體積“進行了大幅度的壓縮,謝棟告訴虎嗅:”可能原來一個參數用兩個字節來存儲,經過壓縮,一個參數只有半個字節就可以存儲。“

阿里通義千問7B模型的原始大小是14.4GB,在聯想的Lenovo AI now中運行的模型則壓縮到了4GB。由此,AI大模型+電腦本身的緩存,大概只要5-6G內存就能運行起來。而目前,聯想的主流集成顯卡筆記本電腦內存都在16G以上,獨立顯卡的游戲本、高性能本顯存都在8G以上,可以輕松運行壓縮后的通義千問7B模型。

現在的AI與傳統的軟件不一樣,不是所有的芯片都能跑。AI與硬件之間還有一個中間層叫framework。目前,聯想的AI PC正在做的事就是定制自己的framework。

“中間層是決定他能在這樣的硬件基礎上跑的,第一要能跑,第二還要跑得好”聯想全球中小企業產品與解決方案總經理鄭愛國告訴虎嗅,“目前我們的專家每天都在和AMDIntel的專家溝通,對他們最新的平臺和芯片一個一個地調優,是其能最大限度地適合AI PC的工作和任務。”

目前聯想研究院在這個“中間層”的研發工作中擔任重要角色,除此之外,聯想對AI PC的研發采用了多元化布局。目前最主要的研發任務主要集中在中國和美國。在日本、巴西,以及印度也都有研發分布。聯想集團董事長兼CEO楊元慶表示:“創新還有研發一直以來都是聯想兩個重要的核心能力之一。我們的研發經費在過去幾年一直在提升,從不到3%到大概已經4%以上。”

如何用AI PC打出區隔

正在拉斯維加斯舉辦的2024 CES展上,聯想展出了ThinkBook 16P、ThinkPad P1、ThinkPad P16、ThinkBook 13x等多款AI Ready的產品。這些產品的推出,不僅是技術進步的展示,也是聯想在AI PC領域策略的體現。

聯想集團執行副總裁兼中國區總裁劉軍表示:“我們的AI PC目前處在AI Ready的階段,在2024年4月的聯想中國創新科技大會(TechWorld)上,我們將正式宣布我們的個人Agent。”這一聲明表明,聯想正將AI PC技術與個人助理功能結合,推動AI技術在個人電腦領域的深入應用。

在AI PC的硬件方面,聯想計劃推出CPU+GPU+NPU的混合AI模式,這種模式可以提高計算效率,優化AI應用的性能。NPU(神經網絡計算單元)的引入是對傳統CPU和GPU功能的補充,能夠更加專注于處理AI相關的任務。這種混合硬件布局不僅適用于PC,也將應用于手機、平板等多種設備,甚至擴展到商業環境和AIOT(AI驅動的IoT)產品。

在軟件生態方面,聯想的戰略是改變傳統PC行業甚至是消費電子產品的交互邏輯,從應用交互轉向意圖交互。這一轉變預示著未來的交互方式將更加直觀和自然。用戶不再需要通過復雜的菜單和步驟來執行任務,而是可以直接通過意圖來與設備互動。這種基于意圖的交互方式能夠大大提高用戶體驗,使設備更加智能和易用。

在探索這些新領域的同時,對于其他廠商而言,如何在AI PC市場中尋找自己的定位和特色,是一個值得思考的問題。例如,其他廠商可能會在特定的垂直領域內進行深耕,如專注于創意工作的AI應用,或者在安全性、隱私保護方面進行創新。同時,不同廠商可能會選擇不同的技術路徑或合作伙伴,以尋找差異化的市場機會。

對于整個PC行業來說,AI PC的發展是一個多維度的過程,涉及硬件、軟件、用戶體驗和生態系統等多個層面。聯想作為先行者,在AI PC方向上自然會占據一定的先發優勢,不過在創新產品的開發,以及AI技術的發展過程中,勢必也會遇到各種不確定的問題。

從行業趨勢來看,AI PC的未來可能不僅僅局限于個人電腦,而是會擴展到整個智能終端生態系統,包括智能家居、智能汽車等領域。這種趨勢下,廠商之間的競爭將不僅僅是硬件和軟件的競爭,更是對整個生態系統的理解和布局的競爭。

PC市場的拐點

IDC在2023年底發布的《全球季度個人計算設備跟蹤報告》指出,鑒于當前的經濟環境和市場狀況,對全球PC市場的預測被下調。預計2023年的出貨量將比2022年下降13.8%,而2022年的出貨量則比上年下降了16.6%。這種連續兩年的兩位數同比下降在個人電腦市場是前所未有的。不過這種“衰退”趨勢可能正在為市場的后續復蘇鋪平道路。

IDC認為,疫情期間售出的PC產品大多將在2024年面臨Windows更新周期。此外,一些失去微軟服務支持的舊版Windows系統,將面臨2024年升級至Windows 11的壓力。

這些因素在短期將會促進2024年PC市場的增長。而從長遠來看,PC市場更大的增長動力則很可能源自AI PC帶來的革命性升級。

聯想集團執行副總裁、智能設備業務集團總裁Luca Rossi在CES期間接受采訪時表示:“2023年市場確實遭遇了一些壓力。對于2024年全球市場的趨勢我們保持謹慎樂觀的態度,預見會有少量的增長。我們也樂觀地認為,在2024年下半年和2025年,AI PC將在消費和商用市場掀起廣泛的換機潮。人工智能電腦將成為轉折點,加速更換周期。”

雖然目前全球PC市場中,僅有聯想一家在大舉落地AI PC,但其它PC行業巨頭也都在對AI PC概念保持高度關注。HP和Dell的高管在近期的采訪中都表示AI PC必將大幅提升PC的升級換代潛力表示肯定,HP Personal Systems部門總裁Alex Cho認為:AI PC或有望幫助PC行業增長率翻倍。

盡管面臨短期挑戰,IDC預計2024年及以后的市場將會出現反彈。預計2024年PC市場總量將比2023年增長3.4%,這得益于AI PC對市場升級起到的催化作用。初步針對企業PC市場的某些細分市場,隨著用例的進一步發展和成本的降低,AI PC可能會推動更廣泛的市場應用。

同時,IDC認為2024年將是PC市場的關鍵一年,為市場近期的挑戰提供了喘息機會。預計2024年之后,出貨量的增長將超過大流行前的水平,在2027年達到2.85億臺的峰值。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • PC
    PC
    +關注

    關注

    9

    文章

    2143

    瀏覽量

    156033
  • 人工智能
    +關注

    關注

    1804

    文章

    48691

    瀏覽量

    246416
  • 大模型
    +關注

    關注

    2

    文章

    3022

    瀏覽量

    3816
  • AI大模型
    +關注

    關注

    0

    文章

    362

    瀏覽量

    498

原文標題:解密PC的AI進化:AI大模型如何“壓”進PC?

文章出處:【微信號:ZHISHIKU-Pro,微信公眾號:知識酷Pro】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    太強了!AI PC搭載70B大模型,算力狂飆,內存開掛

    電子發燒友網報道(文/黃晶晶)AI推理助推了DeepSeek一體機的市場熱度,而AI PC對DeepSeek大模型的支持也將是廣大用戶采購AI
    的頭像 發表于 03-24 08:52 ?1831次閱讀
    太強了!<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>搭載70B大<b class='flag-5'>模型</b>,算力狂飆,內存開掛

    AI PC芯片X86與Arm六四分?乾坤未定,競爭焦灼

    電子發燒友網報道(文/黃晶晶)在AI手機市場,智能手機廠商已經進入AI模型優化與應用落地的比拼中,vivo推出黃金尺寸3B大模型,OPPO主打一鍵問
    的頭像 發表于 10-27 07:44 ?3703次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>芯片X86與Arm六四分?乾坤未定,競爭焦灼

    CPU\GPU引領,國產AI PC進階

    電子發燒友網報道(文/黃晶晶)當前AI PC已經成為PC產業的下一個浪潮,國產CPU、GPU廠商在PC市場一直處于追趕態勢,AI
    的頭像 發表于 09-01 02:15 ?5551次閱讀
    CPU\GPU引領,國產<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>進階

    AMD攜手微軟共迎Windows 11 AI+ PC 生態新篇章

    運行70B大模型處理器平臺、微軟Windows 11 AI+ PC推出AI功能更新,到ISV加速開發本地化AI應用、OEM廠商全面布局
    的頭像 發表于 05-16 14:35 ?163次閱讀
    AMD攜手微軟共迎Windows 11 <b class='flag-5'>AI</b>+ <b class='flag-5'>PC</b> 生態新篇章

    首創開源架構,天璣AI開發套件讓端側AI模型接入得心應手

    科正將AI能力體系化并賦能終端生態。 大會上,聯發科定義了“智能體化用戶體驗”的五大特征:主動及時、知你懂你、互動協作、學習進化和專屬隱私信息守護。這五大特征需要跨越從芯片、模型、應用、終端乃至整個
    發表于 04-13 19:52

    AI PC浪潮將至!三大存儲廠商齊發新品,加速大模型端側落地

    電子發燒友原創 章鷹 3月12日,MemoryS 2025峰會在深圳成功舉行,CFM閃存市場總經理邰煒表示,AI PC作為主力的生產力工具,2025年落地更顯快速,今年我們預計AI PC
    的頭像 發表于 03-14 00:05 ?2028次閱讀
    <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>浪潮將至!三大存儲廠商齊發新品,加速大<b class='flag-5'>模型</b>端側落地

    登臨科技攜手聯想開天解鎖AI PC芯體驗

    成包括DeepSeek在內的多種大模型適配,并與聯想開天攜手打造國產信創PC行業首款AI+PC硬件。為各行業AI應用提供了低門檻的解決方案,將有力推動中國
    的頭像 發表于 02-24 13:46 ?625次閱讀

    機械革命AI PC接入DeepSeek大模型

    專注于高性能移動解決方案的知名品牌——機械革命(MECHREVO),宣布旗下AI PC產品線正式接入中國開源大模型DeepSeek!憑借機械革命無與倫比的產品性能與深度定制的適配優化,使得
    的頭像 發表于 02-10 09:50 ?466次閱讀

    NVIDIA推出面向RTX AI PCAI基礎模型

    NVIDIA 今日發布能在 NVIDIA RTX AI PC 本地運行的基礎模型,為數字人、內容創作、生產力和開發提供強大助力。
    的頭像 發表于 01-08 11:01 ?474次閱讀

    中科創達旗下創通聯達推出四款AI Mini PC參考設計

    近日,CES2025盛會即將拉開帷幕之際,中科創達旗下創通聯達宣布推出四款AI Mini PC參考設計——AI Mini PC G1 Elite、A
    的頭像 發表于 01-06 10:33 ?955次閱讀

    高通驍龍X Elite平臺引領AI PC發展

    隨著生成式AI的迅猛發展,人工智能技術正在賦能更豐富的用例,為各行各業的發展變革提供新思路。在這場數字化浪潮中,AI PC成為了PC行業的關鍵轉折點。面對全新的
    的頭像 發表于 12-18 15:09 ?761次閱讀

    AI PC的崛起

    的發展,市場趨于飽和。到2010年,大多數人都擁有臺式機、筆記本電腦或平板電腦。2015年前后,PC市場陷入停滯,全球PC銷量停滯不前。 到了2024年,在推出內置AI PC的推
    的頭像 發表于 11-14 11:06 ?749次閱讀

    2026年AI PC市場將占Windows PC半壁江山

     根據最新市場研究機構Canalys的權威預測,人工智能(AI)個人電腦(PC)在Windows PC市場的滲透率正經歷前所未有的飛躍。該機構預計,從當前的不足10%起步,AI
    的頭像 發表于 09-06 16:09 ?1077次閱讀

    高通AI PC大降價,或引領換機潮

    高通近日宣布,明年其搭載驍龍X系列處理器的AI PC終端售價將大幅下調,最低可達700美元,這一價格不僅與當前市面上的消費型電腦相當,更是目前主流AI PC價格的一半。此舉不僅彰顯了高
    的頭像 發表于 08-06 16:40 ?751次閱讀

    AI PC:真正的AI PC,敢于下場

    在過去的半年里,我們無一不在聆聽關于人工智能(AIPC的種種聲音,然而當步入現實生活時,恐怕仍有眾多讀者對此感到迷茫:這些AI PC究竟具有哪些A
    的頭像 發表于 06-11 15:02 ?1041次閱讀