盡管提倡在整個行業(yè)范圍內(nèi)停止人工智能訓(xùn)練,但據(jù)報道,埃隆·馬斯克 (Elon Musk)已經(jīng)在 Twitter 內(nèi)啟動了一個重大的人工智能項目。據(jù)Business Insider報道,該公司已經(jīng)購買了大約 10,000 個 GPU,并從 DeepMind 招募了 AI 人才,用于涉及大型語言模型 (LLM) 的項目 。
以昇思為基,盤古生態(tài)引領(lǐng)中國AI未來
一位知情人士表示,馬斯克的 AI 項目仍處于初始階段。然而,根據(jù)另一個人的說法,獲得大量額外的計算能力表明他致力于推進該項目。同時,生成人工智能的確切目的尚不清楚,但潛在的應(yīng)用包括改進搜索功能或生成有針對性的廣告內(nèi)容。
目前,尚不清楚 Twitter 采購了哪些具體硬件。然而,據(jù)報道,盡管 Twitter 一直存在財務(wù)問題,但據(jù)報道 Twitter 在這些計算 GPU 上花費了數(shù)千萬美元,馬斯克將其描述為“不穩(wěn)定的財務(wù)狀況”。這些 GPU 預(yù)計將部署在 Twitter 剩余的兩個數(shù)據(jù)中心之一,亞特蘭大是最有可能的目的地。有趣的是,馬斯克在 12 月下旬關(guān)閉了 Twitter 在薩克拉門托的主要數(shù)據(jù)中心,這顯然降低了公司的計算能力。
除了為其生成式 AI 項目購買 GPU 硬件外,Twitter 還在招聘更多的工程師。今年早些時候,該公司從Alphabet 的子公司AI Research DeepMind招募了工程師 Igor Babuschkin 和 Manuel Kroiss。至少從 2 月開始,馬斯克一直在積極尋找 AI 行業(yè)的人才,以與 OpenAI 的 ChatGPT 競爭。
OpenAI使用Nvidia 的 A100 GPU 來訓(xùn)練其 ChatGPT 機器人,并繼續(xù)使用這些機器來運行它。到目前為止,Nvidia 已經(jīng)推出了 A100 的后繼產(chǎn)品,其H100計算 GPU 在大約相同的功率下速度快了幾倍。
Twitter 可能會在其 AI 項目中使用 Nvidia 的 Hopper H100 或類似硬件,盡管我們在此進行推測。考慮到該公司尚未確定其 AI 項目的用途,因此很難估計它可能需要多少個 Hopper GPU。
通常Twitter 這樣的大公司購買硬件時,他們會以特價購買,因為他們采購了數(shù)千臺。與此同時,如果單獨從 CDW 等零售商處購買,Nvidia 的 H100 主板單價可能超過 10,000 美元,由此可以看出該公司可能為其 AI 計劃在硬件上花費了多少。
ChatGPT邁向商用,GPU需求上看3萬顆
ChatGPT近期掀起云端與AI產(chǎn)業(yè)話題,Microsoft、Google、百度等相繼推出基于生成式AI衍生的產(chǎn)品服務(wù),根據(jù)集邦(TrendForce)最新報告「從AIGC看云端AI應(yīng)用趨勢與挑戰(zhàn)」,未來邁向商用將上看3萬顆;在此熱潮下, GPU及AI芯片相關(guān)供應(yīng)鏈業(yè)者可望受惠。
不過,集邦指出,市場普及度和產(chǎn)品服務(wù)的功能優(yōu)化仍待考驗,且由于AI是以用戶體驗為核心,涉及個資及內(nèi)容提供的正確性,因此下個發(fā)展階段或?qū)⑦€會面臨法規(guī)問題。
TrendForce表示,生成式AI是透過GAN、CLIP、Transformer、Diffusion等演算法、預(yù)訓(xùn)練模型、多模態(tài)等AI技術(shù)的整合,在既有數(shù)據(jù)或資料中尋找規(guī)律,并在資料匯整、社交互動、文案產(chǎn)出等領(lǐng)域帶出高效的內(nèi)容產(chǎn)出,以及與用戶互動體驗。現(xiàn)行市面上已有不少生成式AI之應(yīng)用,較常見的產(chǎn)出類別包括文字、圖像、音樂、編碼等。
集邦表示,數(shù)據(jù)、算力、算法是深耕生成式AI不可或缺的三大關(guān)鍵,且產(chǎn)品服務(wù)易做但優(yōu)化困難,因此,握有相關(guān)資源的云端大廠在發(fā)展上將更具優(yōu)勢。就廠商角度而言,由于ChatGPT等生成式AI聊天機器人不僅能與用戶自然對話,「類理解需求」的能力使其針對各式咨詢能進一步提供建議,加上使用搜尋引擎已相當(dāng)普遍,因此透過強化搜尋引擎已是各云端大廠的首要任務(wù)。
據(jù)TrendForce調(diào)查,目前全球搜尋引擎市場以超過9成的Google引擎為首,Microsoft Bing僅占3%,短期間不致造成威脅,但隨著用戶擴大、數(shù)據(jù)回饋與模型優(yōu)化的循環(huán),是否會產(chǎn)生服務(wù)差異甚或搶占廣告商機,也是Google不得不預(yù)防的潛在風(fēng)險。
集邦表示,由于生成式AI必須投入巨量資料進行訓(xùn)練,為縮短訓(xùn)練就得采用大量高效能GPU。以ChatGPT背后的GPT模型為例,其訓(xùn)練參數(shù)從2018年約1.2億個到2020年已暴增至近1,800億個,估GPU需求量預(yù)估約2萬顆,未來邁向商用將上看3萬顆。
集邦表示,生成式AI發(fā)展將成為趨勢,將帶動GPU需求顯著提升,連帶使相關(guān)供應(yīng)鏈?zhǔn)芑荩渲凶畲笫芤嬲呤荊PU芯片龍頭的英偉達(NVIDIA),旗下可達到5 PetaFLOPS運算效能的DGX A100,幾乎是目前用于大規(guī)模資料分析、AI加速運算的首選;此外,尚有推出MI100、MI200、MI300系列芯片的超微(AMD)。
審核編輯 :李倩
-
AI
+關(guān)注
關(guān)注
87文章
34274瀏覽量
275448 -
人工智能
+關(guān)注
關(guān)注
1804文章
48726瀏覽量
246610 -
ChatGPT
+關(guān)注
關(guān)注
29文章
1588瀏覽量
8805
原文標(biāo)題:買10000個GPU,入局大模型
文章出處:【微信號:AI_Architect,微信公眾號:智能計算芯世界】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
創(chuàng)思遠達與昇騰合作推動AI PC應(yīng)用創(chuàng)新
嘉為藍鯨OpsPilot與華為昇思完成兼容性認(rèn)證,共筑運維AI融合新生態(tài)

FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預(yù)測......
迅龍軟件受邀參加華為昇思人工智能框架峰會,展示昇思X香橙派的創(chuàng)新AI案例

商湯參與基于昇思AI框架的大模型原生開發(fā)成果發(fā)布
華為推動中國人工智能框架生態(tài)高速發(fā)展
昇思MindSpore預(yù)測2024年中國AI框架市場份額將達30%
中移芯昇獲第十九屆“中國芯”優(yōu)秀“芯生態(tài)”企業(yè)獎

香橙派與昇思MindSpore合作提速,軟硬結(jié)合助力開發(fā)者構(gòu)建創(chuàng)新AI應(yīng)用

技術(shù)引領(lǐng)筑生態(tài),萬物智聯(lián)創(chuàng)未來,凌智電子襄盛舉

請回答OpenHarmony | 關(guān)于開源生態(tài)的未來想象,我們現(xiàn)場回答
研華發(fā)布高性能工業(yè)邊緣 AI 算力方案 攜手昇騰引領(lǐng)邊緣 AI 革新

昇騰與昇思原生,助力智譜打造自主創(chuàng)新大模型體系!

香橙派亮相昇騰AI開發(fā)者創(chuàng)享日,打造“AI+鴻蒙”高算力開發(fā)板

評論