據悉,亞馬遜云服務部門于5月23日宣布,與人工智能新貴Hugging Face達成合作協議,在定制化計算芯片Inferentia2上以更優惠價格運行上千種AI模型。
Hugging Face作為一家估值為45億美元的公司現已成為了眾多AI研究員和開發者分享Chatbot和相關軟件的核心平臺,受到亞馬遜、谷歌、英偉達等巨頭的青睞。
據了解,Hugging Face是開發者獲取和調整諸如Meta Platforms的Llama 3等開源AI模型的首選平臺。
當開發者完成對開源AI模型的調整后,往往希望能利用此模型驅動軟件。因此,亞馬遜和Hugging Face決定聯手,通過在Inferentia2定制化亞馬遜網絡服務(AWS)芯片上實現這一目標。
Hugging Face的產品及增長主管Jeff Boudier表示,對于他們而言,效率至關重要——即確保盡可能多的用戶能夠運行模型,且以最具性價比的方式進行。
盡管英偉達在訓練模型領域處于領先地位,但AWS堅信其芯片有能力以更低成本運行已訓練好的模型。
AWS人工智能產品負責人Matt Wood指出,用戶可能每月僅需訓練一次這些模型,而實際應用中,可能需要每小時對其進行數萬次推理,這正是Inferentia2的獨特優勢所在。
-
AI
+關注
關注
87文章
34197瀏覽量
275351 -
模型
+關注
關注
1文章
3486瀏覽量
49990 -
英偉達
+關注
關注
22文章
3920瀏覽量
93107 -
亞馬遜
+關注
關注
8文章
2691瀏覽量
84439
發布評論請先 登錄
首創開源架構,天璣AI開發套件讓端側AI模型接入得心應手
FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預測......
行業集結:共同定制 RK3566 集成 AI 眼鏡的前沿 AR 方案
聚云科技獲亞馬遜云科技生成式AI能力認證
聚云科技榮獲亞馬遜云科技生成式AI能力認證
聚云科技榮獲亞馬遜云科技生成式AI能力認證 助力企業加速生成式AI應用落地
Hugging Face推出最小AI視覺語言模型
LG AI Research使用亞馬遜云科技開發AI模型 加快癌癥診斷速度

評論