電子發(fā)燒友網報道(文/周凱揚)云服務作為目前市面上利潤最大的市場之一,已然成了不少互聯(lián)網巨頭公司的主要業(yè)務,而云服務供應商中穩(wěn)坐頭號交椅的,自然是亞馬遜的AWS。作為占據(jù)全球市場近三分之一,在中國市場僅次于阿里云的公共云平臺,亞馬遜的云業(yè)務成了它最賺錢的業(yè)務,甚至在其零售業(yè)務開始虧損時,也依然在一己之力撐起亞馬遜的利潤率。
亞馬遜的AWS業(yè)務之所以能收獲這樣的成功,同樣離不開硬件。云服務市場初期的競爭很簡單,由于硬件用的都是英特爾、AMD這些廠商的服務器產品線,所以差距不大,只能靠虛擬化技術之類的軟件架構以及更高的性價比來吸引客戶。但為了進一步降低成本,云服務廠商們也紛紛開始自研芯片,亞馬遜、谷歌還有阿里巴巴都是如此。
一次成功的收購對于云服務的基石實例來說,虛擬化是至關重要的。亞馬遜此前用到的都是Xen這一開源虛擬化技術,隨后在發(fā)現(xiàn)Xen在硬件虛擬化上的一些限制之后,亞馬遜開始轉向另一個開源虛擬化技術KVM。
但也正是這一轉變讓他們有了重大發(fā)現(xiàn),那就是盡管英特爾和AMD的服務器CPU在虛擬化上越來越成熟,但KVM能與ASIC緊密結合在一起反而能發(fā)揮出更大的優(yōu)勢。為此,他們決定發(fā)展自己的芯片設計業(yè)務。
2015年,亞馬遜以未公開的金額收購了一家來自以色列的初創(chuàng)芯片公司Annapurna Labs,而這時的Annapurna Labs甚至沒有任何公開的產品,但亞馬遜很明顯看中了他們在服務器芯片上的開發(fā)實力。果不其然,2015年起,帶有Annapurna Labs標志的ASIC芯片開始出現(xiàn)在Project Nitro中,只不過大部分ASIC芯片都只是作為網絡/存儲卸載卡上,每個實例的硬件主體大部分還是英特爾的x86 CPU。
2018年,第一代AWS Graviton面世,作為亞馬遜自研的ARM服務器CPU方案,基于該處理器的實例在使用成本上要低于基于x86的方案,收獲了不少用戶的同時,也擴展了ARM的云端開發(fā)生態(tài)。這之后公布的第二代與第三代AWS Graviton,都為通用工作復雜提供了更高的性價比。
之所以有這么快的迭代速度,與亞馬遜以IP為導向的設計路線有關。以AWS Graviton2和Graviton3為例,這兩者分別運用了ARM Neoverse N1和Neoverse V1的方案,并不需要亞馬遜像Ampere Computing這樣的服務器芯片廠商一樣,開始考慮自研ARM IP。
AI/ML帶來的新一波熱潮提供通用計算托管平臺的亞馬遜也沒有止步于此,他們看上了新的市場,那就是AI/ML。作為“新電力”的人工智能正在為各個行業(yè)帶去新的生機,但所需的算力也成了轉型過程中最大的難題。最初大家指望用CPU來解決AI算力的問題,然而面對全新的計算方式,CPU很快就顯得心有余而力不足。
但要去做GPU需要的技術積累可不少,市面上也只有英偉達的GPU在AI/ML上打出了名號,所以亞馬遜和許多AI芯片初創(chuàng)公司一樣,還是打算從ASIC上出發(fā),推出了Inferentia和Trainium這兩款推理和訓練芯片。
不過Inferentia和Trainium與Graviton的定位是一樣的,亞馬遜并不指望從性能上打敗如日中天的GPU,而是希望提供一個成本更低延遲更低并支持更多算法的方案,繼續(xù)發(fā)揮云服務在即用即付這一高性價比商業(yè)模式上的優(yōu)勢。
與此同時,亞馬遜作為全球市占比第一的云服務廠商,單靠自己的硬件是沒法實現(xiàn)這樣的地位的,所以無論是英偉達的GPU還是英特爾Habana Labs的AI加速器,亞馬遜也都有合作部署。
即便Inferentia和Trainium帶來了一定的成本和功耗優(yōu)勢,但要想打破當下以GPU主導的AI/ML生態(tài),還面臨著不少挑戰(zhàn),英偉達的CUDA已經打造了一個相當龐大的開發(fā)社區(qū),要想讓開發(fā)者遷移到ASIC硬件上,還有龐大的移植工作需要完成。這也是為何亞馬遜的Annapurna Labs部門目前開放的100多個職位中,硬件開發(fā)的其實只有10多位,余下的大部分還是軟件開發(fā)崗,大部分AI芯片初創(chuàng)公司也在面臨著這類困境,并非獨此一家。
結語在大部分服務器CPU、AI/ML加速器初創(chuàng)公司眼中,直接把硬件賣給各大數(shù)據(jù)中心和互聯(lián)網公司并不是唯一的銷售途徑,能傍上亞馬遜、谷歌和阿里巴巴這樣的大腿不僅能盈利,還能提高自己產品的普及程度。
這也是為何Ampere Computing的Altra處理器開始陸續(xù)出現(xiàn)在Azure、谷歌云和阿里云等平臺上,云服務平臺自研芯片歸根結底還是為了提供性價比更高的方案,但他們的客戶還在猛增階段,只靠閉門造車肯定是沒法擴大市場份額的,擁抱更大的硬件生態(tài)才能實現(xiàn)共贏。
-
虛擬化技術
+關注
關注
1文章
52瀏覽量
13245 -
開源
+關注
關注
3文章
3677瀏覽量
43808 -
云服務
+關注
關注
0文章
855瀏覽量
39696 -
亞馬遜
+關注
關注
8文章
2694瀏覽量
84659
原文標題:?亞馬遜作為第一云服務商在芯片上的投入
文章出處:【微信號:elecfans,微信公眾號:電子發(fā)燒友網】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
有關于KVM延長器
如何在Centos系統(tǒng)中部署KVM虛擬化平臺

請問canmv-k230支持雙核嗎?如何調用另一個核心工作?
開源項目!教你如何制作一個開源教育機械臂
EE-82:使用ADSP-2181 DSP的IO空間對另一個ADSP-2181進行IDMA引導

深入KVM虛擬化之構建高效、可擴展的虛擬化環(huán)境

emc虛擬化技術的應用場景
TAS5715做兩通道功放,如果關掉一個通道,另一個通道功率會變大很多,為什么?
tpa3255一個聲道正常,另一個聲音大就保護,為什么?
vca821的Vcc是1和14是否可以只對一個引腳供電另一個懸空,內部是否是通路?
電感的電流能否分流給另一個電感
虛擬機數(shù)據(jù)恢復—KVM虛擬機被誤刪除的數(shù)據(jù)恢復案例

評論