UCloud實(shí)驗(yàn)室研發(fā)總監(jiān)葉理燈

UCloud實(shí)驗(yàn)室研發(fā)總監(jiān)葉理燈談人工智能的三要素以及云計(jì)算如何推動(dòng)人工智能落地。英特爾至強(qiáng)可擴(kuò)展處理器和Intel Caffe框架相結(jié)合，為UCloud帶來高性能、低成本的方案，有效提升用戶體驗(yàn)。

人工智能已經(jīng)成為產(chǎn)業(yè)變革越來越重要的推動(dòng)力量。不管是通過人工智能實(shí)現(xiàn)轉(zhuǎn)型升級(jí)的傳統(tǒng)企業(yè)，還是將人工智能視為發(fā)展方向的初創(chuàng)公司，越來越多的企業(yè)需要借助人工智能來挖掘數(shù)據(jù)價(jià)值，了解現(xiàn)狀、預(yù)測(cè)未來，做出更為準(zhǔn)確的經(jīng)營(yíng)決策。

但是，如何通過收集-應(yīng)用-累積的閉環(huán)，發(fā)揮數(shù)據(jù)的價(jià)值？如何通過算法去推動(dòng)業(yè)務(wù)洞察？如何通過計(jì)算力的提升，來進(jìn)行深度學(xué)習(xí)、推理和訓(xùn)練？與此同時(shí)，人工智能基礎(chǔ)設(shè)施的搭建，人工智能系統(tǒng)的部署該從哪里開始？成本該怎樣考量？運(yùn)維如何開展？這些問題讓很多人將人工智能看作是“高門檻”的技術(shù)，在談及落地應(yīng)用時(shí)無從下手。

作為人工智能應(yīng)用普及的推動(dòng)者，英特爾積極打造人工智能的新生態(tài)，助力人工智能技術(shù)的大眾化，推動(dòng)人工智能真正產(chǎn)生社會(huì)價(jià)值。英特爾與國(guó)內(nèi)公有云的領(lǐng)導(dǎo)者和人工智能領(lǐng)域的先行者UCloud攜手，為UCloud提供了領(lǐng)先、高效、可擴(kuò)展且開放的基礎(chǔ)設(shè)施，幫助UCloud建設(shè)高性能、低成本的AI架構(gòu)，讓用戶像使用成熟的云產(chǎn)品一樣使用AI服務(wù)。

云計(jì)算—AI落地的天然加速器

英特爾首席數(shù)據(jù)科學(xué)家鮑勃·羅杰斯（Bob Rogers）曾指出，對(duì)于那些希望應(yīng)用人工智能，卻不知該如何開始進(jìn)行基礎(chǔ)設(shè)施搭建的企業(yè)來說，與云計(jì)算廠商的合作是一條很好的路徑。

云計(jì)算對(duì)AI的快速落地起到很大的推動(dòng)作用。UCloud實(shí)驗(yàn)室研發(fā)總監(jiān)葉理燈也認(rèn)為，云計(jì)算與人工智能落地的緊密關(guān)系不言而喻。云計(jì)算天然是計(jì)算能力的提供者。越來越多的數(shù)據(jù)在云計(jì)算上產(chǎn)生，為提供計(jì)算能力而生的云計(jì)算收獲了龐大的生產(chǎn)和消費(fèi)數(shù)據(jù)。因此，在云計(jì)算上做機(jī)器學(xué)習(xí)的訓(xùn)練和推理則順理成章。

在UCloud看來，云計(jì)算本身作為規(guī)模經(jīng)濟(jì)，其核心能力在于運(yùn)營(yíng)。作為海量用戶考驗(yàn)過同時(shí)又保持中立的平臺(tái)，UCloud在實(shí)踐中通過大量案例來發(fā)現(xiàn)問題并不斷優(yōu)化技術(shù)產(chǎn)品和服務(wù)，支撐更多用戶的運(yùn)營(yíng)。同時(shí)，UCloud基于行業(yè)不斷進(jìn)行技術(shù)創(chuàng)新，以定制化的研發(fā)滿足不同行業(yè)的用戶需求。早前，UCloud在業(yè)界首次提出了90秒響應(yīng)，走在云服務(wù)行業(yè)水平的前列。這種在云計(jì)算平臺(tái)積累的技術(shù)優(yōu)勢(shì)和運(yùn)營(yíng)服務(wù)能力，也為UCloud提供差異化AI服務(wù)奠定了堅(jiān)實(shí)基礎(chǔ)。

UCloud的一站式AI服務(wù)

2017年，UCloud提出了“ CBA ”（Cloud，Bigdata，AI）三位一體發(fā)展戰(zhàn)略，并發(fā)布了UAI（人工智能）系列產(chǎn)品，包UAI-Train、UAI-Inference和安全屋等產(chǎn)品，已構(gòu)筑起一站式AI全服務(wù)。

葉理燈介紹，“AI的三部曲可以分為大數(shù)據(jù)收集、AI模型訓(xùn)練和AI在線服務(wù)。” 針對(duì)數(shù)據(jù)收集和模型訓(xùn)練，UCloud已經(jīng)為用戶提供了成熟的云主機(jī)、云存儲(chǔ)、云網(wǎng)絡(luò)等解決方案。而在AI在線服務(wù)方面，UCloud為用戶提供了“兩步走”的部署模式。首先，向用戶提供SDK工具包，一鍵完成在線部署。其次，用戶可以通過AI在線服務(wù)PaaS平臺(tái)進(jìn)行后續(xù)管理和維護(hù)。該平臺(tái)擁有自動(dòng)請(qǐng)求負(fù)載均衡、自動(dòng)資源管理的功能。用戶只需要將業(yè)務(wù)部署在平臺(tái)上，就無須操心其后續(xù)的運(yùn)維。

UAI在線服務(wù)（UAI-Inference）面向初創(chuàng)企業(yè)、傳統(tǒng)企業(yè)AI轉(zhuǎn)型而生，讓企業(yè)迅速完成AI基礎(chǔ)設(shè)施的搭建和部署，適用于普遍的AI應(yīng)用場(chǎng)景，如圖像識(shí)別、自然語(yǔ)言處理等。UAI在線服務(wù)對(duì)主流的AI框架，包括TensorFlow、Keras、Caffe和MXNet等都提供良好的支持，企業(yè)可以根據(jù)自己的業(yè)務(wù)需求來選擇不同的AI框架進(jìn)行接入。

AI on IA，英特爾讓AI部署更靈活高效

英特爾利用自身技術(shù)和產(chǎn)品創(chuàng)新的整合優(yōu)勢(shì)，與UCloud打造全面靈活的云和人工智能產(chǎn)品組合，幫助企業(yè)方便地獲取、開發(fā)和部署人工智能應(yīng)用。

至強(qiáng)可擴(kuò)展處理器帶來卓越性能。在UAI在線服務(wù)中，英特爾至強(qiáng)可擴(kuò)展平臺(tái)提供了堅(jiān)實(shí)基礎(chǔ)。UAI在線服務(wù)利用云主機(jī)中英特爾至強(qiáng)可擴(kuò)展處理器的處理能力，將最新英特爾AVX-512用于支持和加速AI在線服務(wù)。英特爾AVX-512 在每個(gè)時(shí)鐘周期的每秒浮點(diǎn)運(yùn)算次數(shù)增加了一倍，執(zhí)行苛刻的計(jì)算任務(wù)時(shí)，能夠提供更加卓越的性能和吞吐量。UCloud利用至強(qiáng)可擴(kuò)展處理器產(chǎn)品家族強(qiáng)大的可擴(kuò)展性進(jìn)行彈性部署，用低成本獲得高性能，降低用戶的TCO，克服GPU價(jià)格昂貴且擴(kuò)展性不足的弊端。經(jīng)過反復(fù)的優(yōu)化和驗(yàn)證，AI在線服務(wù)的重要指標(biāo)——時(shí)延被成功降低到了數(shù)百毫秒，完全滿足了UCloud用戶的應(yīng)用需求。

Intel Caffe框架躍升服務(wù)效率。UCloud是國(guó)內(nèi)第一個(gè)以Intel Caffe框架提供差異化AI服務(wù)的公有云廠商。Intel Caffe框架針對(duì)英特爾硬件平臺(tái)做了深度優(yōu)化，在保證兼容性的前提下，極大地提高了性能。UCloud的一系列測(cè)試結(jié)果表明，借助Intel Caffe框架，測(cè)試系統(tǒng)同時(shí)運(yùn)行的線程數(shù)量可以得到顯著增加。基于該框架，測(cè)試系統(tǒng)的執(zhí)行時(shí)間也能從最初的37秒縮短至優(yōu)化后的3.6秒，整體執(zhí)行性能提高了10倍以上。事實(shí)證明，通過采用這一框架，UCloud AI在線服務(wù)效率得到了極大的躍升。

正如葉理燈所說：“與英特爾的合作為UCloud帶來了三點(diǎn)優(yōu)勢(shì)，提高性能，降低成本，改善用戶體驗(yàn)。” 英特爾至強(qiáng)可擴(kuò)展處理器為UCloud的云計(jì)算和人工智能平臺(tái)搭建了堅(jiān)實(shí)基礎(chǔ)。面向未來，雙方還將攜手，不斷去推動(dòng)人工智能的普及和實(shí)踐，讓更多企業(yè)便捷部署人工智能平臺(tái)，真正擁抱人工智能所創(chuàng)造的無限可能。