作為人工智能的關(guān)鍵基石，能夠從過往數(shù)據(jù)中發(fā)現(xiàn)規(guī)律、總結(jié)知識，并預測趨勢洞察的機器學習，正受到越來越多的重視和越來越廣泛的應用。從預測疫情發(fā)展走向、協(xié)調(diào)倉儲和物流資源、躲避道路交通擁堵、前瞻流行趨勢，到“猜你喜歡”的個性化推薦，機器學習正在不同行業(yè)的各種場景中，展現(xiàn)出不可忽視的巨大潛力。

然而構(gòu)建和部署機器學習模型，并讓它靈活高效地運行起來，并不是一件容易的事，特別是在面對復雜數(shù)據(jù)來源與不斷發(fā)展變化的大規(guī)模運營需求時，就對企業(yè)的技術(shù)水平和運維能力提出了更高的要求。機器學習運維（MLOps）讓數(shù)據(jù)科學與IT運維緊密協(xié)作，能通過改進模型監(jiān)控、調(diào)試、管理等各個環(huán)節(jié)，全面提升機器學習模型運行、部署的效率，真正發(fā)揮出機器學習的規(guī)模效應。

準確預測，打造更穩(wěn)定、高效的全球云服務(wù)

云計算是個規(guī)模巨大、技術(shù)復雜的系統(tǒng)平臺，如何對分布于全球各地數(shù)據(jù)中心的各類軟硬件資源進行安全、高效的運維和管理，不僅涉及到巨大的資源投入，更牽扯到億萬客戶的業(yè)務(wù)系統(tǒng)和服務(wù)是否能夠平穩(wěn)運行、靈活擴展，隨時滿足業(yè)務(wù)需求。Microsoft Azure目前服務(wù)于世界各地58個區(qū)域，是全球覆蓋最廣泛的公有云，為了最大限度地提高云計算資源的利用率、優(yōu)化云平臺的整體運營水平，Azure團隊和微軟研究院的研究人員開始思考如何利用機器學習預測和優(yōu)化Azure的資源分配。

通常情況下，計算機，包括云計算資源的管理都是由既定策略控制的，但這種方式有兩個主要缺點：首先是相關(guān)的閾值通常是為滿足不同類型的工作負載大致設(shè)定的;其次是由既定策略所觸發(fā)的被動措施，常常會造成額外的成本投入，并給客戶造成負面影響。而基于機器學習的預測式資源管理，能有效解決這些問題。

Azure團隊與微軟研究院共同開發(fā)出了Resource Central服務(wù)，這是一個作為獨立組件的通用機器學習預測系統(tǒng)，能夠為Azure的各個云計算資源管理器提供關(guān)于工作負載和硬件基礎(chǔ)設(shè)施分配的預測洞察。Resource Central會收集來自于容器和服務(wù)器的運行數(shù)據(jù)，分析它們之前的運行和故障情況，從中尋找規(guī)律，然后在需要的時候，對未來可能出現(xiàn)的情況做出預測。基于分析和預測的主動管理策略，能動態(tài)調(diào)整閾值，對虛擬機、容器、CPU等資源進行合理、動態(tài)、及時的調(diào)整，從而提升云計算的整體運行效率。

目前，Resource Central已經(jīng)部署在全球各地的Azure區(qū)域，對數(shù)據(jù)中心效率、云平臺效率和可用性、服務(wù)器效率和可用性、虛擬機效率等關(guān)鍵資源分配情況進行監(jiān)控、預測和優(yōu)化，其在各個方面的預測準確度平均都達到了80%以上。在虛機管理方面，由于實現(xiàn)了對實際工作負載的準確預測，原本被認為已經(jīng)滿載系統(tǒng)，現(xiàn)在可以運行更多的虛擬機，與對照組相比，物理資源耗盡的情況減少了六倍。

更準確的預測意味著更低的宕機風險、更高的可用性、更靈活高效的資源管理和更低的運行成本，也讓Azure能夠為全球客戶提供更加安全、可靠、經(jīng)濟的云計算服務(wù)。

機器學習讓PowerPoint更懂什么設(shè)計才“大氣”

與此同時，機器學習也在不斷推進微軟生產(chǎn)力云平臺的智能進化。多年來，微軟一直在不遺余力地為Office加入更多人工智能應用，幫助人們事半功倍地完成工作、發(fā)揮創(chuàng)意。讓很多人耳目一新的PowerPoint的“設(shè)計靈感”以及Outlook的“建議回復”功能便是其中的典型代表。

PowerPoint中的設(shè)計靈感功能，可以根據(jù)用戶輸入的文字和圖片，為幻燈片設(shè)計出多種不同風格的版面樣式，用戶完全無需動手調(diào)整字號、行距、圖形效果這些細枝末節(jié)，就能得到美觀大氣的PPT設(shè)計。Outlook網(wǎng)頁版和iOS、安卓客戶端提供的建議回復，能根據(jù)郵件內(nèi)容自動建議快速回復的文字選項，幫助用戶簡化操作。現(xiàn)在這兩項智能創(chuàng)新，都是由Azure機器學習服務(wù)驅(qū)動的。

以設(shè)計靈感為例，其首先要對用戶輸入的圖像、文字、表格等內(nèi)容進行分析、理解、分類，然后再把相應的內(nèi)容放入到風格與之匹配的專業(yè)設(shè)計模板中呈現(xiàn)出來。在這個過程中，圖像分類、內(nèi)容建議、文字分析、頁面結(jié)構(gòu)分析、評價反饋等環(huán)節(jié)都要用到機器學習。自問世以來，設(shè)計靈感功能已經(jīng)幫助用戶設(shè)計了超過17億個幻燈片，并且要經(jīng)常對模型進行更新訓練，對內(nèi)容建議進行持續(xù)優(yōu)化，這些都意味著巨大的工作量。

為了應對快速增長的用戶需求，PowerPoint開始采用Azure機器學習和機器學習運維（MLOps）服務(wù)，更快速地構(gòu)建和部署機器學習模型，并加入了更多對背景圖片、視頻和復雜內(nèi)容的處理建議。來自不同來源的原始數(shù)據(jù)會在Azure數(shù)據(jù)湖中被轉(zhuǎn)換成模型能夠讀懂的格式;Azure機器學習將訓練模型分布下放到虛機中進行并行訓練，在不影響用戶體驗的情況下，完善和更新模型的效果;通過嘗試不同變量、參數(shù)配置，并對結(jié)果進行比較，模型就能得到不斷的優(yōu)化;經(jīng)過升級的模型最后回到Azure數(shù)據(jù)湖，重新部署到機器學習服務(wù)中。這樣，依靠機器學習運維平臺，PowerPoint、Outlook以及更多微軟智能應用，得到了持續(xù)高效的智能迭代和升級。

Azure MLOps，讓機器學習運維觸手可及

為了幫助更多企業(yè)將機器學習模型部署到生產(chǎn)環(huán)境中，并實現(xiàn)高效的開發(fā)運維，微軟在Azure機器學習的基礎(chǔ)上推出了Azure機器學習運維（MLOps）服務(wù)。Azure MLOps以軟件開發(fā)運維（DevOps）的經(jīng)典模式，提供了機器學習模型從開發(fā)、封裝、測試、部署、監(jiān)測、重新訓練、迭代的全生命周期流程，并且可以通過復制開發(fā)流程，實現(xiàn)規(guī)模化的擴展，從而幫助企業(yè)真正在業(yè)務(wù)中發(fā)掘出機器學習和人工智能的最大潛力。

TransLink是加拿大溫哥華市的公共交通運營商，其運營的公交系統(tǒng)覆蓋了溫哥華1800平方公里的面積，每年承運超過4億人次。為了確保公交系統(tǒng)的準時運行， TransLink部署了1.8萬個不同的機器學習模型來更好地預測每趟公交車的開車時間，其中融入了包括交通、天氣以及其它各種可能造成影響的因素，利用Azure機器學習和MLOps服務(wù)，他們現(xiàn)在可以并行不悖地同時運行所有這些預測模型。

擁有130年歷史的美國江森自控（Johnson Controls）是一家專業(yè)從事樓宇消防、中央空調(diào)、安防系統(tǒng)安裝運營的企業(yè)，機器學習是其智能樓宇解決方案的核心技術(shù)。江森自控提供數(shù)千種冷卻設(shè)備，每臺設(shè)備上可能有多達70種不同的傳感器，它們實時發(fā)送的數(shù)據(jù)可達TB級別。MLOps能夠以快速、可復制的方式部署機器學習模型，為日常檢修提供實時的數(shù)據(jù)洞察。這樣，至少可以提前幾天預測冷卻機出現(xiàn)故障的風險，從而將其造成的損失降到最低，并確保不會對客戶造成影響。

覆蓋全球、安全可靠的微軟智能云為機器學習、機器學習運營服務(wù)提供了絕佳的運行平臺，為全球客戶提供了普及人工智能的理想工具;與此同時，微軟智能云自身，也在積極采用機器學習和機器學習運營服務(wù)，不斷實現(xiàn)快速的更新迭代，實現(xiàn)周而復始的自我更新。