在國內(nèi)政策引導(dǎo)、企業(yè)產(chǎn)業(yè)智能升級的原生需求和疫情等多重因素作用下，中國的人工智能產(chǎn)業(yè)化應(yīng)用在過去的5年間呈現(xiàn)出無可比擬的增長速度。然而隨著人工智能和機(jī)器學(xué)習(xí)在企業(yè)各個業(yè)務(wù)層面的應(yīng)用日漸深化，模型類型和數(shù)量也都呈快速增長態(tài)勢。由于不同模型之間的訓(xùn)練框架、部署模式、輸入輸出都不相同，導(dǎo)致異構(gòu)模型難以被統(tǒng)一管理。同時，各部門間缺少統(tǒng)一的模型從開發(fā)到上線的標(biāo)準(zhǔn)化流程規(guī)范，導(dǎo)致模型資產(chǎn)散落在各個業(yè)務(wù)部門，難以被統(tǒng)一納管為企業(yè)數(shù)據(jù)資產(chǎn)。不斷增加的模型管理成本和運(yùn)維復(fù)雜度，以及生產(chǎn)環(huán)境的不可控風(fēng)險，給企業(yè)模型管理帶來了一系列挑戰(zhàn)。

為解決AI落地難的問題，星環(huán)科技的AI團(tuán)隊(duì)從用戶需求端出發(fā)，傾力研發(fā)了一款基于云原生架構(gòu)的企業(yè)級AI能力運(yùn)營平臺Sophon MLOps，助推AI模型落地。Sophon MLOps 是基于云原生架構(gòu)構(gòu)建的企業(yè)級AI能力運(yùn)營平臺，聚焦于機(jī)器學(xué)習(xí)模型全生命周期中的模型管理、模型部署、模型監(jiān)控預(yù)警、模型評估和模型迭代等關(guān)鍵環(huán)節(jié)。通過統(tǒng)一納管、統(tǒng)一運(yùn)維、統(tǒng)一應(yīng)用、統(tǒng)一監(jiān)控、統(tǒng)一評估、統(tǒng)一解釋，賦予企業(yè)客戶易用、高效且安全可靠的AI能力運(yùn)營服務(wù)，協(xié)助客戶規(guī)模化管理日益增長的機(jī)器學(xué)習(xí)模型，提升模型使用效率，降低模型集成管理成本，控制模型生產(chǎn)環(huán)境風(fēng)險。

Sophon MLOps針對企業(yè)AI運(yùn)營的痛點(diǎn)，圍繞企業(yè)AI模型接入、運(yùn)營管理、持續(xù)訓(xùn)練的全生命周期，分別提供規(guī)模化集成管理、高效模型推理、模型監(jiān)控預(yù)警、模型性能評估、隱私安全保障等功能，為企業(yè)的AI日常運(yùn)營插上翅膀。

星環(huán)科技9

此次更新，MLOps升級至v1.1版本，在已有功能上新增功能如下：

新增模型服務(wù)批量預(yù)測功能：完善了應(yīng)用場景，功能覆蓋范圍從原有的僅支持在線實(shí)時預(yù)測，升級為同時支持在線與離線兩種模式。離線批量預(yù)測功能支持通過直接連接數(shù)據(jù)庫，獲取批量數(shù)據(jù)進(jìn)行模型預(yù)測，并將結(jié)果寫回相應(yīng)庫表內(nèi)，實(shí)現(xiàn)閉環(huán)；

新增模型服務(wù)數(shù)據(jù)偏移指標(biāo)監(jiān)控功能：強(qiáng)化了模型服務(wù)在監(jiān)控預(yù)警方面的能力，致力于幫助用戶更全面掌握機(jī)器學(xué)習(xí)模型服務(wù)的運(yùn)行狀態(tài)，并通過自定義監(jiān)控指標(biāo)及時發(fā)現(xiàn)處理異常情況，規(guī)避因數(shù)據(jù)偏移等原因引起的風(fēng)險；

新增模型服務(wù)監(jiān)控指標(biāo)配置及告警功能；

新增服務(wù)發(fā)布審批流程管理；

新增可解釋機(jī)器學(xué)習(xí)XAI模塊（MVP版）：可處理數(shù)據(jù)分析過程中的相關(guān)性解釋、過程性解釋、推理性解釋和因果性解釋問題。用戶可以精細(xì)地分析特征與結(jié)果之間的影響關(guān)系，幫助用戶精準(zhǔn)地提升DataCentric-AI數(shù)據(jù)治理能力，針對性優(yōu)化模型精度，幫助用戶快速定位、優(yōu)化影響業(yè)務(wù)結(jié)果的重要因子，從而促使業(yè)務(wù)成功。

在金融科技行業(yè)，隨著監(jiān)管政策的不斷收緊，銀保監(jiān)會于2020年7月正式出臺了《商業(yè)銀行互聯(lián)網(wǎng)貸款管理行辦法》，要求商業(yè)銀行落實(shí)模型從開發(fā)測試、評審、監(jiān)測到退出的全生命周期的風(fēng)險管理。一方面為滿足監(jiān)管合規(guī)要求，另一方面提升行內(nèi)風(fēng)險模型的管理效率，銀行要求對模型全生命周期進(jìn)行統(tǒng)一管理。此外，隨著行內(nèi)業(yè)務(wù)的持續(xù)發(fā)展，大量異構(gòu)AI模型資產(chǎn)散落在各部門，一旦需要使用，調(diào)參和部門間協(xié)調(diào)均使得模型部署周期拉長。

Sophon Base 3.1使用MLOps搭建了全行統(tǒng)一的AI模型管理平臺，快速接入行內(nèi)積累的不同框架或平臺訓(xùn)練生成的大量模型文件，按版本集成管理模型資產(chǎn)；并建立標(biāo)準(zhǔn)化流程，統(tǒng)一構(gòu)建模型推理邏輯的方式，支持零代碼一鍵部署模型應(yīng)用。基于云原生基礎(chǔ)架構(gòu)，打通模型全生命周期流程，實(shí)現(xiàn)了銀行對模型應(yīng)用的統(tǒng)一運(yùn)維和監(jiān)控。

平臺上線后，Sophon Base集成了全行多種算法框架生成的數(shù)百個機(jī)器學(xué)習(xí)模型。部署模型應(yīng)用的平均時間由1.5天降至0.5小時，配置成本降低近80%，使模型的平均迭代周期由1月降至1周。模型效率方面，支持上百個模型預(yù)測服務(wù)同時在線，單條數(shù)據(jù)實(shí)現(xiàn)毫秒級響應(yīng)。

Sophon MLOps打通了AI的全生命周期，為企業(yè)的各類用戶角色搭建了統(tǒng)一的AI協(xié)作平臺。對于企業(yè)而言，MLOps規(guī)模化集成管理了多源異構(gòu)的機(jī)器學(xué)習(xí)模型，并提供高效且保障隱私安全的模型推理、監(jiān)控預(yù)警及性能評估服務(wù)；對用戶而言，能感受到操作上的快捷，AI應(yīng)用與部署更是如虎添翼。未來，MLOps將繼續(xù)迭代更加豐富的功能，賦能企業(yè)AI更快、更好地落地。