案例簡(jiǎn)介

? 本案例通過NVIDIA RIVA平臺(tái)，平安科技智能服銷應(yīng)用組自主研發(fā)了智能客服系統(tǒng)，集成了語音識(shí)別、語音合成、語義理解三大智能引擎，以智能語音機(jī)器人替代傳統(tǒng)的真人客服，實(shí)現(xiàn)自然的語音人機(jī)交互。

? 本案例主要應(yīng)用到NVIDIA RIVA平臺(tái)、NVIDIA NEMO模型訓(xùn)練平臺(tái)。

客戶簡(jiǎn)介及應(yīng)用背景

平安科技是平安集團(tuán)旗下的全資子公司，運(yùn)用人工智能、智能認(rèn)知、云計(jì)算、區(qū)塊鏈等技術(shù)，實(shí)現(xiàn)對(duì)平安集團(tuán)旗下的產(chǎn)險(xiǎn)、壽險(xiǎn)、銀行、醫(yī)療、智慧城市等金融業(yè)務(wù)的賦能，是全球領(lǐng)先的高科技金融技術(shù)公司。

智能客服系統(tǒng)是平安科技自主研發(fā)的基于AI人工智能技術(shù)的算法平臺(tái)，為保險(xiǎn)銀行等金融業(yè)務(wù)提供了業(yè)界領(lǐng)先的智能問答技術(shù)服務(wù)。智能客服系統(tǒng)每天會(huì)產(chǎn)生海量的語音數(shù)據(jù)，平安科技通過NVIDIA NEMO + RIVA平臺(tái)實(shí)現(xiàn)了對(duì)非結(jié)構(gòu)化的語音數(shù)據(jù)的結(jié)構(gòu)化高效處理，并應(yīng)用于語音算法模型的自動(dòng)化訓(xùn)練。通過RIVA平臺(tái)，打破了原先傳統(tǒng)模型各個(gè)組件單獨(dú)訓(xùn)練的限制，極大地提高了算法模型訓(xùn)練的速度和效率。

客戶挑戰(zhàn)

智能客服坐席系統(tǒng)通過AI人工智能技術(shù)代替原有的人工坐席，從而能夠達(dá)到降低人力成本、改善服務(wù)質(zhì)量、最大化客戶資源利用率，幫助客戶快速定位需求。平安科技原有的傳統(tǒng)技術(shù)依賴于非常多的子模塊，以ASR語音識(shí)別技術(shù)為例，傳統(tǒng)模型需要分割成數(shù)據(jù)預(yù)處理，聲學(xué)模型、語言模型、文本字典、上下文相關(guān)模型等多個(gè)部分。多個(gè)子模塊不僅需要大量的人力成本去開發(fā)和維護(hù)，模塊之間的級(jí)聯(lián)誤差也會(huì)大大降低模型的識(shí)別準(zhǔn)確率。與此同時(shí)，傳統(tǒng)模型是單個(gè)服務(wù)器部署模型，而實(shí)際的業(yè)務(wù)場(chǎng)景，坐席的通話數(shù)量每天都會(huì)發(fā)生變化，很難做到和業(yè)務(wù)需求量進(jìn)行算法模型資源的同步，造成業(yè)務(wù)空閑時(shí)大量的GPU資源的浪費(fèi)。另外，現(xiàn)有傳統(tǒng)的ASR語音識(shí)別、TTS語音合成、NLP語義理解技術(shù)都是基于各自的技術(shù)框架，并沒有形成統(tǒng)一的算法平臺(tái)。

應(yīng)用方案

基于以上遇到的挑戰(zhàn)，平安科技采用了NVIDIA RIVA和NVIDIA NEMO平臺(tái)來提供技術(shù)支持，很大程度地解決了上述的問題。

平安智能客服坐席系統(tǒng)引入了由NVIDIA NEMO平臺(tái)訓(xùn)練的QuartzNet模型。QuartzNet是由NVIDIA提出的基于全卷積的端到端語音識(shí)別模型。端到端模型把原來傳統(tǒng)模型的各個(gè)子模塊都整合在了一起，將算法模型的訓(xùn)練速度提升了5倍，算法的識(shí)別率提高了5個(gè)百分點(diǎn)。高效的模型訓(xùn)練可以把算法模型應(yīng)用到更多的業(yè)務(wù)場(chǎng)景中，從而帶來更大的業(yè)務(wù)價(jià)值。

此外，平安科技還利用RIVA平臺(tái)實(shí)現(xiàn)了容器化的算法部署，并且實(shí)現(xiàn)了彈性伸縮的技術(shù)。彈性伸縮技術(shù)可以根據(jù)業(yè)務(wù)的需求量動(dòng)態(tài)地調(diào)整算法引擎的實(shí)例數(shù)量，關(guān)閉不必要的GPU機(jī)器資源，從而節(jié)省了大量的機(jī)器成本。

與此同時(shí)，RIVA平臺(tái)還整合了ASR、TTS、NLP三個(gè)智能算法引擎，使得整個(gè)平安科技智能客服坐席系統(tǒng)實(shí)現(xiàn)了技術(shù)底層的統(tǒng)一。RIVA平臺(tái)還和平安科技聯(lián)邦Occam平臺(tái)進(jìn)行了整合，在NVIDIA推出的 BERT 推理解決方案Fast Transformer的助力下，實(shí)現(xiàn)了高精度模型自動(dòng)訓(xùn)練的能力，并且可以根據(jù)客戶的需求進(jìn)行場(chǎng)景定制化，實(shí)現(xiàn)快速地算法迭代和升級(jí)。

使用效果及影響

通過NVIDIA的RIVA和NEMO平臺(tái)，平安科技智能坐席系統(tǒng)實(shí)現(xiàn)了從傳統(tǒng)模型到業(yè)界領(lǐng)先的端到端深度學(xué)習(xí)模型的轉(zhuǎn)換，實(shí)現(xiàn)了基于容器化彈性伸縮技術(shù)的算法引擎部署，并且整合了系統(tǒng)中三個(gè)算法引擎技術(shù)，極大地提高了算法平臺(tái)的訓(xùn)練效率和模型效果，幫助業(yè)務(wù)進(jìn)行降本增效，促進(jìn)了智能坐席系統(tǒng)在平安金融業(yè)務(wù)中的拓展和應(yīng)用。

與此同時(shí)，平安也與NVIDIA針對(duì)前沿的ASR語音識(shí)別技術(shù)進(jìn)行了深度的合作，并在頂級(jí)國(guó)際會(huì)議ICME上發(fā)表了學(xué)術(shù)論文《Cross-Language Transfer Learning and Domain Adaptation for End-to-End Automatic Speech Recognition》。論文就NVIDIA NEMO平臺(tái)的QuartzNet語音識(shí)別模型，在跨領(lǐng)域、跨語言、跨口音地區(qū)等方面進(jìn)行了大量地實(shí)驗(yàn)，和深入地分析。論文闡述的遷移學(xué)習(xí)觀點(diǎn)和結(jié)論，進(jìn)一步促進(jìn)了平安科技智能坐席系統(tǒng)端到端語音識(shí)別模型的進(jìn)化和演進(jìn)。通過與NVIDIA的合作，平安繼續(xù)在語音頂會(huì)SLT上發(fā)表了《Multi-QuartzNet： Multi-Resolution Convolution for Speech Recognition with Multi-Layer Feature Fusion》。高水平學(xué)術(shù)論文指導(dǎo)平安科技客服系統(tǒng)持續(xù)更新和升級(jí)，客服系統(tǒng)實(shí)際遇到的問題反過來促進(jìn)學(xué)術(shù)論文的研究，形成了學(xué)術(shù)研究和生產(chǎn)服務(wù)系統(tǒng)互惠互贏的雙向正循環(huán)。

“通過AI人工智能技術(shù)賦能傳統(tǒng)金融保險(xiǎn)業(yè)務(wù)是當(dāng)下和未來主流的行業(yè)趨勢(shì)，也是平安集團(tuán)非常重要的戰(zhàn)略發(fā)展目標(biāo)。智能客服坐席項(xiàng)目是平安科技的重點(diǎn)科技項(xiàng)目之一，通過智能客服可以高精度地實(shí)現(xiàn)對(duì)于客服意圖的智能匹配，更好地理解客服對(duì)產(chǎn)品的需求和意向。NVIDIA提供的RIVA和NEMO平臺(tái)，解決了我們?cè)贏I算法落地過程中的痛點(diǎn)問題，高效靈活地訓(xùn)練和部署算法模型，實(shí)現(xiàn)了毫秒級(jí)的實(shí)時(shí)語音識(shí)別響應(yīng)時(shí)間，97%的高精度保險(xiǎn)業(yè)務(wù)場(chǎng)景意圖識(shí)別率，以及自然流暢地人聲合成語音。智能坐席系統(tǒng)只是平安科技邁向AI技術(shù)賦能業(yè)務(wù)的第一步，我們會(huì)將智能語音技術(shù)推廣到語音質(zhì)檢、安全風(fēng)控、用戶畫像等一系列業(yè)務(wù)場(chǎng)景中。通過AI技術(shù)和NVIDIA提供的技術(shù)平臺(tái)，打造出更多的人工智能算法產(chǎn)品，提高平安金融業(yè)務(wù)的生產(chǎn)效率，為平安的客戶提供更全面優(yōu)質(zhì)的產(chǎn)品體驗(yàn)。” 平安科技副總工程師王健宗博士表示。

審核編輯：郭婷