深鑒科技語音識別加速系統(tǒng)上線AWS

開啟全球用戶云加速服務(wù)模式

成為首家上線基于FPGA平臺加速方案的中國人工智能公司

、 深鑒科技宣布在亞馬遜AWS正式上線基于深鑒Descartes稀疏神經(jīng)網(wǎng)絡(luò)處理架構(gòu)的自動語音識別引擎DDESE (DeePhi Descartes Efficient Speech Recognition Engine)， 開始面向全球用戶提供加速試用服務(wù)。DDESE自動語音識別加速引擎在AWS的發(fā)布，標志著深鑒科技成為首個在AWS上線基于FPGA平臺加速方案的中國人工智能公司。

FPGA芯片可定制化和多功能的靈活特性，滿足了云計算便捷經(jīng)濟、易于擴展的需求。從2016年起，各大云服務(wù)提供商就開始部署FPGA云加速業(yè)務(wù)。全球最大的云供應(yīng)商亞馬遜網(wǎng)絡(luò)服務(wù)(AWS)與FPGA龍頭廠商賽靈思 (Xilinx) 達成合作，充分證明了云計算數(shù)據(jù)中心將是FPGA應(yīng)用釋放潛力的重要市場。同時,通過大型數(shù)據(jù)中心的影響力和服務(wù)能力，F(xiàn)PGA影響著數(shù)十萬應(yīng)用開發(fā)商和企業(yè)用戶，快速成為公有云服務(wù)青睞的應(yīng)用趨勢。

深鑒所發(fā)布的DDESE聚焦語音識別場景，構(gòu)建了以賽靈思FPGA為計算平臺的自動語音識別系統(tǒng)加速引擎，可以為用戶提供在AWS上端到端的語音識別服務(wù)。基于FPGA平臺，結(jié)合深鑒科技算法、軟件和硬件協(xié)同設(shè)計的深度學(xué)習(xí)加速解決方案，目前DDESE初始版本在語音識別的計算環(huán)節(jié)是GPU計算速度的2倍。此次深鑒科技獲得AWS系統(tǒng)服務(wù)授權(quán)，在云端部署FPGA語音識別加速方案，從而可以面向全球用戶提供加速服務(wù)， 并支持其降低開發(fā)與部署成本，消除硬件壁壘， 同時通過軟硬件的協(xié)同優(yōu)化，取得更高效的云運算能力。

深鑒的LSTM加速引擎能夠有效地縮短語音識別、機器翻譯等AI時序類應(yīng)用的延時。

“我們在亞馬遜AWS上發(fā)布DDESE的目的，是通過基于Xilinx FPGA的ESE引擎來展示AI加速能力，并通過云端推廣讓更多客戶了解深鑒的語音識別全流程解決方案。我們非常高興可以和Xilinx與AWS一起來構(gòu)建AI云端加速生態(tài)。”

——單羿，深鑒科技 CTO

技術(shù)測試階段，采用相同的網(wǎng)絡(luò)和輸入數(shù)據(jù)，該款自動語音識別引擎端到端延遲相比GPU（Tesla P4 + cudnn6020）、CPU（Intel(R) Xeon(R) CPU E5-2686 v4 @ 2.30GHz, 8 processors）的加速比分別為2.06倍和6.59倍，其中LSTM部分的加速比分別為2.82倍和8.64倍。不久之后深鑒還將發(fā)布新版本的DDESE。未來FPGA與云端業(yè)務(wù)結(jié)合還將不斷擴展及深入，深鑒科技將持續(xù)優(yōu)化技術(shù)的功耗性能，擴大FPGA的加速特性，實現(xiàn)公有云服務(wù)的提速。

關(guān)于深鑒科技

深鑒科技由美國斯坦福與中國清華大學(xué)的深度學(xué)習(xí)硬件加速研究者創(chuàng)立，在FPGA領(lǐng)域的技術(shù)潛能及深度學(xué)習(xí)AI專用芯片發(fā)展速度在行業(yè)內(nèi)一直處于領(lǐng)先地位。與FPGA巨頭賽靈思保持長期深度合作，DDESE的核心技術(shù)ESE（高效的語音識別引擎）的研究早于2017年獲得FPGA 芯片領(lǐng)域頂級會議 FPGA 2017最佳論文獎。深鑒科技期待通過與AWS的深度合作輸出更便捷、更高效、更經(jīng)濟的AI云加速服務(wù)。