騰訊與華中科技大學合作的最新研究成果入選了國際數(shù)據(jù)庫頂級會議SIGMOD的收錄論文,并將于6月30日在荷蘭阿姆斯特丹召開SIGMOD 2019國際會議上公開發(fā)表。
入選論文的題目為“An End-to-End Automatic Cloud Database Tuning System Using Deep Reinforcement Learning”,此項研究突破性的實現(xiàn)了基于AI技術的數(shù)據(jù)庫性能調優(yōu)結果首次全面超越數(shù)據(jù)庫專家經驗判斷的傳統(tǒng)方法。該成果由華中科技大學武漢光電國家研究中心周可教授團隊和騰訊技術工程事業(yè)群云架構平臺部CDB數(shù)據(jù)庫團隊合作完成,博士生張霽為第一作者。
智能云存儲技術聯(lián)合研究中心由騰訊與華中科技大學于2018年成立,旨在通過強強聯(lián)合,建設一流的智能云存儲技術創(chuàng)新和人才培養(yǎng)平臺。通過吸引匯聚頂尖專業(yè)人才,騰訊與華中科技大學在分布式存儲技術、高性能存儲引擎、業(yè)務負載預測等方面開展聯(lián)合技術攻關,突破超大規(guī)模云存儲服務系統(tǒng)的諸多技術難題,推動智能云存儲技術的科技創(chuàng)新及技術應用落地。本次入選的論文,正是智能云存儲技術聯(lián)合研究中心的聯(lián)合研究成果之一。
SIGMOD數(shù)據(jù)管理國際會議是數(shù)據(jù)庫領域具有最高學術地位的國際性學術會議,位列數(shù)據(jù)庫方向頂級會議之首。
隨著云計算的迅速發(fā)展,中小型企業(yè)通過購買云數(shù)據(jù)庫服務系統(tǒng),來代替自建和維護數(shù)據(jù)庫服務系統(tǒng)的情況越來越多,以便節(jié)約人力物力。然而,大多數(shù)用戶在購買云數(shù)據(jù)庫服務系統(tǒng)后僅僅停留在使用層面上,在使用過程中經常遇到數(shù)據(jù)庫系統(tǒng)性能下降的情況。
由于缺少數(shù)據(jù)庫管理系統(tǒng)性能優(yōu)化的經驗,用戶很難發(fā)現(xiàn)導致數(shù)據(jù)庫系統(tǒng)性能下降的原因并有效地解決,這就需要云服務提供商為用戶及時地調整數(shù)據(jù)庫系統(tǒng)參數(shù),以保證數(shù)據(jù)庫的性能維持在一個較優(yōu)的狀態(tài)。對于擁有數(shù)十萬計用戶實例的云服務提供商來說,完全依賴數(shù)據(jù)庫專家進行數(shù)據(jù)庫參數(shù)調優(yōu)顯然是不現(xiàn)實的,如何利用AI技術解決數(shù)據(jù)庫系統(tǒng)性能問題已經變得越來越重要和緊迫。
該文首次提出了一種基于深度強化學習的端到端的云數(shù)據(jù)庫自動性能優(yōu)化系統(tǒng)CDBTune,如圖1所示。該系統(tǒng)可以在缺少相關經驗數(shù)據(jù)訓練的情況下建立優(yōu)化模型,為云數(shù)據(jù)庫用戶提供在線自動優(yōu)化數(shù)據(jù)庫性能的服務,性能調優(yōu)結果首次全面超越數(shù)據(jù)庫專家,這將大幅提高數(shù)據(jù)庫運維效率。
圖1 強化學習與數(shù)據(jù)庫性能優(yōu)化關系圖
如圖2所示,在多種不同負載和不同類型的數(shù)據(jù)庫下進行的大量實驗證明,CDBTune性能優(yōu)化結果明顯優(yōu)于目前已有數(shù)據(jù)庫調優(yōu)工具和DBA專家。即使在彈性云環(huán)境下,用戶購買數(shù)據(jù)庫內存或磁盤大小發(fā)生變化,或負載發(fā)生變化(類型不變)的情況下,實驗證明CDBTune依然保持了較好的適應能力。
圖2 CDBTune性能測試結果
在實際系統(tǒng)中,如圖3所示,當用戶或者系統(tǒng)管理員有數(shù)據(jù)庫性能優(yōu)化需求時,可以通過相應的交互接口提出調參優(yōu)化請求,此時云端的控制器通過給智能優(yōu)化系統(tǒng)發(fā)出調參請求,并根據(jù)用戶真實負載建立的深度強化學習模型推薦出的相應的參數(shù)配置,然后將該配置在數(shù)據(jù)庫中進行設置。反復執(zhí)行上述的執(zhí)行過程,直到待調參的數(shù)據(jù)庫性能滿足用戶或系統(tǒng)管理員的需求即停止調參。
圖3 CDBTune系統(tǒng)交互圖
對于該論文,SIGMOD評審委員的評價是:“本文是關于利用機器學習方法優(yōu)化數(shù)據(jù)庫的技術,這是一個令人振奮的新領域。特別是它使用了強化學習的方法。這篇文章不僅僅是簡單地拋出一個機器學習技術,而且非常好地解釋了機器學習是如何與特定的問題進行完全的匹配,同時也闡述了與傳統(tǒng)機器學習術語之間的類比問題。鑒于在數(shù)據(jù)庫社區(qū)中并非每個人都能對這些技術了如指掌,這也是一種教學方式,因此我們非常贊賞這篇文章。”
每年SIGMOD會議都會吸引大量全球學術組織和工業(yè)界數(shù)據(jù)庫研究人員參會和分享,也匯聚了學術界和工業(yè)界在數(shù)據(jù)庫領域最前沿的技術研究動向。
-
騰訊
+關注
關注
7文章
1678瀏覽量
50138 -
機器學習
+關注
關注
66文章
8491瀏覽量
134085
原文標題:性能全面超數(shù)據(jù)庫專家,騰訊提基于機器學習的性能優(yōu)化系統(tǒng) | SIGMOD 2019
文章出處:【微信號:rgznai100,微信公眾號:rgznai100】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
Ringbuffer的性能優(yōu)化方法

云數(shù)據(jù)庫是哪種數(shù)據(jù)庫類型?
SSM框架的性能優(yōu)化技巧 SSM框架中RESTful API的實現(xiàn)
Arm成功將Arm KleidiAI軟件庫集成到騰訊自研的Angel 機器學習框架
數(shù)據(jù)庫數(shù)據(jù)恢復—通過拼接數(shù)據(jù)庫碎片恢復SQLserver數(shù)據(jù)庫

MySQL性能優(yōu)化淺析及線上案例

企業(yè)級數(shù)據(jù)庫的配置和管理要求匯總
數(shù)據(jù)庫數(shù)據(jù)恢復—SQL Server數(shù)據(jù)庫出現(xiàn)823錯誤的數(shù)據(jù)恢復案例

軟通動力數(shù)據(jù)庫全棧服務,助力企業(yè)數(shù)據(jù)庫體系全面升級

軟件系統(tǒng)數(shù)據(jù)庫的分庫分表設計

數(shù)據(jù)庫安全審計系統(tǒng):筑牢數(shù)據(jù)安全防線 提高數(shù)據(jù)資產安全
小米試點業(yè)務系統(tǒng)上線OceanBase,數(shù)據(jù)庫性能飛躍新高度
深度學習的模型優(yōu)化與調試方法
雙向賦能:AI與數(shù)據(jù)庫的修行之道

評論