生物智能的產生，一直以來被定義為「奇跡」和「謎團」。

從宇宙的一片塵埃開始，人類的演化花費了數十億年的時間。很難想象，你我均起源于出現在地球上的單細胞生物。

時至今日，人類憑借自身的智慧，創造了地球上最繁榮的文明。同時，這一演化仍在繼續，遠沒有走到盡頭。

但演化的方向已經悄然改變：下一代文明的方向，將由人類親手創造的「智能體」來探索。

由此引出一個問題：人類智能與人工智能，誰的上限將會更高？

過去數十年，研究者夙興夜寐，將無數人類智慧灌注其中，不斷將「人工智能」的能力上限抬高。一個剛剛誕生的智能體，就像一個初來世間的嬰孩，即使懵懂，卻蘊藏著無限潛力。在永不停歇的演變之后，人們普遍認為，智能體終將超越人類。

這種演化規律，在 OpenDILab平臺的開源歷程中體現得淋漓盡致。它的源起，是幾位算法研究員的一次跨界設想，是面向最復雜的競技游戲的一場挑戰。僅僅過了兩年多時間，今天的 OpenDILab已演化為覆蓋最全學術界算法和工業級規模的國產決策智能開源平臺。它為整個決策智能領域開辟了一個全新的開源社區，這個社區正在以驚人的速度生長。

2022年 6月 12日，《星際爭霸 II》前中國冠軍——IG戰隊的 iA ，又一次登陸了斗魚直播間。這么久不見，人們發現，iA竟然開始講 PPT了。

兩年之前，iA低調退役。兩年之后，電競少年歸來，已是 AI研究員，還帶來了目前已開源項目中實力最強的《星際爭霸 II》 AI——DI-star。

一個多小時的直播里，iA 演示了多場對局。在所有演示中，DI-star均表現出人類最高段位——Grandmaster分段的競技水平。

驚喜的是，DI-star 的決策能力相當靈活，屢次在復雜對局中快速找到最優策略。比如與前世界冠軍 Scarlett對戰時，DI-star使用了 「女王前壓」 這種不常見于人類的戰術，出奇制勝：

此時，距離 DI-star及其背后的決策智能平臺 OpenDILab開源已經有一年了。

2022年 9月，OpenDILab 正式升級為 1.0版本，幕后團隊兩年多來的心血，全部凝聚于此。

白手起家

所有的故事都從 2020 年的第一個月開始。一群來自中國的算法研究員和工程師，在人臉識別的數據海中摸爬滾打多年之后，決定跳出舒適區，做一點探索未來的事。

比如，從零開始打造一個星際爭霸 AI。

在當時的 AI學界眼中，決策 AI是不同于計算機視覺等感知型 AI的另一道難關，而《星際爭霸 II》一直被看作檢驗 AI決策能力的絕佳舞臺，也是 AI爭相挑戰的「珠峰」。

星際爭霸系列游戲能保持 20多年長盛不衰，一部分原因就在于其豐富的多層次游戲機制。《星際爭霸 II》的空間復雜度高達 10的 1685次方，遠超圍棋 10的 170次方復雜度。對于 AI來說，這是一個非常接近現實世界的虛擬環境。

開源社區是助力 AI發展的重要因素之一，而在項目的開始階段，DI-star的開發者們準備好了充足的算力和資源，卻發現星際爭霸 AI的開源生態基本是一片空白，只能找到 DeepMind公開的原版論文，非常多的技術細節都有待考證。就好比老師教了你九九乘法表，卻突然讓你做一道微積分的作業題。

DI-star的開發者們首先調研了各種已有的強化學習開源平臺，但發現開源的算法、工具等基本都是圍繞「小而精」的學術研究，壓根沒有星際爭霸這種大規模環境的開源項目。

「沒有輪子，就立馬動手造一個，這才是極客精神！」

于是乎，DI-star的開發者們拿著之前自己在計算機視覺任務上積累的經驗，想要一定程度的知識復用。但很快他們就發現，這不只是個脫離舒適區的問題，這簡直是一腳踏入深水區，每天都會誕生新的靈魂拷問：

原本規規整整的張量圖片，卻變成了高度結構化且動態變化的游戲信息；

原本直筒式簡簡單單搭積木的神經網絡設計，卻變成了復雜多樣的「毛線團網絡」設計比賽；

原本輕易擴展的分布式訓練架構，卻變成了多種硬件和計算模式混合的大雜燴系統……

在不斷以「一日速成法」了解各類游戲 AI設計和分布式系統設計知識后，團隊總算是搭出了第一版能正常運行的分布式訓練系統，這也是之后 OpenDILab的最初原型。

只不過還有一件事讓人犯愁：到底怎么讓 AI學習打星際的技巧呢？這需要集深度學習、強化學習、游戲 AI三方面的技術和力量。

技術可以后天努力學習，游戲天賦可真是命中注定，于是，他們找到了中國星際的傳奇人物：iA周航。于是，幾個基本對決策 AI零基礎的人，構成了 DI-star項目的最初班底。

「最初幾乎訓練不出來任何哪怕有正常操作的 AI」。DI-star團隊一度很頭疼。沒辦法，前半年只能一點一點解 bug，慢慢地教。發現一個不合理的 AI行為，就從游戲錄像中開始分析，對應到具體的游戲操作，解析游戲引擎內存中的數據片段，再一步步追根溯源，最終分析到神經網絡里具體某個神經元的激活輸出，從而定位到代碼實現和算法設計的相關問題。

「程序是不會騙你的，只要你用心去凝視它。」像上面這樣一環扣一環，非常需要高度集中心力的細節分析，在 DI-star的前期階段，幾乎是天天都有。

終于，經歷了半年的艱苦奮斗， 2020年 6月，DI-star已經能夠擊敗簡單的電腦。2020年 7月，團隊進行了 DI-star第一次人機內測，AI戰勝了一位剛剛入門《星際爭霸 II》的研究員。

步入正軌之后，就要去探索 AI的上限究竟在哪里。DI-star團隊希望在整個系統的各個環節中都做到極致：不僅僅是復現最強的決策 AI問題，而是盡其所能去嘗試每種可能性。有人從神經網絡角度，設計更穩定的大批量樣本優化技術和高效處理動態決策空間的網絡層，有人從強化學習優化方向，精心調控探索和利用的多方面平衡，有人從游戲 AI領域，融合即時戰略類游戲的百家之長，將 AI的微操優勢培養到新的境界，有人從系統效率出發，做各種資源的權衡，存儲 /網絡 /計算，一切能想到的辦法都用來優化訓練效率。

在集合整個團隊的技術積累之后，歷經人類錄像模仿學習和自我博弈強化學習兩個階段，總計一億局星際對局，五周的最終訓練時間，2021年 6月，DI-star終于戰勝了 DI-star的創造者之一——周航本人。之后，周航又拉來一些職業電競時期的老朋友跟 DI-star打，包括 MMR6000分的中國最強蟲族選手 Rex。

好消息是，DI-star 都贏了，沒辜負一年多來的苦練。

從星際 AI到開源平臺

路行至此，接下來又該怎么走？

極客探索歸探索，但想把技術做長久做出影響力，復盤是必不可少的。而在當時的馬拉松復盤會中，研發團隊一致的觀點是：必須積累足夠扎實的技術工具鏈。DI-star中的小農式精耕細作太難復制也太難推廣了，需要能有讓決策AI技術真正大放光彩的基建工作。那么自然的，做一個決策智能開源平臺和生態，就成了大家新的目標。

更具體一點，在算法方面，哪些技術適合在前期探索智能體策略的多樣性和潛力，哪些方法適合作為最終超大規模強化學習訓練的核心模塊；在系統方面，哪些系統設計既能提高采樣效率又能對大規模強化學習的優化效率帶來幫助，什么樣的設計可以易用快速的算法迭代和想法驗證。所有上述這些積累的經驗和知識，都是有價值被沉淀下來的東西。

光是教會AI玩《星際爭霸 II》并不是最終目標，探索決策AI的能力邊界，學會面對更加復雜的真實世界，才是在青春年月值得去拼搏的事。基于這樣的初心，后續成立的 OpenDILab團隊以 DI-star為起點，開始進一步探索如何做開源。

當時決策智能領域的開源生態，比起 CV、NLP這些成熟的研究領域，的確差了不是一點半點。

不過對于整個決策智能領域來說，開發者最需要的不只是某一套代碼，也不僅是某一個工具包。這個領域，正需要一個功能全面、便捷易用的開源平臺。

但如何設計一個能滿足廣大研究者需求的平臺，是需要認真考慮的問題。

這時，更多學術界、產業界的決策智能研究痛點進入了團隊成員們的視野：

與感知智能不同，決策類問題通常涉及處理諸如圖像、語音、結構化數據等多種復雜模態的數據類型。此外，單機單卡與多機多卡甚至跨集群計算的決策 AI計算邏輯也完全不同。不同任務間的最優算法配置也差別較大。對于決策智能，這些問題很難標準化。

還有一個客觀現象：關于決策智能的問題定義和研究視角，學術界和工業界之間的差距是很大的。很多前沿的理論算法缺少環境和計算 pipeline上的通用性，只能局限于 toy model級別的實驗環境，無法遷移到真正的工業場景中。

因此，團隊最終對開源平臺的期望是：既要在學術算法層面做到最全最廣的覆蓋和統一，又要將這些算法真正發揮到相應的實際場景中去，解決各個其他領域的工業級應用問題。當然，想要兼顧兩者是一件極為困難的事，系統和平臺設計本身就是在做各種各樣的權衡，而開源社區正是幫助平臺成長和不斷進化的重要力量。

這將是一項產生長期價值的工程，力求將技術的廣度和深度都推到極致，將成千上萬開發者的智慧與努力集合起來，在各行各業中演化出無限可能。

人人可用的開源決策智能平臺

2021年 7月，DI-star 及其衍生出的決策智能平臺 OpenDILab在 GitHub 正式開源了。

在最初發布的 OpenDILab beta版本中，自上而下覆蓋了應用生態層、算法抽象層、分布式管理層和分布式執行層，還支持從單機到上萬級別 CPU/GPU聯合訓練的全尺度調度系統優化，將 OpenDILab團隊自 DI-star項目以來積累的各方面技術和知識完全開源開放出來。然而開源社區的構建是需要不斷打磨的，beta版本在各種各樣的權衡中遺留了一些上手難度問題，而在這一年多開發者與開源社區的共同努力下，OpenDILab 1.0版本在易用性、效率、多元化等方面都展現出了新的思考和理解。

其中，OpenDILab 推出了一系列面向不同目標的開源庫：

最底層的 DI-engine及相關系統支持庫致力于解決決策AI在環境，算法，計算尺度三個方面的標準化問題，它首先提供了在 40+不同類型決策環境上的最佳實踐，可作為不同領域研究者應用強化學習技術的最佳模板，還匯聚了 8大研究子方向的 60+決策智能算法，將深度強化學習，多智能體博弈，離線強化學習和模仿學習等領域一網打盡，而上述這些環境和算法，都可以在統一的系統執行設計下高效實現，并根據任務特性自適應地調整資源利用的最佳方案。

中層的算法與模型抽象層 DI-zoo整合了 OpenDILab在各個領域應用決策AI算法的相關經驗，將算法理論，代碼實現，應用領域知識一一對應在一起，并在AutoML工具的支持下，幫助開發者構建統一且標準的基準方案，也很大程度上降低了初學者的入門門檻。

在應用生態層，既有 DI-star這樣面向于虛擬世界即時戰略類游戲的大規模強化學習訓練方案，包含完整的訓練、測試和應用原型代碼細節，還開源了包含感知決策全流程的自動駕駛平臺 DI-drive，朝著決策 AI落地應用的方向前進。

自開源以來，OpenDILab 已經收獲了4500多個 GitHub star。DI-star也被列入 Github Trending Python語言優質開源項目。

多智能體決策智能領域的「ImageNet」

決策智能的落地通常會受到訓練平臺、仿真環境兩方面的挑戰。OpenDILab是好用的，但它暫時只解決了訓練平臺層面的一部分問題。

那么，仿真環境的問題怎么解決呢？

為了讓更多人參與到決策智能的探索中來，OpenDILab搞了一場 Go-Bigger挑戰賽。通俗地講，這其實是一場決策 AI版的「大球吃小球」挑戰賽。

在 Go-Bigger挑戰賽里，每局時長十分鐘，大球吃掉小球會獲得更大重量和體積，但同時需要避免被更大的球吃掉。球的類型包括分身球、孢子球、食物球、荊棘球，這四種球的決策路徑是不同的。

每個隊伍都需和其他隊伍對抗，總重量更大的團隊獲勝。

這個游戲環境看起來簡單，但其實非常考驗多智能體之間的配合和對抗，包括權衡同一團隊中的個體行動與合作行動、不同團隊間的合作與競爭、表征和交換與其它智能體的環境信息等，體現了很高的決策復雜度。

有意思的是，Go-Bigger游戲設計了球球對抗時間、成長加速度、分裂、消失、衰亡等約束條件，這種情況其實廣泛存在于現實世界，比如在人的生命周期中，我們都需要在不同的人生階段，在各種約束條件下進行協作、對抗，做出最利于自身的決策。球球和人類之間，由此產生了一種微妙的關聯。

在 AI領域，很多研究問題的真正被定義和解決，都經歷了從「球球」到「真實世界」的模擬過程。

比如計算機視覺領域的經典之作 ImageNet。上海人工智能實驗室青年科學家、商湯科技高級研究總監、OpenDILab項目發起人劉宇表示，在 ImageNet比賽之前，數據集都非常小，學術界很難定義產業界真正需要的算法問題。但 ImageNet提出了全新的挑戰，在海量數據上定義的研究問題與真實世界中真正應該被解決的問題更加貼近了，加上算力條件的提升，成就了后來計算機視覺的蓬勃發展。

對于今天的多智能體決策智能領域來說，學術界和產業界都在等待著像「ImageNet」這樣具備「公認的問題定義能力」的項目出現，而 OpenDILab希望 Go-Bigger能擔起這一重擔。

有人可能會問，既然開源了 DI-star，為什么不直接辦一場星際爭霸 AI挑戰賽？

這也是從現實因素出發來考慮的，畢竟訓練一個星際爭霸 AI需要太多的算力消耗，對于一般參賽者來說實在不友好。

Go-Bigger的定位是人人可以參加的中型游戲 AI競技環境。相比學術界常用的 Atari、MuJoCo、SMAC，Go-Bigger 的環境規模更大，但又可以在小型的實驗室中完成，用一臺機器、一塊 GPU就能訓練起來。這樣一來，參賽者就能把更多精力聚焦到探索多智能體協作能力的算法上。

即使如此，從零開始實現比賽要用的算法和訓練流程還是很復雜的，而 OpenDILab平臺提供的決策 AI框架 DI-engine正好幫助開發者簡化了這一過程。

開發者們基于DI-engine為Go-Bigger設計實現了多種類型的基準算法，包含多智能體協作，稀疏獎勵引導，記憶化探索和計算效率提升等多個方面。

走進現實世界

在工業應用這塊，OpenDILab也沒松懈，推出了自動駕駛領域內第一個支持多種仿真器和多種決策智能算法的開源研究平臺——DI-drive。

之所以選擇自動駕駛領域做開源，OpenDILab有自己的思考：

第三次發展浪潮之后，AI技術已經進入從感知智能到決策智能演變的關鍵節點，決策 AI技術的突破也到了在實際場景部署和應用的階段。任何前沿的學術理論，都要走到現實世界當中去，才能產生更多的價值。

可以說，決策 AI技術應用的成功與否，直接決定了這一技術在產業界的認可程度，反過來，應用領域的難題也可以指導決策 AI理論的演進。

另一方面，生態構建的成功與否體現了決策 AI技術的應用門檻、其通用能力和泛化能力以及對不同任務的適應能力。應用生態也可以更加廣泛地拓展決策 AI的應用領域，打通不同應用領域所面臨的問題和挑戰。

自動駕駛是當前人工智能的熱門研究方向。決策、規劃與控制是自動駕駛任務的大腦，一向被各大公司視作高度保密技術。如果是一位普通開發者，就算想深入了解也難。

所以，OpenDILab綜合了大量自動駕駛決策 AI的方法，抽象出基本涵蓋現有自動駕駛方法的一套流程，做出了自動駕駛領域第一個開源的、人人可以參與的研究平臺 DI-drive。

目前，DI-drive已在自動駕駛端到端仿真任務上取得若干算法突破。對于一系列核心技術突破，OpenDILab不作保留，全部開源。

比如自動駕駛策略 InterFuser，該策略基于 Transformer進行多傳感器融合，并使用了可解釋性特征來增加自動駕駛的安全性。

我們都知道，在高交通密度的場景中，會有大量的障礙物和動態物體參與決策。在這些情況下，一些部署的自動駕駛系統可能表現出不正確或意外的行為，導致災難性的事故。

比如行人突然從路邊出現、通過路口時遭遇意外車流（闖紅燈等），這需要更好地理解多模態多視角傳感器輸入下的場景。另外，如何驗證決策過程也是個問題，換句話說，識別系統的功能 /故障情況以及故障原因，這需要決策系統的可解釋性。

OpenDILab模擬了大部分情況，基于自動駕駛研究的開源模擬器 CARLA進行了測評，InterFuser顯示出良好的問題處理能力：

等紅燈

轉彎

在最新的 CARLA Leaderboard排行榜中，OpenDILab提出的自動駕駛策略 InterFuser取得了 Top 1的成績。

InterFuser在 CARLA Leaderboard上的排名

InterFuser arXiv論文地址: https://arxiv.org/abs/2207.14024

InterFuser Github項目地址: https://github.com/opendilab/InterFuser

此外，OpenDILab還針對自動駕駛開發了一套貼近真實的駕駛場景 Casezoo，所涉及的駕駛場景均由實車數據和路測案例轉化而來。他們在多種貼近真實的駕駛環境中訓練和測試了決策模型，有效促進自動駕駛領域仿真研究在實車環境中的推廣和應用。

與此同時，OpenDILab也在探索新的決策智能應用領域和方法，如金融領域的反欺詐和交易，電網、港口等場景的資源調度和優化，生物領域的合成搜索和預測等。一系列重磅成果，均在醞釀之中。

不斷進化的 OpenDILab

一年時間過得很快。Beta版本開源之后，OpenDILab團隊一直在根據開發者社區的反饋改進。

經過多次完善后，近日的 WAIC 2022大會上，OpenDILab 1.0版本正式問世。

OpenDILab框架圖

整體來看，OpenDILab 1.0有三大升級特點：

1.易用高效的大規模決策智能訓練系統：具備插件化的擴展能力和友好的分布式能力

2.當前世界上最全面的標準化決策 AI平臺：一個平臺整合所有 RL研究領域，一套框架服務多種決策 AI問題，最全最強算法集（1個架構，8大研究方向，40 +環境，60 +算法，70 +專利）

3.到手即用的工業應用生態：決策 AI+X的最佳實踐，助力各行各業實現關鍵的技術和應用突破。

「在計算機視覺領域，標準化做得很好，比如所有數據模態都可以用非常規整的 Tensor來表示，所有任務都可以在 batch維度同步 forward和 bp（Back Propagation）的神經網絡來處理，比如 PyTorch和 TensorFlow。而在數據模態高度結構化，訓練過程高度異步化的決策智能領域，我們希望做的也是這樣一件事。」劉宇表示。

硬核升級之外，OpenDILab也更加注重易用性和便捷性，為社區內的開發者提供了更加詳盡的上手教程。值得一提的是，OpenDILab將于今年 10月推出從應用場景出發的 「PPO x Famliy入門公開課」，課程內容主要從一個 PPO解決絕大多數的常規決策問題，根據算法原理，代碼實現，實際應用三者的一一對應來設計，即使你只是一枚想入門決策 AI的萌新，或者只是一位想用決策 AI技術解決某個實際問題的非內行工程師，都可以通過該課程和 OpenDILab平臺獲得在算法、系統、工程等經驗和工具支持。

我們也了解到，同在 WAIC2022發布的 SenseMAP商湯多智能體平臺，在搭建過程中也用到了 OpenDILab開源的多項前沿技術。

在 WAIC 2022的企業論壇中，劉宇介紹：「我們利用 OpenDILab作為基建之一構建了商湯多智能體游戲 AI平臺 SenseMAP，同時 OpenDILab也支持了我們在游戲、電力調度、自動駕駛和貨運調度等領域的業務應用。」

劉宇認為，只有一項技術的門檻明顯降低，更多人才有機會入局。

縱觀人類技術發展歷史，真正帶動整個社會往前走的機會，未必出現在某種技術誕生的那一刻，更多是這項技術能夠得到普及之后。這正是 OpenDILab的開源初衷。

來源：轉載機器之心

審核編輯 黃昊宇