科學(xué)界和工業(yè)界正開始利用 AI 與數(shù)據(jù)中心規(guī)模的加速計算相結(jié)合的強(qiáng)大指數(shù)級算力

研究人員正在尋找能使他們的工作所需計算性能提升百萬倍的“燃料”。

不斷增長的數(shù)據(jù)導(dǎo)致計算需求飛漲。面對此情況，他們無法完全依靠已是明日黃花的摩爾定律。

因此，他們利用三大“推進(jìn)器”，獲取所需的指數(shù)級加速。

縱向加速和橫向擴(kuò)展

加速計算是科技的三大現(xiàn)代驅(qū)動力之一。在過去的十年中，借助五代 GPU 的進(jìn)步以及我們在這些 GPU 之上構(gòu)建的完整軟件棧，加速計算已實(shí)現(xiàn)了 1000 倍性能提升。

擴(kuò)展能力是第二個驅(qū)動力，已取得近十萬倍的性能提升。這是因?yàn)閿?shù)據(jù)中心正在成為新的計算單元。

例如，在 2015 年，使用一個 Kepler GPU 訓(xùn)練 ResNet-50（熱門的計算機(jī)視覺模型之一）花了將近一個月的時間。今天，我們在 Selene 上訓(xùn)練同樣的模型只用了不到半分鐘的時間。Selene 是世界上性能超強(qiáng)的工業(yè)超級計算機(jī)，其包含數(shù)千個 NVIDIA Ampere 架構(gòu) GPU。

我們開發(fā)了許多關(guān)鍵技術(shù)來實(shí)現(xiàn)這種擴(kuò)展，例如 Megatron 軟件、用于多 GPU 和多節(jié)點(diǎn)處理的 Magnum IO，以及用于網(wǎng)絡(luò)計算的 SHARP。

開啟深度學(xué)習(xí)的新時代

當(dāng)今時代的第三個，也是最具變革性的驅(qū)動力是 AI。

去年，深度學(xué)習(xí)在一毫秒的時間尺度內(nèi)對 3.05 億個原子進(jìn)行了模擬，揭示了新冠病毒 SARS-CoV-2 的內(nèi)部結(jié)構(gòu)。這項(xiàng)工作標(biāo)志著與 15 年前在 20 秒內(nèi)對 100 萬個原子進(jìn)行模擬的最先進(jìn)技術(shù)相比，其效能增加了 1000 萬倍以上。

這就是 AI 和高性能計算的結(jié)合正在席卷科學(xué)界的原因。研究人員去年在 arXiv 上發(fā)表了近 5000 篇關(guān)于利用 AI+HPC 進(jìn)行工作的論文，而五年前此類論文還不到 100 篇。

最近的一篇論文來自 NVIDIA 的研究人員。它展示了一種將神經(jīng)網(wǎng)絡(luò)與經(jīng)典物理方程式相結(jié)合的方法，可令傳統(tǒng)模擬獲得 1000 倍的速度提升。

加快藥物研發(fā)

如今，加速計算、大規(guī)模擴(kuò)展和 AI 的結(jié)合正在推動科學(xué)和工業(yè)計算的發(fā)展。

在疾病治療領(lǐng)域，加速藥物研發(fā)是一切工作的重中之重。這項(xiàng)工作頗具挑戰(zhàn)，開發(fā)者需要解碼 3D 蛋白質(zhì)結(jié)構(gòu)，了解其工作原理，然后發(fā)現(xiàn)能夠阻止它們感染健康細(xì)胞的化合物。

使用 X 射線和電子顯微鏡的傳統(tǒng)方法只解碼了大約 25000 種人類蛋白質(zhì)中的 17%。DeepMind 去年在其 AlphaFold 系統(tǒng)中使用了一套 AI 模型，實(shí)現(xiàn)了重大飛躍，預(yù)測了超過 20000 種人類蛋白質(zhì)的 3D 結(jié)構(gòu)。

無獨(dú)有偶，NVIDIA 和美國加州理工學(xué)院的研究人員將機(jī)器學(xué)習(xí)和物理相結(jié)合，創(chuàng)造了 OrbNet，可加速多個數(shù)量級的分子模擬。初創(chuàng)公司 Entos 利用 OrbNet，令其蛋白質(zhì)和候選藥物之間的化學(xué)反應(yīng)模擬速度提高了 1000 倍，在三個小時內(nèi)就完成了原本需要超過三個月時間的工作量。

了解氣候變化

類似情況在其他領(lǐng)域也屢屢發(fā)生。科學(xué)家希望盡快以千米級分辨率模擬全球氣候，以幫助我們適應(yīng)不斷變化的天氣模式，更好地為災(zāi)難做好準(zhǔn)備。

但是，為了準(zhǔn)確追蹤云層和風(fēng)暴的運(yùn)動模式，科學(xué)家需要在一米的分辨率級別進(jìn)行研究。這需要高達(dá) 1000 億倍的計算能力。

按照摩爾定律，我們要到 2060 年才能獲得這個能力。因此，尋求百萬倍性能飛躍的科學(xué)家正在通過大規(guī)模加速計算和 AI 來構(gòu)建我們星球的數(shù)字孿生。

多行業(yè)已應(yīng)用數(shù)字孿生

研究人員已經(jīng)在利用這些技術(shù)來構(gòu)建工廠和城市的數(shù)字孿生。

例如，西門子能源公司使用在云中數(shù)十個 GPU 上運(yùn)行的 NVIDIA Modulus AI 框架，模擬了整個發(fā)電廠。它可以預(yù)測蒸汽的腐蝕性影響造成的機(jī)械故障，減少宕機(jī)時間，節(jié)約成本并持續(xù)運(yùn)作。

這種模擬技術(shù)可打造更高效的農(nóng)場、醫(yī)院，以及幫助任何行業(yè)轉(zhuǎn)型。這就是我們開發(fā) Modulus 原因：使創(chuàng)建 AI 驅(qū)動、物理級準(zhǔn)確的模擬變得簡單。

這是在當(dāng)今新計算引擎的助力下，我們打造出的又一個工具，可實(shí)現(xiàn)下一個百萬倍的飛躍。

數(shù)據(jù)中心規(guī)模的 AI 加速計算將帶來百萬倍的性能提升，從而解決諸如了解氣候變化、研發(fā)藥物和推動工業(yè)轉(zhuǎn)型等問題。

責(zé)任編輯：haq