1970年,贊比亞修女Mary Jucunda給NASA(美國航空航天局)Marshall太空航行中心的科學副總監(jiān)Ernst Stuhlinger博士寫了一封信。信中,Mary Jucunda修女問道:目前地球上還有這么多小孩子吃不上飯,他怎么能舍得為遠在火星的項目花費數(shù)十億美元。
Stuhlinger很快給Jucunda修女回了信,他這封真摯的回信隨后由NASA以《為什么要探索宇宙》為標題發(fā)表。
這封信中有這樣一句話:“通往火星的航行并不能直接提供食物解決饑荒問題。然而,它所帶來大量的新技術(shù)和新方法可以用在火星項目之外,這將產(chǎn)生數(shù)倍于原始花費的收益。”
如今,隨著許多航天技術(shù)遷徙到其他方面并對人類生活產(chǎn)生了巨大的影響,很少有人再去質(zhì)疑航空航天是否有必要。
同樣,作為目前最前沿的計研究領(lǐng)域之一,人工智能近日也受到了環(huán)保方面的質(zhì)疑。
人工智能背后的碳排放引發(fā)關(guān)注
根據(jù)一份提交到自然語言處理頂會ACL 2019的論文,三位來自馬薩諸塞大學安姆斯特分校的研究人員對幾種常見的NLP模型進行碳排放評估。
他們發(fā)現(xiàn),像Transformer、GPT-2等流行的深度神經(jīng)網(wǎng)絡(luò),他們的訓練過程可以排放超過62.6萬磅的二氧化碳當量,幾乎是美國汽車平均壽命期內(nèi)排放量(包括制造過程)的五倍。
比如Google AI今年發(fā)布的一篇新論文The Evolved Transformer提出的神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索技術(shù),用于英語到德語翻譯的BLEU分數(shù)提高了0.1,卻花費了3.2萬TPU小時。
盡管這篇論文并沒有提供準確的基于TPU的模型訓練能耗和碳排放的數(shù)據(jù),但是根據(jù)美國環(huán)保署(EPA)統(tǒng)計,數(shù)據(jù)中心耗電占全球3%,且耗電量正在以每四年翻一番的速度增長;同時,數(shù)據(jù)中心的溫室氣體排放占到全球的2%,碳足跡已經(jīng)追上民航業(yè)。
盡管目前數(shù)據(jù)中心大多還是在進行處理客戶信息等傳統(tǒng)工作,但是基于深度學習的人工智能正成為全球數(shù)據(jù)中心業(yè)務(wù)增長的最大驅(qū)動力。
來自網(wǎng)友的討論
這篇論文一進入大眾視野,便引起了廣泛討論,業(yè)內(nèi)人人士更多是持一種辯證的態(tài)度,表示雖然用于訓練所產(chǎn)生的碳排放是客觀存在的,但是并沒有文章中所說的那么夸張。
Reddit有網(wǎng)友評論:
在8個GPU上訓練12小時6500萬參數(shù)的一般網(wǎng)絡(luò)總計消耗27千瓦時,并且排出26磅二氧化碳,計算成本為41-140美元。這是論文中耗能最小的例子,但其實與大多數(shù)人做的訓練相比,它也算是規(guī)模比較大了。
而更大的BERT model,在64個GPU上訓練110萬個參數(shù),耗時80小時,消耗了1507千瓦時的能量,排放了1438磅二氧化碳,計算成本為3751-12571美元。但這是一個相當大的ML項目,比大多數(shù)人運行過的規(guī)模都更大,很少有個人或者組織能夠做這種項目。
論文中比較有意義的是神經(jīng)結(jié)構(gòu)搜索(NAS)消耗的能量和排放的二氧化碳。這是有道理的,因為搜索過程可能意味著運行幾個大數(shù)量級的訓練步驟。
而值得指出的是,該論文所闡述的一個例子:把TPU換成八塊P100GPU,用同樣的方式訓練同一個Transformer達到同樣的成績,將會產(chǎn)生驚人的62.6萬磅(約合284公噸)二氧化碳。這個結(jié)果雖然很震撼,但實際沒有人會這樣去做。
而Slashdot上則有網(wǎng)友用新能源汽車舉例:
設(shè)計節(jié)能汽車也需要消耗大量能源。但是,從長遠來看是有好處的。如果這些受過訓練的人工智能能夠通過它們所做的工作節(jié)省能量,那么從長遠來看,這也將是有益的。
人工智能與環(huán)境保護站在對立面嗎?
首先,人工智能并非是不落地的“實驗室產(chǎn)物”。
提到人工智能,大眾往往第一反應(yīng)的都是資本市場所宣傳的產(chǎn)品,這些產(chǎn)品往往由于宣傳的需要被加入了許多噱頭而不具備普遍的說服力,所以人工智能在應(yīng)用上總給人一種很玄的感覺。
Petuum創(chuàng)始人兼CEO邢波也說,人工智能太高深了,為人所知的有自動駕駛、醫(yī)療等應(yīng)用場景,其實最普通的土木工程領(lǐng)域,也需要人工智能技術(shù)的變革,但是這些小的應(yīng)用場景很少有人關(guān)注。
新技術(shù)的落地往往會從大眾不經(jīng)意的地方開始。在以種植玉米和大豆出名的美國愛荷華州,初創(chuàng)AI公司Smart Ag公司正在開發(fā)無人駕駛拖拉機用來干農(nóng)活,以解決農(nóng)場勞動力短缺的問題。
圖片來自英偉達中國
同樣的,人工智能和機器學習已經(jīng)開始在大數(shù)據(jù)醫(yī)療領(lǐng)域蓬勃發(fā)展,例如放射學、醫(yī)學成像和醫(yī)療保健記錄等。
在能源利用領(lǐng)域呢?人工智能也不是永遠都是耗電的那一方。
谷歌就曾給DeepMind“找了個活”,讓它通過操控計算機服務(wù)器和相關(guān)設(shè)備(例如冷卻系統(tǒng))來管理部分數(shù)據(jù)中心,從而減少了數(shù)個百分點的能耗,可不要小看這幾個百分點,要知道谷歌一年的耗電量,幾乎能趕上一個舊金山了。
其次這篇論文也并非是反對消耗資源來開發(fā)人工智能的。
作者的意圖只是希望提醒其他NLP學者和業(yè)界人士,在提高模型表現(xiàn)的同時,也應(yīng)該對環(huán)境影響有主動的、足夠的關(guān)注。
論文的第一作者,馬薩諸塞大學安姆斯特分校博士生艾瑪·斯特貝爾(Emma Strubell)在接受硅星人的獨家采訪時表示:“不計任何計算量的代價也要追逐哪怕一丁點的準確率提升。這絕對不是一個好的趨勢,我覺得我們應(yīng)該做得更好,用更有創(chuàng)意,而不是純粹‘加算力’的方式去做研究。”
如何做環(huán)境友好的人工智能研究,更多的使用清潔能源或是出路。從下面的表中我們可以看出,Google的數(shù)據(jù)中心用電56%來自可再生能源。
谷歌主要是通過采購大量可再生能源項目來應(yīng)對能源消耗,目前已經(jīng)包括肯尼亞的一個風力發(fā)電廠和在加州、德州等地的數(shù)個風力發(fā)電廠。
同樣,亞馬遜已經(jīng)在美國的印第安納、北卡羅萊納、俄亥俄和弗吉尼亞州建設(shè)了風力和太陽能發(fā)電廠。
而國內(nèi)的互聯(lián)網(wǎng)巨頭也有類似的做法,阿里巴巴張北云計算基地內(nèi)數(shù)據(jù)中心將百分百基于綠色能源運轉(zhuǎn),建筑外表覆蓋太陽能電板,同時采用自然風冷和自然水冷系統(tǒng),預(yù)計僅數(shù)據(jù)中心的制冷能耗就可以降低45%。阿里巴巴技術(shù)保障負責人周明就表示:“我們將采用全球最先進的綠色數(shù)據(jù)中心設(shè)計方案,將張北源源不斷的綠色能源轉(zhuǎn)化成計算資源。”
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4808瀏覽量
102817 -
人工智能
+關(guān)注
關(guān)注
1804文章
48726瀏覽量
246622 -
機器學習
+關(guān)注
關(guān)注
66文章
8492瀏覽量
134117
原文標題:人工智能被批不環(huán)保,訓練一個神經(jīng)網(wǎng)絡(luò)的排炭量竟然比5輛車還多?
文章出處:【微信號:BigDataDigest,微信公眾號:大數(shù)據(jù)文摘】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
人工智能是什么?
人工智能就業(yè)前景
解讀人工智能的未來
人工智能醫(yī)生未來或上線,人工智能醫(yī)療市場規(guī)模持續(xù)增長
人工智能:超越炒作
鄭交會人工智能科技展
人工智能專業(yè)該如何建設(shè)?實驗環(huán)境如何建立?人工智能實驗如何操作?
人工智能芯片是人工智能發(fā)展的
物聯(lián)網(wǎng)人工智能是什么?
嵌入式與人工智能關(guān)系是什么
什么叫嵌入式人工智能
SoC/CPU/MCU對比分析哪個好?
《移動終端人工智能技術(shù)與應(yīng)用開發(fā)》人工智能的發(fā)展與AI技術(shù)的進步
《通用人工智能:初心與未來》-試讀報告
邊緣智能網(wǎng)關(guān)在環(huán)境保護方面的應(yīng)用

評論