(文章來源:比特網)
去年美國馬薩諸塞州大學阿默斯特分校的研究人員曾表示,訓練一臺大型AI機器產生的碳,平均是一個人終其一生駕駛汽車制造的排放量5倍。除此之外,還存在很多其他方面的能源消耗。因此AI未來如何實現可持續發展,仍是亟需解決的問題。
近期,在麻省理工一篇最新論文中顯示,其提出了一種比以前更環保的方式來訓練和運行AI模型的系統。論文中顯示,該方案被稱為是種“一勞永逸”的網絡,它訓練一個大型模型,該模型由許多不同大小的預訓練子模型組成,這些子模型可以在不需要再訓練的情況下針對一系列平臺進行定制。每個子模型都可以在推理時獨立運行而無需重新訓練,系統根據與目標硬件的功率和速度限制相關的精度和延遲權衡來確定最佳子模型。
“漸進收縮”算法有效地訓練大模型,同時支持所有子模型。先訓練大模型,再利用大模型訓練較小的子模型,使其同時學習,最后所有子模型都得到了支持。
在實驗中,研究人員發現,用他們的方法訓練一個包含超過10個五分之一建筑環境的計算機視覺模型,最終比花幾個小時訓練每個子網絡要有效得多。此外,它并沒有影響模型的準確性或效率——當使用通用基準(ImageNet)進行測試時,該模型在移動設備上達到了理想準確性,在推理方面比領先的分類系統快1.5到2.6倍。
也許更令人印象深刻的是,研究人員聲稱,與當今流行的模型搜索技術相比,計算機視覺模型在訓練時需要大約1/1300的碳排放量。IBM研究員、麻省理工學院沃森人工智能實驗室成員談到這項研究時表示:“如果人工智能要繼續快速發展,我們就需要減少其對環境的影響。”
(責任編輯:fqj)
-
AI
+關注
關注
87文章
34146瀏覽量
275286 -
智能技術
+關注
關注
0文章
300瀏覽量
13146
發布評論請先 登錄
麻省理工學院香港校友會代表團到訪華沿機器人
美國加州理工學院:研究量子傳感技術可實現粒子時空高精度探測
佐治亞理工學院:毛囊級傳感器!研發可運動無感佩戴的AR控制傳感器

江蘇理工學院蒞臨漢得利BESTAR公司考察交流
魔角石墨烯,超流剛度首次測得

麻省理工學院對光子集成的量子發射器的光譜特性研究

麻省理工學院研發全新納米級3D晶體管,突破性能極限
麻省理工學院推出新型機器人訓練模型
24M開發出新隔離膜可降低電動汽車電池火災風險
VILA與其他模型在提供邊緣AI 2.0方面的表現

美國佐治亞理工學院一行蒞臨達實智能調研
貴州理工學院采購南京大展的DZ-STA200同步熱分析儀

麻省理工學院研發RoboGrocery系統,雜貨店自動化裝袋新篇章
感謝東莞理工學院對我司導熱系數測試儀的認可

蘇黎世聯邦理工學院報告:Rowhammer攻擊對高端RISC-V CPU的潛在風險

評論