商湯科技CVPR 2020錄用論文在多個領域實現突破,包括:對抗式生成模型、三維點云理解與分析、訓練加速與模型量化、視頻理解與分析、網絡結構搜索等。以下為商湯及商湯聯合實驗室入選CVPR 2020的代表性論文。
▎研究方向:對抗式生成模型
代表性論文:《對人臉生成模型的隱空間可解釋性分析》鏈接:https://arxiv.org/abs/1907.10786
近年來,對抗生成網絡(GAN)的快速發展極大地增強了圖像生成的質量,也因此得到了越來越廣泛的應用。越來越多基于GAN的模型被提出來提高生成質量以及訓練穩定性,但是對于生成模型的可解釋性還鮮有研究。
本文以人臉生成模型為例,對GAN的隱空間進行了深入分析,目標在于理解GAN是如何將一個隨機噪聲轉化為一張高質量圖片的。本文提出了一種簡單而通用的技術InterFaceGAN,用于在潛在空間中進行語義人臉編輯,可控制姿勢以及其他面部屬性,例如性別、年齡、眼鏡等,還能夠糾正GAN造成的偽影。
代表性論文:《ACGPN:基于圖像的自適應生成保留虛擬換裝》鏈接:https://arxiv.org/abs/2003.05863
本文關注基于圖像的虛擬換裝任務。現有方法取得了很多突破但仍然存在很大問題:(1)人物的肢體仍然是模糊的;(2)對于下裝很難做到清楚的保留;(3)衣服的紋理容易產生過度形變。
為此本文利用一種語義敏感的方法,自適應的判斷哪部分圖像是應該保留的,解決了現有方法中無法對人物肢體與衣服有遮擋的情況的建模,極大程度地降低了生成結果中的偽影以及模糊細節;并通過引入仿射變換的共線性等性質,對變形衣服中的薄板樣條插值變換起到約束,使得Logo和花紋不易扭曲變形。 ▎研究方向:三維點云理解與分析 代表性論文:《PV-RCNN: 基于Point-Voxel點云特征深度融合的3D物體檢測算法》鏈接:https://arxiv.org/abs/1912.13192
本文關注基于點云數據的三維物體檢測任務。文章提出了一個高性能的3D物體檢測框架PV-RCNN,其通過構造Set Abstraction特征抽象操作將基于Point與Voxel的點云特征提取算法分別在Voxel-to-Keypoint階段和Keypoint-to-RoIGrid 階段深度融合,使其同時擁有可變感受野、精確的點云位置信息以及高召回率,從而有效提升3D物體檢測的性能。
實驗部分,PV-RCNN分別在競爭激烈的自動駕駛數據集KITTI以及更大規模的Waymo數據集上得到了驗證。在KITTI數據集的3D物體檢測榜Car類別上,PV-RCNN大幅領先其他所有算法,在三個難度上均取得了第一名。在更大規模的Waymo數據集上,PV-RCNN同樣在所有難度以及不同距離上超越了現有算法,最高mAP增幅達近7個點。
▎研究方向:訓練加速與模型量化
代表性論文:《用于加速卷積神經網絡訓練過程INT8訓練技術》鏈接//arxiv.org/abs/1912.12607
卷積神經網絡訓練過程需要耗費大量的計算資源和時間,而各種深度學習硬件都提供非常高效的INT8計算支持。當把INT8計算應用到訓練中同時加速網絡的前傳和反傳過程時,梯度的獨特分布給量化訓練帶來了極大挑戰。
為了解決梯度量化帶來的精度損失,論文進行了量化訓練收斂穩定性的理論分析并基于此提出了“誤差敏感的學習率調節”和“基于方向自適應的梯度截斷”方法,將兩個方法在圖像分類數據集ImageNet、CIFAR和目標檢測數據集PASCAL VOC、COCO上進行實驗,均取得了極少的精度損失。
實驗中也驗證了該方法對Inception、MobileNet等不同網絡結構的通用性。為了保證更高的加速比,論文還提出使用周期更新、量化卷積融合等技術來減少量化操作帶來的時間開銷。通過在GTX1080TI上實測,可以提升22%的訓練過程。
研究方向:視頻理解與分析 代表性論文:《TAPOS: 基于時序動作解析理解動作內部和不同動作間的語義》
動作理解是計算機視覺領域的核心問題之一,也是許多其他任務的基石,如智能視頻檢索,基于視覺的機器人學等。本文發現,人本身對于動作序列中子動作模式的轉換是比較敏感的。
在這篇工作中,本文提出了一種時域解析器,可以挖掘人體動作中的子動作模式,并根據挖掘出的子動作模式對較復雜的動作序列進行時域上的解析。這種時域解析器不但能對一個給定的動作序列進行子動作邊界劃分,還可以找尋大量不同動作序列中相同的子動作模式。本文發現,對較復雜動作序列良好的時域解析可以幫助提升一些較為高層的任務的準確率,如動作識別等。
▎研究方向:網絡結構搜索 代表性論文:《最高加速400倍,探索更好的網絡評價方法EcoNas》鏈接:https://arxiv.org/abs/2001.01233 許多網絡搜索算法需要耗費大量的算力,而這些算力絕大多數集中在候選網絡(Candidate)的評估上。同樣地,由于算力的限制,候選網絡的評估往往需要在代理環境(Proxy)下進行,如較短的訓練周期數。雖然每個NAS算法都要用到代理環境,但是代理環境對子網絡評估的影響仍然是未知的。 本文的工作首次系統研究了不同代理參數對網絡評估的影響。作者發現,使用更可靠的代理環境不僅可以極大壓縮計算量,也有助于搜到更好的模型。基于對代理環境的研究,作者提出了一個層次化的搜索方法,EcoNAS在將進化算法加速400倍的同時,得到了更好的網絡結構。
同樣地,作者發現可靠的代理環境也可以被用于其他搜索算法中,例如權重共享算法,在不影響精度的同時,使得搜索效率進一步提升。
責任編輯:pj
-
3D
+關注
關注
9文章
2953瀏覽量
109910 -
GaN
+關注
關注
19文章
2184瀏覽量
76251 -
商湯科技
+關注
關注
8文章
555瀏覽量
36672
發布評論請先 登錄
瑞芯微模型量化文件構建
OCR識別訓練完成后給的是空壓縮包,為什么?
分布式 IO:礦山砂石裝備高效控制的新引擎
基于梯度下降算法的三元鋰電池循環壽命預測

大模型訓練框架(五)之Accelerate
AI模型部署邊緣設備的奇妙之旅:如何實現手寫數字識別
分布式通信的原理和實現高效分布式通信背后的技術NVLink的演進

訓練RNN時如何避免梯度消失
激光打靶射擊訓練系統 DW-S602提供軍事訓練效率
Meta發布Llama 3.2量化版模型
WBG 器件給柵極驅動器電源帶來的挑戰

AI普及給嵌入式設計人員帶來新挑戰

評論