近日,三位年輕華人AI博士有了最新的職業規劃:陳天奇、朱俊彥雙雙宣布將于2020年秋季加入CMU,擔任助理教授;金馳則宣布今年9月加入普林斯頓,擔任助理教授。
優秀,可能是一種習慣。
最近,三位華人AI大牛博士生的職業規劃有了最新的進展:
XGBoost作者陳天奇宣布2020年秋季加入CMU,擔任助理教授;
CycleGAN作者朱俊彥宣布2020年秋季加入CMU,擔任助理教授;
ICML 2018研討會“RL探索”最佳論文獎得主金馳宣布2019年9月加入普林斯頓,擔任助理教授。
三位AI大神的博士生涯即將告一段落,等待他們的是更富挑戰、更具意義的科研工作。正如陳天奇和朱俊彥在Twitter中表示,他們都希望在各自的領域做出更多貢獻。
恭喜!加油!
XGBoost、TVM作者陳天奇加入CMU
華盛頓大學博士生、著名機器學習算法XGBoost,深度學習編譯器TVM等的作者陳天奇近日在Twitter上宣布,將于2020年秋季加入CMU機器學習系擔任助理教授。
陳天奇說:
我將于2020年秋季加入CMU擔任助理教授。我非常感謝我的導師、合作者和華盛頓大學在我的博士生涯中給予我的幫助。期待與CMU同事合作,為未來的智能系統進行更多研究。
陳天奇博士就讀于華盛頓大學保羅·G·艾倫計算機科學與工程學院,在上海交通大學ACM班獲得碩士和學士學位。
陳天奇
谷歌AI負責人Jeff Dean、GAN發明者Ian Goodfellow、CMU副教授馬堅等人都表示了祝賀。
AI大牛李沐也在知乎上透漏了一點陳天奇加入CMU的歷程:
兩點感慨:
1. CMU 很早就開始做 system 和 machine learning 結合的研究(2011 年左右吧),經過前期很多探索和彎路(錯過了好幾個 super star),終于招到了最合適的年輕老師。天奇之前還在糾結要不要去 CMU,終于決定了。這是 CMU 的一大幸事。
2.比較間接的了解了天奇的找 faculty 之路,感慨是有好的工作是前提,但對方學校欣賞也很重要。至少你去面試的 host 需要很欣賞你的工作。例如我很喜歡 TVM 的工作,我們組也有好幾個成員投入在 TVM 上,所以經常出門推銷。過程中發現我之前 CMU 的系統方向老板也很喜歡(天奇的 CMU 面試 host),我以前在 CMU 的辦公室友很喜歡(天奇糾結的另一個 offer 的 host),我們組 TVM tech leader 的老板也很喜歡(另一個發 offer 的 top 學校的大佬)。此外,比較遺憾是另外幾個非常強的學校沒有跟進。我個人是很希望天奇能去 standford 或者 berkeley,這樣未來合作更方便(CMU 實在是太偏了,灣區去匹茲堡的直達似乎都沒了)。沒拿到也不意外,之前跟他們幾個大佬老師聊的時候,似乎對這一塊不感興趣。
(https://www.zhihu.com/question/329657835/answer/717971252)
“有好的工作是前提”。陳天奇的博士生涯中,做了不少被廣泛采用的好工作。在他的主頁上,他寫道:“我對機器學習和系統的交叉研究十分感興趣。這個領域真正令人興奮的地方在于,當我們將先進的機器學習技術和系統結合在一起時,能夠實現什么。此外,我也在推動深度學習、知識遷移和終身學習(lifelong learning)等方向。”
陳天奇獲得了Google Ph.D. Fellowship、2012年KDDCup冠軍、2011年KDDCup亞軍等獎項,在ICML、ICLR、NeurIPS、KDD等人工智能頂會發表多篇論文。
陳天奇Google scholar引用數據
陳天奇和團隊開發了三個被廣泛采用的機器學習系統:
TVM stack:一個用于深度學習的自動端到端優化編譯器。
XGBoost,一個可擴展的、端到端的tree boosting系統。這個工具已經成為數據科學家每天使用的工具之一。
Apache MXNet(共同作者):目前AWS采用的主要深度學習框架之一。
XGBoost
先看XGBoost,XGBoost 最初是一個研究項目,由當時在 Distributed (Deep) Machine Learning Community (DMLC) 組里的陳天奇負責。
2014 年,時為華盛頓大學博士的陳天奇開源 XgBoost 算法,受到大眾追捧,之后它也迅速成了 Kaggle 競賽中的常客。
時至今日,XgBoost 在競賽中的使用率還是很高,性能也很好,不少奪冠方案中都有它的身影,被譽為比賽奪冠的大殺器。
TVM Stack
陳天奇的另一個重要工作是TVM。
TVM是一個神經網絡編譯器,它可以直接從其他框架訓練好的模型編譯到目標平臺上的可執行代碼,速度和顯存的都有大幅優化。TVM使得自動或者半自動生成的代碼能夠達到手寫代碼的效果。
TVM的框架
陳天奇把TVM+NNVM 描述為 “深度學習到各種硬件的完整優化工具鏈”。他在知乎上對TVM進行了解釋:
TVM 嘗試從更高的抽象層次上總結深度學習 op 的手工優化經驗,用來使得用戶可以快速地以自動或者半自動的方法探索高效的 op 實現空間。
TVM 和已有的解決方案不同,以 XLA 作為例子,TVM 走了和目前的 XLA 比更加激進的技術路線,tvm 可以用來使得實現 XLA 需要的功能更加容易:已有的解決方案本身基于高級圖表示的規則變換,可以產生一些圖級別的組合 op 優化,如 conv-bn fusion,但是依然要依賴于手寫規則來達到從圖的表示到代碼這一步。圖的 op 表示到代碼本身可以選擇的東西太多,如何做線程,如何利用 shared memory,而大部分沒有在圖語言里面得到刻畫,導致難以自動化。 這樣下去深度學習系統的瓶頸必然從 op 實現的復雜度變成了實現 graph compiler 中模式生成規則的復雜度。走這個方向需要非常大的工程團隊的支持,而我們希望采用更少的人力達到同樣甚至更好的效果。
我們采取了風險更大但是回報也更大的長遠技術路線。簡單地說,TVM 通過把圖到 op 生成規則這一步進一步抽象化,把生成規則本身分成各個操作原語,在需要的時候加以組合。基于 tvm 我們可以快速地組合出不同的 schedule 方案。
鏈接:https://www.zhihu.com/question/64091792/answer/217722459
此外,陳天奇還和李沐一起,是 DMLC(Distributed (Deep) Machine Learning Common) 及其主要項目MXNet的主要發起人和主要貢獻者之一。
加入CMU后,陳天奇將繼續發表哪些工作令人期待。有人表示,CMU 大概率迎來史上第一門 AI systems 課。
“開拓者”:朱俊彥年僅30歲拿到CMU教職
與此同時,另一位AI大神朱俊彥也表示將在2020年秋季回到CMU,擔任助理教授一職。
6月14日,朱俊彥在其Twitter上宣布:
在加州大學伯克利分校和麻省理工學院CSAIL度過了美好的時光之后,我將于2020年秋季回到CMU擔任助理教授。我期待在圖形、視覺和機器學習的交叉領域做更多的工作。
2012年,朱俊彥獲得了清華大學計算機系的工學學士學位。而后便前往CMU和UC Berkeley深造,經過5年的學習,朱俊彥于2017年獲得了UC Berkeley 電氣工程與計算機科學系的博士學位(他的導師是 Alexei Efros,博士研究由一項 Facebook 獎學金支持)。
他的博士畢業論文Learning to Generate Images,獲得了計算機圖形學頂會ACM SIGGRAPH 2018“杰出博士論文獎”。
朱俊彥博士可謂是計算機圖形學領域現代機器學習應用的開拓者。他的論文可以說是第一篇用深度神經網絡系統地解決自然圖像合成問題的論文。
因此,他的研究對這個領域產生了重大影響。他的一些科研成果,不僅為計算機圖形學等領域的研究人員所用,也成為視覺藝術家廣泛使用的工具。
其中,最為公眾所熟知的便是CycleGAN。
CycleGAN利用pixel2pixel技術,能自動將某一類圖片轉換成另外一類圖片,過度真實自然,可以說是2017年最受關注的模型之一。
不僅僅是CycleGAN,朱俊彥還有諸多家喻戶曉的科研成果。
英偉達在GTC 2019上推出了一個令人驚嘆的圖像生成器——GauGAN,可以說是憑借幾根線條,草圖秒變風景照。而朱俊彥便是作者之一。
論文地址:https://arxiv.org/pdf/1903.07291.pdf
這個軟件能夠將人類的繪畫方式和過程進行編譯,在幾秒鐘內就能畫出草圖,并將其轉換為逼真的照片。從軟件的早期演示中,它似乎能夠做到這一點。
此外,最近爆火的MIT十美元“滅霸”手套也是朱俊彥的杰作。
這個神奇手套名為“可伸縮觸覺手套”(scalable tactile glove,STAG),使用柔性材料,在幾乎整只手上布置了550個微型傳感器。僅使用觸覺數據,AI系統識別物體的準確率高達76%。
實驗還證明,大量的壓力圖及其空間分辨率是成功識別目標的關鍵。并且類似的深度學習模型可以估計未知物體的重量。結果顯示,重量在60克以內的物體大部分都能準確估計出來。
這項工作還發表在了國際科技期刊《Nature》。
論文地址:
https://www.nature.com/articles/s41586-019-1234-z
除上述這些非常出名的成就外,朱俊彥的其它工作也是非常出彩的。更多科研成果可以訪問下方個人主頁:
朱俊彥個人主頁:
http://people.csail.mit.edu/junyanz/#sect-awards
2018 年,朱俊彥獲得了 UC Berkeley 頒發的 David J. Sakrison Memorial Prize,以及英偉達的 Pioneer Research Award。
他還曾獲得過以下獎項和獎學金:
ACM SIGGRAPH杰出博士論文獎(2018年)
伯克利EECS(2018年)David J. Sakrison杰出博士研究紀念獎
NVIDIA先鋒研究獎(2018年)
Facebook獎學金(2015年)
清華大學優秀本科畢業論文(2012)
清華大學優秀本科生(2012年)
國家獎學金,由中國教育部頒發(2009年和2010年)
新加坡科技工程中國獎學金(2010年,2011年和2012年)
金馳:北大學子到普林斯頓任教
金馳目前是加州大學伯克利分校電氣工程與計算機科學(EECS)專業的6年級博士生,師從Michael I. Jordan。他也是RISELab和伯克利人工智能研究(BAIR)的成員。在此之前,金馳獲得了北京大學物理學學士學位,并在王立威教授的指導下完成了本科論文。
金馳的研究興趣在于機器學習、統計和優化。他博士研究的主要目標是設計更好的學習算法,這些算法在理論上是健全的,在樣本復雜性、運行時間和空間上是有效的。為了實現這一目標,他的研究重點是提供對非凸優化中基本問題的更深入理解,以及最近的強化學習。
金馳將于2019年9月加入普林斯頓大學電氣工程系,擔任助理教授。他還將參加2019年秋季IAS的“優化、統計和理論機器學習特別年”。
金馳與導師Michael I. Jordan合作的論文:
On Gradient Descent Ascent for Nonconvex-Concave Minimax Problems(關于非凸 - 凹極小極大問題的梯度下降問題)
Stochastic Gradient Descent Escapes Saddle Points Efficiently(隨機梯度下降有效地逃脫鞍點)
A short note on concentration inequalities for random vectors with subgaussian norm(關于具有subgaussian norm的隨機向量的集中不等式的簡短說明)
Minmax Optimization: Stable Limit Points of Gradient Descent Ascent are Locally Optimal(Minmax優化:梯度下降上升的穩定極限點是本地最優的)
Sampling can be faster than optimization(采樣可能比優化更快)
On the local minima of the empirical risk(論經驗風險的局部極小)
Is q-learning provably efficient?(q-learning是否可證明有效?)——2018年ICML研討會“RL探索”最佳論文
Stochastic cubic regularization for fast nonconvex optimization(用于快速非凸優化的隨機三次正則化)
Accelerated gradient descent escapes saddle points faster than gradient descent(加速梯度下降比梯度下降更快地逃脫鞍點)
How to escape saddle points efficiently(如何有效地逃脫鞍點)
Gradient descent can take exponential time to escape saddle points(梯度下降可以采用指數時間來逃離鞍點)
更多論文參見金馳谷歌學術主頁:
https://scholar.google.com/citations?user=GINhGvwAAAAJ&hl=en
新聞:
2018年10月,在第56屆Allerton大會上作了受邀演講。
2018年7月,論文“Q-Learning是否可證明有效?”在ICML 2018研討會“RL探索”中獲得最佳論文獎。
2018年7月,聯合舉辦了ICML 2018研討會“機器學習非凸優化的現代趨勢”。
2017年7月,關于如何有效逃離鞍點的博客帖子。
教育經歷:
2013年至今
加州大學伯克利分校
計算機科學博士生
2012-2013
多倫多大學
統計學客座學生
2008-2012
北京大學
物理學學士
實習經歷:
2016年夏季
微軟研究院,Redmond
Dong Yu研究實習生
2015年夏季
微軟研究院,新英格蘭
Sham Kakade研究實習生
金馳個人主頁:
https://sites.google.com/view/cjin/home
-
AI
+關注
關注
88文章
35080瀏覽量
279417 -
編譯器
+關注
關注
1文章
1662瀏覽量
50200 -
機器學習
+關注
關注
66文章
8501瀏覽量
134568
原文標題:【AI新星耀名校】陳天奇、朱俊彥、金馳加盟CMU、普林斯頓
文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
2025人工智能證書 2025年人工智能行業AI證書如何選擇?
生成式人工智能認證:重塑AI職業生態的底層邏輯
AI時代:不可替代的“人類+”職業技能
【「零基礎開發AI Agent」閱讀體驗】+ 入門篇學習
FAE的職責、能力及職業規劃

如何成為一名嵌入式軟件工程師?
蔡司CIMT2025 | 新品天團第三位成員ZEISS ScanPort亮相 – 一鍵掃描,效率倍增!

請求贈閱《零基礎開發AI Agent——手把手教你用扣子做智能體》
第五屆華人芯片設計技術研討會(ICAC 2023)舉辦,孫楠博士任技術委員會主席|行業動態

RFID技術三位一體開啟智能資產管理新時代

嵌入式職業規劃雜談 如何學習與職業規劃

評論