ICLR 2019最佳論文日前揭曉。來自微軟研究院、加拿大蒙特利爾學習算法研究所 (MILA)和來自麻省理工學院計算機科學與人工智能實驗室(MIT CSAIL)奪得本次大會的最佳論文獎項。

其中，來自微軟研究院、加拿大蒙特利爾學習算法研究所的論文《有序神經元：將樹結構集成到循環神經網絡》探討了自然語言的處理問題。文中提到，自然語言是分層結構的，較小的單元嵌套在較大的單元中，當較大的組件結束時，嵌套在其中的所有較小的組件也必須關閉。雖然標準的LSTM架構允許不同的神經元在不同的時間尺度上跟蹤信息，但它并沒有明確偏向建模成分的層次結構。因此，提出了通過對神經元進行排序來增加這種歸納偏差。

來自麻省理工學院計算機科學與人工智能實驗室的論文《彩票假設：尋找稀疏的、可訓練的神經網絡》探討了模型壓縮問題，提出了一個新的概念——彩票假說：密集、隨機初始化的前饋網絡包含子網絡("中獎彩票")，當單獨訓練時，這些子網絡能夠在相似的迭代次數中達到與原始網絡相當的測試準確度。

作為深度學習領域的頂級盛會，ICLR每年都會收到來自世界各地的專家、學者的投稿。根據官方消息，ICLR 2019共收到了1578篇投稿，相比ICLR 2018的935篇有了大幅增加。不過，有數據顯示，ICLR 2018論文平均得分是5.24分，而2019年的論文平均得分為5.15分，比2018年下降近0.2分。