模型評估、模型選擇和算法選擇技術的正確使用
機器學習已經成為我們生活的中心,無論是作為消費者、客戶、研究者還是從業人員。無論將預測建模技術應用到....
如何通過多模態對比學習增強句子特征學習
視覺作為人類感知體驗的核心部分,已被證明在建立語言模型和提高各種NLP任務的性能方面是有效的。作者認....
Taskflow API之三大特性
文檔級輸入:支持文檔級輸入,解決預訓練模型對輸入文本的長度限制問題,大大節省用戶輸入長文本時的代碼開....
如何統一各種信息抽取任務的輸入和輸出
信息抽取任務包括命名實體識別(NER)、關系抽?。≧E)、事件抽?。‥E)等各種各樣的任務。
深度學習與經典統計學的差異
深度學習和簡單的統計學是一回事嗎?很多人可能都有這個疑問,畢竟二者連術語都有很多相似的地方。在這篇文....
視覺語言導航領域任務、方法和未來方向的綜述
視覺語言導航(VLN)是一個新興的研究領域,旨在構建一種可以用自然語言與人類交流并在真實的3D環境中....
一種簡單而有效的轉換方法來降低預測情感標簽的難度
面向目標的多模態情感分類(TMSC)是方面級情感分析的一個新的子任務,旨在預測一對句子和圖片中提到的....
基于谷歌中長尾item或user預測效果的遷移學習框架
文中提出的遷移學習框架主要包括model-level transfer和item-level tra....
預訓練模型在搜索中使用的思路和方案
當然了,和往常的文章一樣,我不會復述這一篇文章,而是聊聊里面的一些關鍵點和一些有意思的內容,拿出來和....
自然語言處理(NLP)領域的高效方法
訓練越來越大的深度學習模型已經成為過去十年的一個新興趨勢。如下圖所示,模型參數量的不斷增加讓神經網絡....
幾種常用的NLP數據增強方法
因為直接對原是文本進行數據增強,很難保證維持原始的文本語義,因此可以通過在語義空間上進行隱式數據增強....
深度解析YOLOv7的網絡結構
最近,Scaled-YOLOv4的作者(也是后來的YOLOR的作者)和YOLOv4的作者AB大佬再次....
為什么深度學習模型經常出現預測概率和真實情況差異大的問題?
文中對比了簡單模型LeNet和現代模型ResNet的校準情況,LeNet的輸出結果校準性很好,而Re....
深度學習刷SOTA的一堆trick
對抗訓練就是在輸入的層次增加擾動,根據擾動產生的樣本,來做一次反向傳播。以FGM為例,在NLP上,擾....
刷SOTA一般通用的trick
像優秀的優化器,學習率調度方法,數據增強,dropout,初始化,BN,LN,確實是調參大師的寶貴經....
用于多模態命名實體識別的通用匹配對齊框架
該模塊通過注意力機制建立起文本和圖像之間的關系,使用文本token序列表示 作為Query,使用圖....
介紹一種通用匹配對齊框架MAF
多模態命名實體識別在傳統的命名實體識別基礎上額外引入了圖像,可以為文本補充語義信息來進行消岐,近些年....
對預訓練模型在召回與排序部分的應用做一個總結
搜索任務就是給定一個query或者QA中的question,去大規模的文檔庫中找到相似度較高的文檔,....
解決長尾和冷啟動問題的基本方法
長尾問題的難點主要體現在以下2點。首先,長尾實體的樣本量太少,模型很難學習這部分樣本的規律,例如用戶....
一窺AMR圖譜在自然語言處理中的應用
TreeBank 作為自然語言語法的結構化表示可謂廣為人知,其實在語義層面也有一種類似的結構化方法—....
AMR圖譜在自然語言處理中的應用
AMR 既不會自動從文本中展現出來,也無法自行表達一個句子。因此對于 AMR 而言,最重要的任務就是....
一種將知識圖譜與語言模型結合的具體方式分享
知識嵌入(Knowledge Embedding)將知識圖譜中的關系和實體嵌入向量空間進行表示。
基于知識的對話生成任務
基于知識的對話生成任務(Knowledge-Grounded Dialogue Generation....
預訓練模型技術在金融事件分析中有何作用
綜合前面介紹的各種事件分析技術和應用場景,一個完整的事件分析框架支持4大能力:搜索某個事,搜索某個主....
基于圖文多模態領域典型任務
圖文多模態領域典型任務如img-text retrieval、VQA、captioning、grou....
基于小樣本增量學習 NER 的框架
之前的工作(Monaikul 等人,2021)通過對新實體類添加輸出層(AddNER)以及對輸出層進....
如何在GPU資源受限的情況下訓練transformers庫上面的大模型
自BERT出現以來,nlp領域已經進入了大模型的時代,大模型雖然效果好,但是畢竟不是人人都有著豐富的....
半監督算法DocRE的新組件
文檔級關系抽取要同時從多個句子中提取關系。針對這個任務,本文提出了一個半監督算法 DocRE。Doc....
一篇解決表示學習坍塌問題的工作報告
針對表示學習中的坍塌問題,提出了VICREG方法,通過variance、invariance、cov....
Transformer的細節和效果如何
在文本理解任務(Natural Language Understanding)上,預訓練模型已經取得....