統一的文本到結構生成框架——UIE
眾所周知,信息抽取(IE)是一個從文本到結構的轉換過程。常見的實體、關系、事件分別采取Span、Tr....
基于GPT-2進行文本生成
文本生成是自然語言處理中一個重要的研究領域,具有廣闊的應用前景。國內外已經有諸如Automated ....
領域遷移一種簡單而有效的方法Alter
如圖2所示,Transformer模型一般由輸入嵌入層、輸出層和若干結構相同的Transformer....
遷移學習Finetune的四種類型招式
遷移學習廣泛地應用于NLP、CV等各種領域,通過在源域數據上學習知識,再遷移到下游其他目標任務上,提....
視覺語言預訓練(VLP)模型的最新進展
讓機器做出與人類相似的反應一直是 AI 研究不懈追求的目標。為了讓機器具有感知和思考的能力,研究人員....
一文詳解知識增強的語言預訓練模型
隨著預訓練語言模型(PLMs)的不斷發展,各種NLP任務設置上都取得了不俗的性能。盡管PLMs可以從....
Transformers研究方向
要說 BERT 為什么性能卓越,主要是它改變了 NLP 模型的訓練方式。先在大規模語料上訓練出一個語....
cosFormer:重新思考注意力機制中的Softmax
商湯多模態研究組認為,近似操作本身存在的誤差使得其效果很難超越Softmax Attention。我....
論辯挖掘在不同領域下的應用
論辯研究和推理是一個涉及到邏輯、語言、計算機等多學科領域的過程,在人工智能興起的時代,計算論辯試圖將....
文本糾錯是自然語言處理的第一道坎
對于政務公文、新聞出版等行業來說,一款針對以中文為母語的用戶所使用的校對系統將會有更大的幫助。因此,....
基于神經轉移模型的論辯挖掘任務
論文提出了一種針對論辯挖掘任務的新方法,該方法通過產生一系列的動作來逐步構建出一個論證圖,從而有效地....
命名實體識別實踐 - CRF
CRF,英文全稱為Conditional Random Field, 中文名為條件隨機場,是給定一組....
命名實體識別實踐 - CRF
CRF,英文全稱為Conditional Random Field, 中文名為條件隨機場,是給定一組....
一種全新易用的基于Word-Word關系的NER統一模型
最近的研究都在考慮如何通過一個大一統模型一次性解決這三種問題。目前的最佳的方法基本都是基于span-....
萬能的prompt還能做可控文本生成
隨著 Prompting 技術的大火,我們一直在思考,Prompt 究竟能夠帶來什么?我們都說,Pr....
帶你從頭構建文本分類器
文本分類是 NLP 中最常見的任務之一, 它可用于廣泛的應用或者開發成程序,例如將用戶反饋文本標記為....
Propt learnimng是如何發展形成的
Prompt learning作為近期NLP的新寵,熱度不斷攀升,在接下來的一段日子,大概率還是會處....
如何實現更綠色、經濟的NLP預訓練模型遷移
NLP中,預訓練大模型Finetune是一種非常常見的解決問題的范式。利用在海量文本上預訓練得到的B....
對比學習的關鍵技術和基本應用分析
對比學習的主要思想是相似的樣本的表示相近,而不相似的遠離。對比學習可以應用于監督和無監督的場景下,并....
關于PaddleNLP你了解多少
作者:劉健健 來自:ChallengeHub Twitter 的推文有許多特點,首先,與 Faceb....
解讀數據挖掘在智慧醫療領域的應用
本項目是通過學習機器學習與人工智能、數據挖掘的理論知識,將理論運用于智慧醫療等應用探索中,從而產出高....