NLP界的“神話”并沒(méi)那么神？

我們驚訝地發(fā)現(xiàn)BERT在參數(shù)推理理解任務(wù)中的峰值性能達(dá)到77％，僅比平均未經(jīng)訓(xùn)練的人類基線低3個(gè)點(diǎn)。但是，我們表明這個(gè)結(jié)果完全是通過(guò)利用數(shù)據(jù)集中的虛假統(tǒng)...

2019-07-27 標(biāo)簽：數(shù)據(jù)集自然語(yǔ)言nlp 2604 0

XLNet和Bert比，有什么不同？要進(jìn)行改進(jìn)嗎？

本文首先講講我對(duì)XLNet和Bert比，有什么異同？有什么模型方面的改進(jìn)？的理解

2019-07-26 標(biāo)簽：語(yǔ)言模型nlp 5341 0

遷移學(xué)習(xí)與模型預(yù)訓(xùn)練：何去何從

把我們當(dāng)前要處理的NLP任務(wù)叫做T（T稱為目標(biāo)任務(wù)），遷移學(xué)習(xí)技術(shù)做的事是利用另一個(gè)任務(wù)S（S稱為源任務(wù)）來(lái)提升任務(wù)T的效果，也即把S的信息遷移到T中。...

2019-07-18 標(biāo)簽：模型nlp遷移學(xué)習(xí) 8172 0

基于內(nèi)容的推薦算法算是最早應(yīng)用于工程實(shí)踐的推薦算法，有大量的應(yīng)用案例

從上圖也可以看出，要做基于內(nèi)容的個(gè)性化推薦，一般需要三個(gè)步驟，它們分別是：基于用戶信息及用戶操作行為構(gòu)建用戶特征表示、基于標(biāo)的物信息構(gòu)建標(biāo)的物特征表示、...

2019-07-18 標(biāo)簽：計(jì)算推薦算法nlp 6110 0

關(guān)于“NLP中的遷移學(xué)習(xí)”的教程

這些改進(jìn)，加上這些方法的廣泛可用性和易集成性，使人們想起了導(dǎo)致計(jì)算機(jī)視覺(jué)中預(yù)訓(xùn)練字嵌入和ImageNet預(yù)訓(xùn)練成功的因素，并表明這些方法很可能成為NLP...

2019-06-23 標(biāo)簽：nlp遷移學(xué)習(xí) 2541 0

HanLP的使用方法

HanLP 是由一系列模型與算法組成的工具包，目標(biāo)是普及自然語(yǔ)言處理在生產(chǎn)環(huán)境中的應(yīng)用。HanLP 具備功能完善、性能高效、架構(gòu)清晰、語(yǔ)料時(shí)新、可自定義的特點(diǎn)。

2019-05-10 標(biāo)簽：pythonnlp 5779 0

TableBank：高質(zhì)量的標(biāo)注表格數(shù)據(jù)集

通常每個(gè)Word文檔都有一個(gè)對(duì)應(yīng)的Office XML源代碼文件，在代碼中對(duì)應(yīng)表格的位置，可以對(duì)其進(jìn)行修改，讓表格加上邊框，以此來(lái)區(qū)分表格與文檔的其他部...

2019-04-04 標(biāo)簽：數(shù)據(jù)集自然語(yǔ)言處理nlp 5986 0

為大家介紹三個(gè)NLP領(lǐng)域的熱門(mén)詞匯

預(yù)訓(xùn)練是通過(guò)大量無(wú)標(biāo)注的語(yǔ)言文本進(jìn)行語(yǔ)言模型的訓(xùn)練，得到一套模型參數(shù)，利用這套參數(shù)對(duì)模型進(jìn)行初始化，再根據(jù)具體任務(wù)在現(xiàn)有語(yǔ)言模型的基礎(chǔ)上進(jìn)行精調(diào)。預(yù)訓(xùn)練...

2019-04-04 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯nlp 3567 0

論文在NLP學(xué)術(shù)研究中的意義

在這個(gè)系統(tǒng)工程中，論文的作用則是，向?qū)W術(shù)界同行清晰準(zhǔn)確地描述成果的創(chuàng)新點(diǎn)、技術(shù)思路、算法細(xì)節(jié)和驗(yàn)證結(jié)果。明白這一點(diǎn)，才能正確的對(duì)待論文寫(xiě)作：一項(xiàng)乏善可陳...

2019-03-12 標(biāo)簽：模型論文nlp 3621 0

一種在視覺(jué)語(yǔ)言導(dǎo)航任務(wù)中提出的新方法，來(lái)探索未知環(huán)境

視覺(jué)語(yǔ)言導(dǎo)航（vision-language navigation, VLN）任務(wù)指的是引導(dǎo)智能體或機(jī)器人在真實(shí)三維場(chǎng)景中能理解自然語(yǔ)言命令并準(zhǔn)確執(zhí)行。...

2019-03-05 標(biāo)簽：智能體自然語(yǔ)言nlp 4743 0

NLP中的深度學(xué)習(xí)技術(shù)概述

該項(xiàng)目是對(duì)基于深度學(xué)習(xí)的自然語(yǔ)言處理（NLP）的概述，包括用來(lái)解決不同 NLP 任務(wù)和應(yīng)用的深度學(xué)習(xí)模型（如循環(huán)神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)和強(qiáng)化學(xué)習(xí)）的理論...

2019-03-01 標(biāo)簽：深度學(xué)習(xí)NLP 5083 0

到底該怎么將這些頂尖工具用到我的模型里呢？

然而，讓小編翻開(kāi)他們的paper，發(fā)現(xiàn)每一個(gè)上面都寫(xiě)著四個(gè)大字：“弱者退散”，到底該怎么將這些頂尖工具用到我的模型里呢，Hugging Face 的大神...

2019-02-24 標(biāo)簽：開(kāi)源語(yǔ)言模型nlp 2631 0