比如,那么對于同一個語義,不同語言和方言對應反饋都可能有差異,甚至對于不同環境成長的同一語言人群以及同一個人在不同年齡段和不同情緒狀態下的反饋都可能不同。
近日,斯坦福大學人工智能實驗室(SAIL)發表博客,介紹了其兩篇 ACL 2020 論文。這兩項研究立足于近段時間 BERT 等神經語言模型的突破性成果,指出了一個頗具潛力的新方向:使用語言解釋來輔助學習 NLP 乃至計算機視覺領域的任務。
簡單來說,就是針對自然語言處理(NLP)和計算機視覺領域的多種高難度任務,他們首先用語言解釋這些任務,然后使用深度神經網絡模型來學習這些語言解釋,進而幫助解決這些任務。
事實上,BERT 等現代深度神經語言模型已經顯現出解決多項語言理解任務的潛力。因此,SAIL 在這兩篇論文中提出使用神經語言模型來緩解這些基本問題。這些神經語言模型或以確定相關領域內語言解釋為目標,或使用了可以解讀語言解釋的通用型“知識”來進行預訓練。
第一篇論文研究了如何使用語言解釋來構建文本分類器,即使用自然語言解釋來幫助解決單個任務。基于此,研究人員提出了 ExpBERT 模型,其使用了針對文本蘊涵任務訓練的 BERT 模型,BERT 在這一過程中輸出的特征可替代上述語義解析器提供的指示特征。
第二篇論文提出一種名為語言塑造型學習(Language Shaped Learning/LSL)的方法,即在訓練時使用語言解釋,則可以促使模型學習不僅對分類有用的表征,而且該表征還能用于預測語言解釋。
語言之精妙彰顯了人類之精巧,人工智能想要克服語言的技術桎梏依然還有漫長的路要走,但研究已在路上。在人工智能獲得語言能力前,社會也將對其技術進行謹慎的設計,這也是科技時代下必然要面對的問題。
責任編輯:PSY
-
人工智能
+關注
關注
1804文章
48726瀏覽量
246617 -
語言
+關注
關注
1文章
97瀏覽量
24440 -
nlp
+關注
關注
1文章
490瀏覽量
22488
發布評論請先 登錄
自然語言處理與機器學習的關系 自然語言處理的基本概念及步驟
編程語言在人工智能中的使用
嵌入式和人工智能究竟是什么關系?
人工智能、機器學習和深度學習存在什么區別

《AI for Science:人工智能驅動科學創新》第6章人AI與能源科學讀后感
AI for Science:人工智能驅動科學創新》第4章-AI與生命科學讀后感
《AI for Science:人工智能驅動科學創新》第二章AI for Science的技術支撐學習心得
《AI for Science:人工智能驅動科學創新》第一章人工智能驅動的科學創新學習心得
risc-v在人工智能圖像處理應用前景分析
名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅動科學創新
FPGA在人工智能中的應用有哪些?
自然語言處理屬于人工智能的哪個領域
大模型應用之路:從提示詞到通用人工智能(AGI)

評論