01

研究動機(jī)

目前最先進(jìn)的神經(jīng)機(jī)器翻譯模型主要是自回歸（autoregressive, AR）[1][2]模型，即在解碼時從左向右依次生成目標(biāo)端單詞。盡管具有很強(qiáng)的性能，但這種順序解碼會導(dǎo)致較高的解碼時延，在效率方面不令人滿意。相比之下，非自回歸（non-autoregressive, NAR）模型[3]使用更加高效的并行解碼，在解碼時同時生成所有的目標(biāo)端單詞。為此，NAR模型需要對目標(biāo)端引入條件獨(dú)立假設(shè)。然而，這一假設(shè)無法在概率上準(zhǔn)確地描述人類語言數(shù)據(jù)中的多模態(tài)現(xiàn)象（或多樣性現(xiàn)象，即一條源端句存在多個正確的翻譯結(jié)果）。這為NAR模型帶來了嚴(yán)峻的挑戰(zhàn)，因?yàn)闂l件獨(dú)立假設(shè)與傳統(tǒng)的極大似然估計(jì)（Maximum Likelihood Estimate, MLE）訓(xùn)練方式無法為NAR模型提供足夠信息量的學(xué)習(xí)信號和梯度。因此，NAR模型經(jīng)常產(chǎn)生較差的神經(jīng)表示，尤其是在解碼器（Decoder）部分。而由于解碼器部分直接控制生成，從而導(dǎo)致了NAR模型顯著的性能下降。為了提升NAR模型的性能，大多數(shù)先前的研究旨在使用更多的條件信息來改進(jìn)目標(biāo)端依賴關(guān)系的建模（GLAT[4], CMLM[5]）。我們認(rèn)為，這些研究工作相當(dāng)于在不改變NAR模型概率框架的前提下提供更好的替代學(xué)習(xí)信號。并且，這些工作中的大部分需要對模型結(jié)構(gòu)進(jìn)行特定的修改。

沿著這個思路，我們希望能夠?yàn)镹AR模型提供更具信息量的學(xué)習(xí)信號，以便更好地捕獲目標(biāo)端依賴。同時，最好可以無需對模型結(jié)構(gòu)進(jìn)行特定的修改，適配多種不同的NAR模型。因此，在本文中我們提出了一種簡單且有效的多任務(wù)學(xué)習(xí)框架。我們引入了一系列解碼能力較弱的AR Decoder來輔助NAR模型訓(xùn)練。隨著弱AR Decoder的訓(xùn)練，NAR模型的隱層表示中將包含更多的上下文和依賴信息，繼而提高了NAR模型的解碼性能。同時，我們的方法是即插即用的，且對NAR模型的結(jié)構(gòu)沒有特定的要求。并且我們引入的AR Decoder僅在訓(xùn)練階段使用，因此沒有帶來額外的解碼開銷。

02

貢獻(xiàn)

1、我們提出了一個簡單有效的多任務(wù)學(xué)習(xí)框架，使NAR模型隱層表示包含更豐富的上下文和依賴信息。并且我們的方法無需對模型結(jié)構(gòu)進(jìn)行特定的修改，適配多種NAR模型。

2、一系列AR Decoder的引入帶來了較大的訓(xùn)練開銷。為此我們提出了兩種降低訓(xùn)練開銷的方案，在幾乎不損失性能的前提下顯著降低了參數(shù)量和訓(xùn)練時間。

3、在多個數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明，我們的方法能夠?yàn)椴煌腘AR模型帶來顯著的提升。當(dāng)使用束搜索解碼時，我們的模型在所有數(shù)據(jù)集上均優(yōu)于強(qiáng)大的Transformer模型，同時不引入額外的解碼開銷。

03

解決方案

3.1、模型結(jié)構(gòu)

我們的模型結(jié)構(gòu)如圖1所示。對于每個NAR Decoder層，我們都引入了一個輔助的弱AR Decoder（每個AR Decoder僅包含1層Transformer Layer）。我們令這些AR Decoder基于對應(yīng)的NAR隱層表示進(jìn)行解碼，即令NAR隱層表示作為AR Decoder Cross-Attention的Key和Value。由于AR Decoder的解碼能力較弱，因此很難自行捕捉目標(biāo)句的依賴關(guān)系。只有當(dāng)其對應(yīng)的NAR隱層表示中的信息足夠充分，AR Decoder才能夠正確地解碼。因此，AR Decoder為NAR模型帶來了新的訓(xùn)練信號，迫使NAR Decoder變得更強(qiáng)，在隱層表示中包含更多的上下文和依賴信息來支持AR Decoder的解碼。在這個過程中，NAR提升了自己的表示能力，從而在實(shí)際解碼時獲得了更好的表現(xiàn)。

圖1:我們的方法示意圖

3.2、訓(xùn)練目標(biāo)

我們的訓(xùn)練目標(biāo)如下式所示

對于NAR部分，我們保持NAR模型的原始訓(xùn)練目標(biāo)不變。如對于CTC模型，我們使用CTC Loss作為NAR的損失函數(shù)。對于AR部分，我們使用交叉熵?fù)p失進(jìn)行訓(xùn)練，并將所有AR Decoder的損失相加。最終的損失函數(shù)是兩部分的加權(quán)和，權(quán)重是超參數(shù)。

3.3、Glancing Training訓(xùn)練策略

Glancing Training是一種有效提升NAR模型性能的訓(xùn)練策略[4]。我們在我們的方法中應(yīng)用了Glancing Training。具體來說，在訓(xùn)練時根據(jù)模型當(dāng)前的解碼質(zhì)量，隨機(jī)采樣參考句中的token作為NAR Decoder的輸入。模型當(dāng)前解碼質(zhì)量越差則采樣越多，反之亦然。然后令A(yù)R Decoder基于NAR隱層表示進(jìn)行解碼。

3.4、降低解碼開銷

我們?yōu)槊繉覰AR Decoder都配置了一個AR Decoder，這可能會帶來較大的訓(xùn)練開銷。為此，我們從模型參數(shù)量和訓(xùn)練時間的角度，提出了兩種降低訓(xùn)練開銷的方案。

Parameter Sharing：令所有的AR Decoder之間共享參數(shù)，降低參數(shù)量；

Layer Dropout：每個訓(xùn)練步隨機(jī)選擇一半數(shù)量的AR Decoder進(jìn)行訓(xùn)練，降低訓(xùn)練時間。

3.5、解碼過程

在解碼時，我們不使用AR Decoder，僅使用NAR模型自身進(jìn)行解碼。因此，我們的方法沒有引入額外的解碼開銷。

04

實(shí)驗(yàn)

我們在機(jī)器翻譯領(lǐng)域目前最廣泛使用的數(shù)據(jù)集上進(jìn)行了實(shí)驗(yàn)：WMT14英德（4.5M語言對）、WMT16英羅（610K語言對）、IWSLT14德英（160K語言對）。我們遵循Gu和Kong[6]的工作中的數(shù)據(jù)預(yù)處理方式，并且使用了BLEU[9]指標(biāo)作為機(jī)器翻譯質(zhì)量評價指標(biāo)。為了緩解數(shù)據(jù)集中多模態(tài)現(xiàn)象導(dǎo)致的訓(xùn)練困難，我們對所有數(shù)據(jù)集使用了知識蒸餾技術(shù)進(jìn)行處理[3]。

4.1、實(shí)驗(yàn)結(jié)果

我們的方法可以對不同類型的NAR模型帶來提升。

我們使用了Vanilla-NAR[3]和CTC[7]作為我們的基線模型，并在基線模型上應(yīng)用我們的方法，實(shí)驗(yàn)結(jié)果如表1所示。可以看到，我們的方法一致且顯著地提高了每個基線模型在每個語言對上的翻譯質(zhì)量。這說明了我們方法的通用性。

表1：對不同的基線模型應(yīng)用我們的方法

與其他的NAR模型相比，我們的方法獲得了更好的結(jié)果。

我們選用CTC模型應(yīng)用我們的方法作為我們的模型，并與其他強(qiáng)大的NAR模型進(jìn)行比較，實(shí)驗(yàn)結(jié)果如表2所示。可以看到，我們的方法顯著提高了翻譯質(zhì)量，并優(yōu)于其他強(qiáng)大的基線模型。此外，當(dāng)應(yīng)用Glancing Training技術(shù)后，我們的方法可以帶來更大程度的提升。

與采取迭代解碼的模型（CMLM）相比，我們的方法僅使用單步解碼，具備更快的解碼速度，并在除了WMT14英德之外的所有語言對上獲得了更好的性能。

Hao等人[8]的工作與我們的工作相關(guān)，都使用了多任務(wù)學(xué)習(xí)框架。我們在CTC模型上復(fù)現(xiàn)了他們的方法（CTC+MTL）。實(shí)驗(yàn)結(jié)果表明我們的方法可以為模型帶來更明顯的提升。

表2：與其他強(qiáng)大的NAR模型比較。代表使用k輪迭代解碼

4.2、實(shí)驗(yàn)分析

較弱的AR Decoder是否有必要？

在我們的方法中，AR Decoder的解碼能力需要足夠弱，由此強(qiáng)迫NAR Decoder變得更強(qiáng)。我們對這一點(diǎn)進(jìn)行了驗(yàn)證。我們使用不同層數(shù)的AR Decoder進(jìn)行實(shí)驗(yàn)（1、3、6層），實(shí)驗(yàn)結(jié)果如圖2所示。每種深度的AR Decoder都可以為NAR模型帶來增益，但是隨著AR Decoder層數(shù)的增加，AR Decoder解碼能力增強(qiáng)，為NAR模型帶來的增益也在逐漸降低。這也驗(yàn)證了我們的動機(jī)：一個較弱的AR Decoder能夠使NAR Decoder包含更多有用的信息。

圖2：不同層數(shù)的AR Decoder為模型帶來了不同程度的增益

關(guān)于訓(xùn)練開銷的消融實(shí)驗(yàn)。

我們在IWSLT14德英數(shù)據(jù)集上評估了我們提出的降低訓(xùn)練開銷策略的效果。如表3所示，在使用了Param Sharing和Layer Dropout兩種策略后，參數(shù)量（83.8M vs 55.3M）和訓(xùn)練時間（31.2h vs 19.4h）均得到了顯著的降低，同時保持模型性能幾乎沒有變化

表3：兩種降低訓(xùn)練開銷策略的效果評估

我們的方法使模型能夠更好地解碼長句。

為了進(jìn)一步分析NAR模型在生成不同長度目標(biāo)端句時的表現(xiàn)差異，我們在WMT14英德數(shù)據(jù)集的測試集上進(jìn)行了實(shí)驗(yàn)，將目標(biāo)端句按照長度分成不同的區(qū)間。如表4所示，隨著句子長度的增加，我們的模型和Transformer之間的差距在逐漸降低。當(dāng)目標(biāo)端句長度大于60時，我們的模型能夠超過Transformer的解碼性能。在解碼更長的句子時，模型需要處理更復(fù)雜的上下文關(guān)聯(lián)。我們推測我們提出的多任務(wù)學(xué)習(xí)方法顯著改善了NAR隱藏狀態(tài)下包含的上下文和依賴信息，因此在長句子翻譯中具有更好的性能。

表4：生成不同長度目標(biāo)端句時的性能差異

我們的方法使模型減少了重復(fù)生成。

由于數(shù)據(jù)集中的多模態(tài)現(xiàn)象，NAR模型會出現(xiàn)重復(fù)生成的翻譯錯誤。表5展示了在應(yīng)用我們的方法前后，NAR模型出現(xiàn)重復(fù)生成現(xiàn)象的比率。可以看到，我們的方法顯著降低了重復(fù)單詞的出現(xiàn)頻率，使NAR模型的生成質(zhì)量更好。值得注意的是，盡管CTC模型本身已經(jīng)能夠產(chǎn)生很少的重復(fù)生成，我們的方法依然可以進(jìn)一步降低重復(fù)生成的比率。

表5：重復(fù)生成的比率

不使用知識蒸餾技術(shù)時的性能表現(xiàn)。

盡管知識蒸餾是一種常用的約減多模態(tài)現(xiàn)象的手段，但它限制了NAR模型在AR教師模型下的性能，同時構(gòu)建教師模型也需要額外的開銷。為了驗(yàn)證我們的方法在原始數(shù)據(jù)場景中的有效性，我們在WMT14和IWSLT14數(shù)據(jù)集上進(jìn)行了實(shí)驗(yàn)。如表6所示，我們的方法可以為基線模型（CTC）帶來非常顯著的提升，進(jìn)一步縮小了與Transformer模型的差距。

表6：不使用知識蒸餾的實(shí)驗(yàn)結(jié)果

我們的方法相對于其他多任務(wù)學(xué)習(xí)方法的優(yōu)勢。

Hao等人[8]的工作也使用了多任務(wù)學(xué)習(xí)框架，但我們的方法能夠?yàn)镹AR模型帶來更顯著的提升。我們認(rèn)為我們的方法在多任務(wù)學(xué)習(xí)模塊（即AR Decoder）的位置和容量上更有優(yōu)勢。

對于AR Decoder的位置，我們認(rèn)為Decoder決定生成過程，因此將AR Decoder部署于NAR Decoder上能夠更直接和顯式地改善NAR的生成過程，而Hao等人的工作是部署于NAR Encoder上的。

對于AR Decoder的容量，我們認(rèn)為AR Decoder應(yīng)盡可能弱，這樣AR Decoder無法自行對目標(biāo)端句進(jìn)行建模，從而迫使NAR Decoder隱層表示包含更多的上下文和依賴信息。而Hao等人的工作使用的標(biāo)準(zhǔn)AR Decoder，對NAR隱層表示的要求更低，因此為NAR帶來的提升更少。

05

總結(jié)

在本文中，我們?yōu)镹AR模型提出了一個多任務(wù)學(xué)習(xí)框架，引入了一系列弱AR解碼器輔助訓(xùn)練NAR模型。隨著弱AR解碼器的訓(xùn)練，NAR隱藏狀態(tài)將包含更多的上下文和依賴信息，從而提高NAR模型的性能。在多個數(shù)據(jù)集上的實(shí)驗(yàn)表明，我們的方法可以顯著且一致地提高翻譯質(zhì)量。當(dāng)使用束搜索解碼時，我們基于CTC的NAR模型在所有基準(zhǔn)測試上都優(yōu)于強(qiáng)大的Transformer，同時不引入額外的解碼開銷。

審核編輯 ：李倩