1 簡(jiǎn)介?????????

有的工作嘗試引出中間推理步驟，通過(guò)將復(fù)雜問(wèn)題顯示分解為多個(gè)子問(wèn)題，從而以分而治之的方式來(lái)解決?？紤]到組合泛化對(duì)于語(yǔ)言模型有一定的挑戰(zhàn)，這種遞歸方法的對(duì)于復(fù)雜任務(wù)特定有用。根據(jù)解決子問(wèn)題的方式可以分為串行跟并行兩種，串行的方式每個(gè)子問(wèn)題相互依賴，前面子問(wèn)題的答案會(huì)加入到后續(xù)子問(wèn)題的prompt中，生成后續(xù)子問(wèn)題的答案，而并行的方式則各個(gè)子問(wèn)題的答案生成是獨(dú)立的，最后再將多個(gè)子問(wèn)題的答案融合到一起。

2 并行式??????????

DECOMPRC

在閱讀理解場(chǎng)景下，多跳閱讀理解要求從眾多段落中進(jìn)行推理跟歸納。于是出現(xiàn)了新的方案DECOMPRC，將多跳閱讀理解問(wèn)題分解成多個(gè)相對(duì)簡(jiǎn)單的子問(wèn)題（現(xiàn)有閱讀理解模型可以回復(fù)），從而提高閱讀理解準(zhǔn)確性。

圖1:?DECOMPRC示例

整個(gè)方案分為三個(gè)部分

a)?將原始的多跳閱讀理解問(wèn)題分解為多個(gè)單跳子問(wèn)題?？梢愿鶕?jù)多個(gè)不同的推理類型得到多種分解方式，這里需要根據(jù)不同推理類型分別訓(xùn)練多個(gè)用于問(wèn)題分解的模型，對(duì)于每個(gè)分解模型，采用Point的方式，利用BERT對(duì)原問(wèn)題進(jìn)行預(yù)測(cè)，得到幾個(gè)關(guān)鍵位置，利用關(guān)鍵位置原文本進(jìn)行劃分，再加上一些規(guī)則手段，就可以得到對(duì)應(yīng)的子問(wèn)題了。例如預(yù)測(cè)出一個(gè)中間位置，就可以將原問(wèn)題分割成兩部分，第一部分作為第一個(gè)子問(wèn)題，第二部分作為第二個(gè)子問(wèn)題，考慮到第二部分可能都是陳述句，就將前面的詞轉(zhuǎn)換成which。這里將分解模型簡(jiǎn)化為一個(gè)span prediction問(wèn)題，只需要400個(gè)訓(xùn)練數(shù)據(jù)就得到很不錯(cuò)的效果了。

b)?在第一步會(huì)產(chǎn)生多種問(wèn)題分解方式，對(duì)于每一種分解方式，利用單跳閱讀理解模型回復(fù)每個(gè)子問(wèn)題，然后根據(jù)不同分分解類型的特性得到最終的答案。

c)?對(duì)于每一種分解方式，將原問(wèn)題，分解類型，該分解方式下的問(wèn)題跟對(duì)應(yīng)答案一同作為模型輸入，預(yù)測(cè)哪種分解方式對(duì)應(yīng)的結(jié)果最合理，將該分解方式下的答案作為多跳閱讀理解問(wèn)題的答案。

整個(gè)流程可以簡(jiǎn)單理解為，系統(tǒng)提供了幾種將多跳問(wèn)題分解為子問(wèn)題的方式，分別計(jì)算每個(gè)分解方式的合理性，再選擇其中最優(yōu)的分解方式對(duì)應(yīng)的答案作為原問(wèn)題最終答案。

QA

在QA場(chǎng)景下，通過(guò)將復(fù)雜問(wèn)題分解為相對(duì)簡(jiǎn)單的子問(wèn)題（QA模型可以回復(fù)），從而提高問(wèn)答的效果。具體到多跳QA問(wèn)題上，現(xiàn)將復(fù)雜問(wèn)題分解為多個(gè)子問(wèn)題，利用單跳QA模型生成全部子問(wèn)題的答案并融合到一起作為復(fù)雜問(wèn)題的答案。

圖2: QA場(chǎng)景下的recursive prompting方案示例?

整個(gè)系統(tǒng)分為三個(gè)部分

a)?無(wú)監(jiān)督問(wèn)題分解，將原問(wèn)題分解為多個(gè)相對(duì)簡(jiǎn)單的子問(wèn)題。這里需要訓(xùn)練一個(gè)分解模型，用于將復(fù)雜問(wèn)題分解成多個(gè)子問(wèn)題。由于這個(gè)任務(wù)下的監(jiān)督訓(xùn)練數(shù)據(jù)構(gòu)造成本高昂，于是提出了一種無(wú)監(jiān)督的訓(xùn)練數(shù)據(jù)構(gòu)造方式，對(duì)于每一個(gè)復(fù)雜問(wèn)題q，從語(yǔ)料集Q中檢索召回得到N個(gè)對(duì)應(yīng)的簡(jiǎn)單問(wèn)題s作為q的子問(wèn)題，N的取值可以依賴于具體任務(wù)或者具體問(wèn)題。我們希望這些簡(jiǎn)單問(wèn)題在某些方面跟q足夠相似，同時(shí)這些簡(jiǎn)單問(wèn)題s之間有明顯差異。從而構(gòu)造出復(fù)雜問(wèn)題跟子問(wèn)題序列之間的偽pair對(duì)（q, [s1,…sN]）,用于訓(xùn)練分解模型。

b)?生成子問(wèn)題回復(fù)，利用現(xiàn)有的QA模型，去生成各個(gè)子問(wèn)題的回復(fù)。這里不對(duì)QA模型有太多限制，只要它能正確回復(fù)語(yǔ)料庫(kù)S中的簡(jiǎn)單問(wèn)題即可，所以盡量采用在S中效果優(yōu)異的QA模型。

c)?生成復(fù)雜問(wèn)題回復(fù)，將復(fù)雜問(wèn)題，各個(gè)子問(wèn)題跟對(duì)應(yīng)回復(fù)一同作為QA模型的輸入，生成復(fù)雜問(wèn)題的回復(fù)。這里的QA模型可以采用跟第二步一樣的模型，只要將輸入做對(duì)應(yīng)調(diào)整即可。

圖3: QA場(chǎng)景下的recursive prompting方案示例

圖4: 實(shí)驗(yàn)結(jié)果對(duì)比

從實(shí)驗(yàn)效果上可以明顯看出這些問(wèn)題分解的方式能夠顯著提升模型效果。

串行式

SEQZERO

如何利用大規(guī)模語(yǔ)言模型將自然語(yǔ)言問(wèn)題轉(zhuǎn)化為SQL語(yǔ)句？SEQZERO就是一種解法。由于SQL這種規(guī)范語(yǔ)言的復(fù)合結(jié)構(gòu)，SQL語(yǔ)句很多情況下會(huì)顯得復(fù)雜且冗長(zhǎng)，要讓語(yǔ)言模型學(xué)會(huì)生草本跟SQL語(yǔ)言需要大量訓(xùn)練數(shù)據(jù)，于是出現(xiàn)了一種基于few-shot的方法SEQZERO。

一個(gè)SQL語(yǔ)句包括多個(gè)部分，例如From **，SELCT **， WHERE **，只要能從自然語(yǔ)言問(wèn)題中提出這幾個(gè)部分對(duì)應(yīng)的元素，然后通過(guò)規(guī)則可以轉(zhuǎn)化為對(duì)應(yīng)的SQL語(yǔ)句。于是SEQZERO的做法就是先利用語(yǔ)言模型預(yù)測(cè)得到其中一個(gè)元素，將該元素加入到原問(wèn)題中生成下個(gè)元素，重復(fù)此操作直到生成全部元素，然后通過(guò)規(guī)則將所有結(jié)果組合起來(lái)的就得到對(duì)應(yīng)的SQL語(yǔ)句。在預(yù)測(cè)每個(gè)元素的過(guò)程中，為了得到更加強(qiáng)大的泛化能力，采用了few-shot跟zero-shot的集成策略。

圖5: SEQZERO示例

Least-to-most

雖然chain-of-thought prompting在很多自然語(yǔ)言推理任務(wù)有顯著效果，但是當(dāng)問(wèn)題比prompt里的示例更難時(shí)，它的表現(xiàn)會(huì)很糟糕。舉個(gè)例子，比如任務(wù)抽取文本每個(gè)單詞最后一個(gè)字母，prompt的示例輸入是3個(gè)單詞，輸入相對(duì)較短，但是問(wèn)題的長(zhǎng)度卻是10個(gè)單詞，這種情況下chain-of-thought prompting的策略就會(huì)失效。于是提出了Least-to-most，通過(guò)兩階段的prompting來(lái)解決這種問(wèn)題，第一階段通過(guò)prompting將原問(wèn)題分解為一系列子問(wèn)題，第二階段則是通過(guò)prompting依次解決子問(wèn)題，前面子問(wèn)題的問(wèn)題跟答案會(huì)加入到候選子問(wèn)題的模型輸入中去，方便語(yǔ)言模型更好地回復(fù)候選子問(wèn)題。由于這兩個(gè)階段任務(wù)有所區(qū)別，對(duì)應(yīng)的prompt內(nèi)容也不同。

圖6: Least-to-most示例

4 其他

Successive prompting

前面幾種方法都是一開始就將問(wèn)題分解為多個(gè)子問(wèn)題，然后在通過(guò)串行或者并行的方式回復(fù)所有子問(wèn)題，而successive prompting則是每次分解出一個(gè)子問(wèn)題，讓語(yǔ)言模型去回復(fù)該子問(wèn)題，再將該子問(wèn)題以及對(duì)應(yīng)答案加入到模型輸入種，進(jìn)而分解出下一個(gè)子問(wèn)題，重復(fù)這個(gè)過(guò)程直到?jīng)]有新的子問(wèn)題生成，那么最后一個(gè)子問(wèn)題的答案就是原問(wèn)題的答案。

圖7: successive prompting示例

5 總結(jié)???????????????

Recursive prompting這種思路其實(shí)蠻好理解的，目前大規(guī)模語(yǔ)言模型處理這些簡(jiǎn)單任務(wù)效果是很不錯(cuò)的，但是復(fù)雜問(wèn)題就比較糟糕了，一方面構(gòu)造這些復(fù)雜問(wèn)題相關(guān)數(shù)據(jù)的工作很艱巨，另一方面直接讓語(yǔ)言模型在這些復(fù)雜問(wèn)題數(shù)據(jù)上訓(xùn)練效果也很一般（想想為什么有些數(shù)據(jù)集上sota指標(biāo)也很低）。但是讓語(yǔ)言模型學(xué)會(huì)根據(jù)具體問(wèn)題進(jìn)行拆解，通過(guò)將復(fù)雜問(wèn)題分解為相對(duì)簡(jiǎn)單的子問(wèn)題，采用分而治之的方式，再將子問(wèn)題答案匯總，不就得到原問(wèn)題的答案了嘛。這也跟我們?nèi)祟惖男袨槟Ｊ礁咏咏?，?duì)于復(fù)雜任務(wù)，我們會(huì)通過(guò)合理規(guī)劃將其劃分為具體多個(gè)子任務(wù)，然后再去一一解決這些子任務(wù)。想想中華民族偉大復(fù)興的道路，不也是通過(guò)一個(gè)又一個(gè)的五年計(jì)劃逐步向前推進(jìn)的嘛。

編輯：黃飛