深度造假寫手。

今年年初，OpenAI開(kāi)發(fā)了一個(gè)“AI造假寫手”，由于被認(rèn)為“太危險(xiǎn)”而無(wú)法完整對(duì)外公開(kāi)。最近，這款A(yù)I模型發(fā)布了更全新，更強(qiáng)大的版本。據(jù)媒體所言，現(xiàn)在，它真的可以自如地寫假新聞或者垃圾郵件了。

這款A(yù)I的模型叫做GPT-2，它的內(nèi)部包含了15億個(gè)參數(shù)，是在800萬(wàn)個(gè)網(wǎng)頁(yè)數(shù)據(jù)集上訓(xùn)練而成的。而制作它的主要目的，是用以接替自己的第一代，執(zhí)行語(yǔ)言建模的任務(wù)。

簡(jiǎn)單來(lái)說(shuō)，它的功能就是根據(jù)人類給出的一句話，編寫接下來(lái)的文本，同時(shí)在此基礎(chǔ)上，對(duì)整個(gè)文章細(xì)節(jié)進(jìn)行補(bǔ)充。

在模型公布新版本后，一些感興趣的AI專家對(duì)其進(jìn)行了測(cè)試。他們?cè)囍岩粭l真新聞的內(nèi)容放進(jìn)了模型中，這條內(nèi)容為：

“

搜狗正在打造AI語(yǔ)音仿人版，以后讀者可以聽(tīng)到作者朗讀的有聲小說(shuō)。

”

AI寫手接收到該信息之后，便編寫了如下文字：

“

根據(jù)研究人員表示，這種閱讀方式的創(chuàng)意來(lái)源于Kindle用戶。同時(shí)，一部分安卓用戶也表達(dá)了同樣的需求。以下有三個(gè)原因可以解答為何他們需要這項(xiàng)服務(wù)。首先，使用這些設(shè)備的用戶，和傳統(tǒng)的電腦上閱讀者的習(xí)慣不同……未來(lái)，當(dāng)讀者使用該功能時(shí)，可能會(huì)真的以為作者們?cè)跒樗麄兝首x小說(shuō)。

”

BBC當(dāng)時(shí)報(bào)道的真新聞從AI續(xù)寫的內(nèi)容中，可以看出它具備有很強(qiáng)的邏輯能力，能找到輔助資料對(duì)新聞進(jìn)行補(bǔ)充，整個(gè)短訊也足夠完整。一家科技網(wǎng)站的作者對(duì)此結(jié)果感到害怕，他認(rèn)為這項(xiàng)技術(shù)代表著壞人可以操縱他人，在他看來(lái)，這甚至比任何槍支還要危險(xiǎn)。

其實(shí)早在年初之時(shí)，就已經(jīng)有許多人對(duì)GPT-2表示了擔(dān)憂。在這個(gè)原本就信息爆炸，人們?cè)絹?lái)越難分清信息真假的年代，GPT-2可以毫無(wú)違和的融入進(jìn)去。如果它真的能獨(dú)立、完整地書(shū)寫各類新聞，由誰(shuí)使用它就變得尤為重要。

如果使用者居心不良，它可以發(fā)表極端言論，偽造內(nèi)容，成為引導(dǎo)輿論的政治工具。OpenAI也意識(shí)到了這個(gè)問(wèn)題，因此他們一直沒(méi)有公開(kāi)完整的預(yù)訓(xùn)練模型，都是放出小版本的模型供以測(cè)試。

謝菲爾德大學(xué)的計(jì)算機(jī)教授諾埃爾卻表示，人類可能沒(méi)必要感到恐慌。在對(duì)模型進(jìn)行了多次的測(cè)驗(yàn)，輸入了很多次文字開(kāi)頭后，他發(fā)現(xiàn)AI寫手還是犯下了許多錯(cuò)誤，好比不連貫和奇怪的字句，以及和輸入標(biāo)題毫無(wú)關(guān)系的內(nèi)容填充。

“

我輸入了‘火雞討厭圣誕節(jié)’，但是得到的答案是：火雞是世界上唯一一個(gè)不慶祝圣誕節(jié)的國(guó)家。當(dāng)然，附帶上了一些不相關(guān)的句子。

”

圖源：fxtradingrevolution人工智能咨詢公司的創(chuàng)始人戴夫，也對(duì)這個(gè)模型進(jìn)行了測(cè)試，他輸入的是一個(gè)經(jīng)典英國(guó)笑話的開(kāi)頭：一個(gè)男人走進(jìn)了酒吧。

結(jié)果，GPT-2續(xù)寫的內(nèi)容是：

“

他點(diǎn)了2品脫啤酒和2杯蘇格蘭威士忌。當(dāng)他想要結(jié)賬的時(shí)候，他遇到了2個(gè)人，其中一個(gè)大喊著說(shuō)：‘這杯是給敘利亞的！’這名男子說(shuō)完后，喉嚨就被人刺傷，血涌不止。

”

在戴夫看來(lái)，這個(gè)故事看似荒謬，實(shí)際上卻說(shuō)明了模型的部分訓(xùn)練數(shù)據(jù)，就是來(lái)自于互聯(lián)網(wǎng)新聞報(bào)道。它呈現(xiàn)出來(lái)的偏見(jiàn)，就是現(xiàn)當(dāng)下社會(huì)新聞所暴露出來(lái)的問(wèn)題。如果AI寫手持續(xù)以此作為訓(xùn)練，模型編寫的內(nèi)容可能會(huì)引起更多的爭(zhēng)議。盡管有所擔(dān)憂，戴夫相信這些問(wèn)題都會(huì)被解決。

而他認(rèn)為，一旦大家對(duì)GPT-2的擔(dān)憂被消除后，人們可能會(huì)面對(duì)一個(gè)更重要的探討：人工和機(jī)器制造內(nèi)容越來(lái)越難以區(qū)分之時(shí)，我們究竟應(yīng)該如何正確看待這個(gè)世界。