俗話說“耳聽為虛，眼見為實(shí)”，如今在人工智能技術(shù)的影響下，“眼見”也不一定為實(shí)。在近日熱播的英劇《真相捕捉（The Capture）》中，視頻里的人都可以被換臉，即使是實(shí)時(shí)的監(jiān)控錄像也能被篡改，只要擁有一個(gè)人的聲音或面部圖像數(shù)據(jù)，就可以制造假視頻作為假證據(jù)。雖然故事是虛擬的，但細(xì)思極恐，人工智能技術(shù)的突飛猛進(jìn)的當(dāng)下，我們必須警惕伴隨AI 技術(shù)發(fā)展而產(chǎn)生的AI技術(shù)被濫用的問題。

事實(shí)上，《真相捕捉》里的場(chǎng)景從技術(shù)角度看并非遙不可及，此前DeepFake事件已經(jīng)給了人們一次提醒微軟總裁Brad Smith 也在其新書《工具，還是武器？》中呼吁大家直面這些人類科技最緊迫的爭(zhēng)議性問題。微軟亞洲研究院計(jì)算機(jī)視覺組一直試圖從技術(shù)角度去鑒別人臉圖像、視頻的真假，F(xiàn)aceX-Ray 便是微軟亞洲研究院在這一領(lǐng)域的最新突破。該技術(shù)的相關(guān)論文已被CVPR 2020收錄。

Face X-Ray：可解釋、且可信賴

Face X-Ray，顧名思義就是要給人臉圖像、視頻做“X 光檢測(cè)”。微軟亞洲研究院常務(wù)副院長(zhǎng)郭百寧表示，“X-Ray 最大的突破在于：無論換臉圖像是采用已知還是未知的換臉算法，它都可以有較高的識(shí)別率，平均達(dá)到95%以上；而且還能告訴你為什么，這個(gè)方法在某種程度上解決了 AI 模型的傳統(tǒng)‘黑盒’問題，可解釋、且可信賴。”

傳統(tǒng)的 AI 換臉一般分三步走：（1）檢測(cè)目標(biāo)圖像的面部區(qū)域；（2）利用 AI 換臉?biāo)惴ㄉ尚碌拿娌考耙徊糠种車鷧^(qū)域；（3）將生成的新面部融合到原圖像中，替換原圖像中的面部。

此前的換臉鑒別方法主要從第二步入手，通過基于數(shù)據(jù)集的有監(jiān)督訓(xùn)練學(xué)習(xí)大量換臉圖像，檢測(cè)換臉過程中產(chǎn)生的瑕疵，判斷真?zhèn)巍５?，不同的換臉?biāo)惴ê铣蓵r(shí)的瑕疵各不相同，因此針對(duì)一種換臉?biāo)惴ㄟM(jìn)行訓(xùn)練后，應(yīng)用于另外一種算法上時(shí)準(zhǔn)確率明顯下降，這就是已有換臉鑒別算法不具通用性的原因。

對(duì)此，微軟亞洲研究院視覺計(jì)算組的研究員另辟蹊徑，在FaceX-Ray中通過一種全新的方式去判斷一張人臉圖像是否被更換過。Face X-Ray不需要事先知道操作方法或人工監(jiān)督，而是從第三步入手，通過生成灰度圖像，顯示該圖像是否可以分解為來自不同來源的兩個(gè)圖像的混合，從而檢測(cè)出換臉的邊界，就像照 X 光一樣，讓這個(gè)邊界清晰可見（如下圖所示）。

算法預(yù)測(cè)出的融合邊界。BI 表示人工合成人臉。DF、F2F、FS、NT 分別表示 DeepFakes、Face2Face、FaceSwap、NeuralTextures 算法生成的人臉。

除此之外，由于 Face X-Ray 不是通過“學(xué)習(xí)”大量換臉圖像去提高識(shí)別率的，訓(xùn)練數(shù)據(jù)也不依賴特定的換臉技術(shù)所生成的圖像，而是直接采用普通的人臉照片進(jìn)行訓(xùn)練，而且它還能標(biāo)出換臉的邊界在哪里，不再像以往的算法那樣，是個(gè)只顯示識(shí)別結(jié)果，卻無法說出為什么的“黑盒”。

（a）行是真實(shí)圖像，（b）行是合成圖像，中間一列為噪聲分析，右側(cè)一列是誤差水平分析

對(duì)未知換臉?biāo)惴ǎ瑱z測(cè)精度高達(dá)95%以上

Face X-Ray 算法依然基于 FaceForensics 數(shù)據(jù)集進(jìn)行了測(cè)試，但采用了與之前的換臉鑒別算法不同的方式。但與此前的換臉鑒別算法采用數(shù)據(jù)集中的四種換臉?biāo)惴ㄉ傻娜四槇D像進(jìn)行訓(xùn)練不同的是，F(xiàn)ace X-Ray 只在其中一種算法（例如 DeepFakes）合成的圖像上訓(xùn)練，然后再在另外三種數(shù)據(jù)上測(cè)試，測(cè)試結(jié)果都可以達(dá)到95%以上的識(shí)別率。這在“通用”換臉鑒別算法中，無疑是一大創(chuàng)新突破。

測(cè)試結(jié)果表明，F(xiàn)ace X-Ray 的識(shí)別率均達(dá)到95%以上

包括換臉在內(nèi)的安全問題，將是一場(chǎng)長(zhǎng)期的戰(zhàn)斗

《工具，還是武器？》一書說到，即使是最好的科技，也可能帶來意想不到的后果；人類需要認(rèn)真觀察后視鏡，以便能夠利用過去的經(jīng)驗(yàn)，去預(yù)測(cè)轉(zhuǎn)彎之處的問題。書中還強(qiáng)調(diào)，人工智能的道德問題將不可避免地從一般性討論轉(zhuǎn)變?yōu)榫唧w議題。而現(xiàn)階段，換臉圖像便是具體議題之一，與此同時(shí)，文字、語音、視頻的虛構(gòu)、嫁接問題也會(huì)接踵而至。

從技術(shù)上看，文字、聲音屬于一維信號(hào)，圖像屬于二維信號(hào)，視頻則是三維信號(hào)，維度越高，識(shí)別難度就越大，因此圖像的鑒別是一個(gè)攻堅(jiān)課題，如果它有所突破，便意味著鑒別技術(shù)的整體進(jìn)步。Face X-Ray 的通用性和可解釋性的提升，也讓換臉圖像的鑒別距離真正的應(yīng)用越來越近。

郭百寧表示，在研究換臉圖像/視頻鑒別的同時(shí)，微軟亞洲研究院也在研究真假語音的鑒別。對(duì)微軟亞洲研究院來說，這只是一個(gè)開始。本質(zhì)上這些都屬于安全問題，就像 PC、互聯(lián)網(wǎng)時(shí)代的病毒和殺毒軟件一樣，實(shí)際上是一場(chǎng)貓與鼠之間的較量，而這也將是計(jì)算機(jī)科學(xué)領(lǐng)域科研人員的一場(chǎng)長(zhǎng)期戰(zhàn)斗！