經過一個周末的發酵，一夜爆紅的換臉APP“ZAO”已經被推到了輿論的風口浪尖，在娛樂的同時，涉及的技術問題、隱私問題、安全問題備受關注。現在我們冷靜下來再審視這個ZAO。

周末你ZAO了嗎？

8月30日晚間，一個名為“ZAO”的APP一夜爆紅，有的人嘗鮮樂此不疲、有的人則對其中涉及到的隱私問題憂心忡忡。到了第二天，這個APP已經被推到了輿論的風口浪尖。 目前，ZAO的微信分享鏈接顯示已停止訪問，頁面顯示“網頁存在安全風險，被多人投訴，為維護綠色上網環境，已停止訪問”。

經過一個周末的發酵，我們現在冷靜下來再審視這個ZAO。

ZAO是做什么的？

“僅需一張照片，出演天下好戲”，正如這句廣告語，ZAO其實是一個換臉APP。用戶只需上傳一張面部照片，再選一個自己喜歡的影片片段和角色，就可以把這些角色的面孔換成自己的模樣，簡直是不費吹灰之力過了一把“明星”癮。

因此，ZAO瞬間走紅的原因不外乎兩個：第一，使用門檻低；第二，可以滿足大家的“明星夢”。 從一夜爆紅到幾乎全民聲討，ZAO的用戶協議“細思極恐”

從一夜爆紅到幾乎全民聲討，ZAO到底做錯了什么？其實，最主要的原因就是“隱私”二字。

知乎的一則相關提問：“如何看待 AI 換臉軟件「ZAO」的爆火？”已經被瀏覽了576萬次，引發網友熱烈討論。

知乎網友“法山叔”看了ZAO的用戶協議后得出了兩個結論：

1、“ZAO”app涉嫌過度攫取用戶授權，讓你在無形中將自己的肖像權拱手讓人，以后你的臉將完全有可能被別人隨意使用，變換；

2、zao并未獲得換臉明星們的肖像權授權，你變臉涉嫌侵權，但當明星認為自己的權利受到侵害時，“ZAO”app將完全有可能將法律的鍋全部甩給你，讓你自己承擔侵權苦果。

“法山叔”為我們解讀了用戶協議中“細思極恐”的地方：

用戶協議第6條第1款規定：“在您上傳及/或發布用戶內容以前，您同意或者確保實際權利人同意授予zao及其關聯公司以及zao用戶全球范圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限于可以對用戶內容進行全部或部分的修改與編輯...”以及對修改前后的用戶內容進行信息網絡傳播以及著作權人享有的全部著作財產權利及鄰接權利。"

這是什么意思呢？你在正式使用該app以前，是要上傳自己肖像的，不僅靜態，還有動態，而當你選擇使用這個app以后，根據協議內容，該app除了可免費使用并修改你的肖像，還可以將它任意授權給自己想授權的第三方，當做信息進行販賣。所以當有一天，你在zao或者其它關聯平臺上發現你的臉被隨意變換、不再屬于自己的時候，你想起訴zao，不好意思，它會拿出這個協議來堵你的嘴，告訴你你自己早已同意。

“法山叔”還為我們解讀了關于侵權的規定：

第6條第2款明確規定：“如果您把用戶內容中的人臉換成您或其他人的臉，您同意或確保肖像權利人同意授予‘zao’及其關聯公司全球范圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利?！?/p>

這是什么意思呢，比如現在你將楊冪的臉換成自己的臉，你除了要保證自己永久、不可撤銷地把自己的肖像免費給zao使用，還要保證楊冪同意zao及關聯公司使用她的肖像...但你又不是楊冪，你怎么能確保？這不搞笑嗎。而他這么做，說白了，就是因為自己沒錢拿到明星們的授權，日后侵權，他們可以將鍋甩給你們。

而在此情形下，協議第七條第7款規定：若您侵害他人名譽權、肖像權、知識產權等合法權利的...zao可以訴諸行政執法機構或司法機關，追究相應法律責任。若因您違反本協議或zao平臺的其他規則導致任何第三方損害的，您應當獨立承擔法律責任并承擔損害賠償責任；zao及其關聯公司遭受損失的，您也應當一并賠償。

意思即，如果楊冪狀告zao，主張自己的肖像權被zao平臺濫用，那zao完全可能說這不怪我，技術無罪，要怪就怪這些換你臉的用戶，并且，即使zao承擔了平臺責任，其也完全可以起訴具體用戶進行追償?？偟膩碚f，他們把自己的屁股擦得非常干凈，將侵權的苦果全部甩給了用戶。

“法山叔”還提醒道：現在人臉支付，手機人臉解鎖正逐漸普及，如果它擁有你的動態肖像權，那背后可能出現的問題豈不是更令人不堪設想。

新智元經授權引用“法山叔”的知乎回答，原回答鏈接：
鏈接：https://www.zhihu.com/question/343647357/answer/808994379
這又引發了一個新問題，現在的人臉支付、手機人臉解鎖會因為ZAO的出現而有安全風險嗎？玩這個軟件會不會導致自己的支付寶刷臉被冒充？

根據“支付寶”的回應：不會的。因為“支付寶「刷臉支付」采用的是3D人臉識別技術：在進行人臉識別前，會通過軟硬件結合的方式進行檢測，來判斷采集到的人臉是否是照片、視頻或者軟件模擬生成的，能有效地避免各種人臉偽造帶來的身份冒用情況?！倍?，支付寶表示：即便出現賬戶被冒用的極小概率事件，資金損失也會通過保險公司進行全額賠付。

“換臉”不新鮮，Deepfakes技術詳解

雖然ZAO沒有公布使用的具體技術，但其實，AI換臉并不是非常新鮮的技術了。前一陣子便有朱茵變楊冪，海王變徐錦江的相關報道。

《射雕英雄傳》中，朱茵變楊冪

海王變徐錦江

這些技術的背后，是2017年年底的Deepfakes軟件帶來的結果。當時Reddit用戶Deepfakes，將《神奇女俠》的女主角蓋爾·加朵、以及艾瑪沃森、斯嘉麗等眾多女明星的臉跟AV***進行了交換，制作出足以以假亂真的愛情動作片。

接下來我們來了解下Deepfakes的技術內容：

Deepfakes 使用生成對抗網絡(GAN)，其中兩個機器學習模型進行了較量。一個ML模型在數據集上進行訓練，然后創建偽造的視頻，而另一個模型嘗試檢測偽造。偽造者創建假視頻，直到另一個ML模型無法檢測到偽造。訓練數據集越大，偽造者越容易創建可信的deepfake視頻。

上圖顯示了一個圖像(在本例中是一張臉)被輸入到編碼器(encoder)中。其結果是同一張臉的低維表示，有時被稱為latent face。根據網絡架構的不同，latent face可能根本不像人臉。當通過解碼器(decoder)時，latent face被重建。自動編碼器是有損的，因此重建的臉不太可能有原來的細節水平。

程序員可以完全控制網絡的形狀：有多少層，每層有多少節點，以及它們如何連接。網絡的真實知識存儲在連接節點的邊緣。每條邊都有一個權重，找到使自動編碼器能夠像描述的那樣工作的正確權重集是一個耗時的過程。

訓練神經網絡意味著優化其權重以達到特定的目標。在傳統的自動編碼器的情況下，網絡的性能取決于它如何根據其潛在空間的表示重建原始圖像。

訓練Deepfakes

需要注意的是，如果我們單獨訓練兩個自動編碼器，它們將互不兼容。latent faces基于每個網絡在其訓練過程中認為有意義的特定特征。但是如果將兩個自動編碼器分別在不同的人臉上訓練，它們的潛在空間將代表不同的特征。

使人臉交換技術成為可能的是找到一種方法來強制將兩個潛在的人臉在相同的特征上編碼。Deepfakes通過讓兩個網絡共享相同的編碼器，然后使用兩個不同的解碼器來解決這個問題。

在訓練階段，這兩個網絡需要分開處理。解碼器A僅用A的人臉來訓練；解碼器B只用B的人臉來訓練，但是所有的latent face都是由同一個編碼器產生的。這意味著編碼器本身必須識別兩個人臉中的共同特征。因為所有的人臉都具有相似的結構，所以編碼器學習“人臉”本身的概念是合理的。

生成Deepfakes

當訓練過程完成后，我們可以將A生成的一個latent face傳遞給解碼器B。如下圖所示，解碼器B將嘗試從與A相關的信息中重構B。

如果網絡已經很好地概括了人臉的構成，那么潛在空間將表示面部表情和方向。這意味著可以為B生成與A的表情和方向相同的人臉。

請看下面的動圖。左邊，UI藝術家Anisa Sanusi的臉被從一個視頻中提取并對齊。右邊，一個訓練好的神經網絡正在重建游戲設計師Henry Hoffman的臉，以匹配Anisa的表情。

顯然，Deepfakes背后的技術并不受人臉的限制。例如，它可以用來把蘋果變成獼猴桃。

重要的是，訓練中使用的兩個主體要有盡可能多的相似之處。這是為了確保共享編碼器能夠泛化易于傳輸的有意義的特性。雖然這項技術對人臉和水果都有效，但不太可能將人臉變成水果。

你還敢“ZAO”嗎？

ZAO不僅國內火爆，國外用戶也紛紛被這一APP驚艷到了，不少人也分享出自己用ZAO做的“好萊塢大片”。

比如這個在Twitter上已經播放了50多萬次的視頻，就是一位印度游戲開發工程師用ZAO做出的《泰坦尼克號》，視頻中，他化身Jack，融入到一幕幕經典場景中。

在評論中，外國網友也熱議這個APP。

“太瘋狂了...從現在開始，這個世界再也不知道什么是真的了”

“嘿伙計們，來玩有趣的新AI學習算法，絕對不會用來訓練面部識別軟件帶來可怕的安全問題并奴役我們所有人！”

“說實話，每個允許用戶發布自拍的平臺都可以做到。問題是人們永遠不會停止發布自拍?！?/p>

“deepfake的演變是不可思議的。該技術僅用了3年時間，現在它已經用于公共應用程序中?！? 對于ZAO，你怎么看？