所謂“深度造假”技術(shù)，是一種利用AI將現(xiàn)有圖像、音頻或視頻中的人物替換成他人的技術(shù)。一些經(jīng)過(guò)操縱的圖像、視頻和音頻等“深度造假”內(nèi)容，曾經(jīng)需要專業(yè)人士才能完成，但在生成式AI的加持下，現(xiàn)在很多人都能更容易地創(chuàng)建出來(lái)。

生成式人工智能（AI）橫空出世，可能給人類帶來(lái)巨大的影響。美國(guó)高盛集團(tuán)今年早些時(shí)候警告稱，超過(guò)3億個(gè)全職工作崗位可能會(huì)受到波及。美國(guó)國(guó)會(huì)研究服務(wù)局5月發(fā)布的一份報(bào)告指出，AI的最新創(chuàng)新也提出了新的版權(quán)問(wèn)題，即如何界定AI創(chuàng)建或使用的內(nèi)容屬于侵權(quán)還是合理使用等。

美國(guó)《福布斯》網(wǎng)站在6月9日的報(bào)道中指出，另一個(gè)令人擔(dān)憂的問(wèn)題已經(jīng)浮出水面：生成式AI能被用于社交媒體上的虛假信息活動(dòng)。虛假信息活動(dòng)指蓄意制造和傳播帶有政治目的的謊言，這與一個(gè)人犯錯(cuò)誤或說(shuō)謊不同。虛假信息活動(dòng)可使用各種策略，還可利用各種新技術(shù)、新媒體以及傳統(tǒng)媒體來(lái)擴(kuò)大分歧和煽動(dòng)動(dòng)亂。

美國(guó)塔爾薩大學(xué)網(wǎng)絡(luò)安全教授約翰·希爾表示，眾所周知，臉書(shū)、推特、TikTok等平臺(tái)現(xiàn)在是信息戰(zhàn)的前線，生成式AI“染指”這一領(lǐng)域既造成了新的危險(xiǎn)，也放大了現(xiàn)有的危險(xiǎn)。

“深度造假”：假作真時(shí)真亦假

2017年，當(dāng)名為“深度造假”（Deepfake）的用戶在互聯(lián)網(wǎng)上首次發(fā)布合成視頻時(shí)，也許不曾想到，他已經(jīng)打開(kāi)了“潘多拉魔盒”。隨著“深度造假”技術(shù)在缺少監(jiān)管的狀態(tài)下野蠻生長(zhǎng)，已逐漸危害經(jīng)濟(jì)和社會(huì)的穩(wěn)定。

所謂“深度造假”技術(shù)，是一種利用AI將現(xiàn)有圖像、音頻或視頻中的人物替換成他人的技術(shù)。一些經(jīng)過(guò)操縱的圖像、視頻和音頻等“深度造假”內(nèi)容，曾經(jīng)需要專業(yè)人士才能完成，但在生成式AI的加持下，現(xiàn)在很多人都能更容易地創(chuàng)建出來(lái)。

希爾指出，“深度造假”使別有用心之人可竊取或盜用他人的聲音，將其嵌入圖像或視頻中，或者以無(wú)法檢測(cè)的方式操縱或更改數(shù)字內(nèi)容。這一切才剛剛開(kāi)始，隨著技術(shù)的不斷進(jìn)步，“深度造假”技術(shù)制作的內(nèi)容與真實(shí)事物之間的差距會(huì)越來(lái)越小。而且，隨著制作出“深度造假”內(nèi)容變得越來(lái)越簡(jiǎn)單，社交媒體會(huì)隨時(shí)向大眾傳播此類內(nèi)容。

希爾強(qiáng)調(diào)稱，隨著這些“深度造假”內(nèi)容在社交媒體平臺(tái)上不受限制、不受管理地傳播，將導(dǎo)致一場(chǎng)虛假信息運(yùn)動(dòng)，以影響、說(shuō)服和誤導(dǎo)他人或特定受眾。隨著相關(guān)技術(shù)的不斷發(fā)展，未來(lái)可能會(huì)發(fā)生什么令人非常擔(dān)憂。

侵蝕對(duì)政治選舉的信任

《福布斯》雜志指出，生成式AI再加上“深度造假”，可能會(huì)給2024年美國(guó)總統(tǒng)選舉帶來(lái)真正可怕的后果。

美國(guó)公共廣播服務(wù)網(wǎng)站在5月份的報(bào)道中指出，生成式AI不僅可快速生成有針對(duì)性的競(jìng)選電子郵件、文本或視頻，還可能被用來(lái)誤導(dǎo)選民、冒充候選人并以前所未有的規(guī)模和速度破壞選舉，誹謗候選人，甚至煽動(dòng)暴力。

中佛羅里達(dá)大學(xué)研究生院教授兼副院長(zhǎng)提摩太·塞爾諾博士表示，AI制造出的“深度造假”內(nèi)容看起來(lái)非常真實(shí)，即使對(duì)專家來(lái)說(shuō)，確定它們的真實(shí)性也是一個(gè)挑戰(zhàn)。

與此同時(shí)，選民們被AI捏造的視頻淹沒(méi)，如果社交媒體平臺(tái)故意或錯(cuò)誤地允許AI修改或生成的信息在其網(wǎng)絡(luò)上逗留并肆意傳播，選民對(duì)其信任度可能會(huì)進(jìn)一步降低。美國(guó)網(wǎng)絡(luò)安全公司預(yù)測(cè)，試圖干預(yù)美國(guó)選舉的團(tuán)體將利用AI和合成媒體作為侵蝕信任的一種方式。

“內(nèi)容認(rèn)證”標(biāo)準(zhǔn)尚在制訂

《福布斯》網(wǎng)站在報(bào)道中指出，生成式AI相關(guān)行業(yè)正在制訂“內(nèi)容認(rèn)證”標(biāo)準(zhǔn)，使用戶驗(yàn)證數(shù)字內(nèi)容的來(lái)源，但開(kāi)發(fā)和采納這些標(biāo)準(zhǔn)還需要一些時(shí)間。

希爾指出，這是數(shù)字媒體發(fā)展的必經(jīng)階段，盡管如此，用戶在瀏覽或使用社交媒體平臺(tái)上的內(nèi)容時(shí)，必須更加謹(jǐn)慎。此外，社交媒體網(wǎng)站應(yīng)更積極地監(jiān)管AI操縱的帖子。

AI提供了顛覆性進(jìn)步的強(qiáng)大能力，但這種能力也必須被謹(jǐn)慎使用，以便更大程度發(fā)揮科技向善的力量。