2019年11月29日，我國(guó)監(jiān)管機(jī)構(gòu)宣布了在線管理視頻和音頻內(nèi)容的新規(guī)定，包括禁止發(fā)布和分發(fā)使用人工智能和虛擬現(xiàn)實(shí)等技術(shù)創(chuàng)建的“虛假新聞”。

中共中央網(wǎng)絡(luò)安全和信息化委員會(huì)辦公室（以下簡(jiǎn)稱“網(wǎng)信辦”）在其網(wǎng)站上表示，對(duì)AI或虛擬現(xiàn)實(shí)的任何使用也必須以醒目的方式清楚標(biāo)記，并且不遵守規(guī)則可能被視為刑事犯罪。

該規(guī)則于1月1日生效，于上周發(fā)布給在線視頻和音頻服務(wù)提供商后，于周五在其網(wǎng)站上公開發(fā)布。

網(wǎng)信辦特別強(qiáng)調(diào)了換臉視頻技術(shù)所引起的潛在問題，該技術(shù)使用AI來創(chuàng)建超逼真的視頻，它能夠改變用戶自拍照的年齡、外貌、發(fā)色和性別，甚至可以生成虛構(gòu)的人物照片。

根據(jù)網(wǎng)信辦網(wǎng)站上發(fā)布的新聞發(fā)布會(huì)的筆錄，換臉視頻技術(shù)可能“危害國(guó)家安全，破壞社會(huì)穩(wěn)定，破壞社會(huì)秩序并侵犯他人的合法權(quán)益”。

中國(guó)最高立法機(jī)構(gòu)今年早些時(shí)候表示，正在考慮將深造技術(shù)定為非法。

9月，一個(gè)名為Zao的新中文應(yīng)用程序-允許用戶使用換臉視頻技術(shù)與名人，體育明星或視頻剪輯中的其他任何人交換面孔，發(fā)行后其下載量達(dá)到數(shù)百萬。

但是，它也迅速引起了隱私問題的注意。Zao對(duì)造成的擔(dān)憂表示歉意，但表示該應(yīng)用程序不會(huì)收集用戶的生物特征信息。

在我國(guó)，頂級(jí)的視頻平臺(tái)包括騰訊視頻，阿里巴巴旗下的優(yōu)酷和愛奇藝等視頻流服務(wù)提供商，以及快手和字節(jié)跳動(dòng)旗下的抖音等短視頻平臺(tái)。