文|陳根

技術(shù)盛行的時(shí)代里，人工智能讓社會(huì)生活的一切都顯得表觀和直接，也讓偽造走向深度和長(zhǎng)遠(yuǎn)。

作為一種基于人工智能的人體圖像合成技術(shù)，深度偽造的起初只是程序員用于自制搞笑的“換頭”視頻的簡(jiǎn)單想法。而當(dāng)兩個(gè)深度學(xué)習(xí)的算法相互疊加，最終創(chuàng)造了一個(gè)復(fù)雜的系統(tǒng)。

人工智能的進(jìn)步令這個(gè)復(fù)雜的系統(tǒng)用途也得以擴(kuò)充。從特定用戶實(shí)時(shí)匹配面部表情，并無(wú)縫切換生成換臉視頻，到其可以模仿的對(duì)象不再被限制。不論是明星政客，還是任何普通人，都可以在深度偽造技術(shù)下達(dá)到“以假亂真”的程度。

在這些應(yīng)用帶來(lái)發(fā)展機(jī)遇的同時(shí)，其背后的安全隱患也開(kāi)始放大。隨著深度偽造技術(shù)的越來(lái)越復(fù)雜，和越來(lái)越容易制作，深度造假正帶來(lái)一系列具有挑戰(zhàn)性的政策、技術(shù)和法律問(wèn)題。

一開(kāi)始，“深度偽造”并不叫“深度偽造”，而是作為一種人工智能合成內(nèi)容技術(shù)而存在。而深度合成技術(shù)是人工智能發(fā)展到一定階段的產(chǎn)物，源于人工智能系統(tǒng)生成對(duì)抗網(wǎng)絡(luò)（GAN）的進(jìn)步。

GAN由生成器和識(shí)別器兩個(gè)相互競(jìng)爭(zhēng)的系統(tǒng)組成。建立GAN的第一步是識(shí)別所需的輸出，并為生成器創(chuàng)建一個(gè)培訓(xùn)數(shù)據(jù)集。一旦生成器開(kāi)始創(chuàng)建可接受的輸出內(nèi)容，就可以將視頻剪輯提供給識(shí)別器進(jìn)行鑒別；如果鑒別出視頻是假的，就會(huì)告訴生成器在創(chuàng)建下一個(gè)視頻時(shí)需要修正的地方。

根據(jù)每次的“對(duì)抗”結(jié)果，生成器會(huì)調(diào)整其制作時(shí)使用到的參數(shù)，直到鑒別器無(wú)法辨別生成作品和真跡，以此將現(xiàn)有圖像和視頻組合并疊加到源圖像上，終于生成合成視頻。典型的“深度合成”主要包括人臉替換、人臉再現(xiàn)、人臉合成以及語(yǔ)音合成四種形式。

人臉替換也被稱為換臉，是指將某一個(gè)人的臉部圖像（源人物）“縫合”到另外一個(gè)人的臉上（目標(biāo)人物），從而覆蓋目標(biāo)人物的面部。人臉再現(xiàn)則利用深度合成技術(shù)改變?nèi)说拿娌刻卣?，包括目?biāo)對(duì)象的嘴部、眉毛、眼睛和頭部的傾斜，從而操縱目標(biāo)對(duì)象的臉部表情。

人臉合成則可以創(chuàng)建全新的人臉圖像，而這些隨機(jī)生成的人臉圖像很多都可以媲美真實(shí)的人臉圖像，甚至代替一些真實(shí)肖像的使用，比如廣告宣傳、用戶頭像等。語(yǔ)音合成涉及創(chuàng)建特定的聲音模型，不僅可以將文字轉(zhuǎn)化成聲音，而且可以轉(zhuǎn)化為接近真人語(yǔ)調(diào)和節(jié)奏的聲音。

深度合成技術(shù)的走紅，是一場(chǎng)意外。2017年，美國(guó)新聞網(wǎng)站 Reddit的一個(gè)名為“deepfakes”的用戶上傳了經(jīng)過(guò)數(shù)字化篡改的色情視頻，即這些視頻中的成人演員的臉被替換成了電影明星的臉。此后，Reddit網(wǎng)站成為了分享虛假色情視頻的一個(gè)陣地。

盡管后來(lái) Reddit網(wǎng)站上的 deepfake 論壇因?yàn)槌涑庵罅亢铣傻纳橐曨l而被關(guān)閉，但 deepfake背后的人工智能技術(shù)卻引起了技術(shù)社區(qū)的廣泛興趣，開(kāi)源方法和工具性的應(yīng)用不斷涌現(xiàn)，比如，F(xiàn)aceswap、FakeAPP、face2face等。

而從那時(shí)起，新聞媒體就開(kāi)始使用“deepfake”一詞來(lái)描述這種基于人工智能技術(shù)的合成視頻內(nèi)容。于是，基于“deepfake”技術(shù)的內(nèi)容和“deepfake”的語(yǔ)境，深度偽造由此而生。